Una categoría creciente de software, aplicaciones y dispositivos está normalizando la vigilancia de principio a fin en cada vez más aspectos de la vida cotidiana. En la EFF las llamamos "tecnologías disciplinarias". Suelen aparecer en los ámbitos de la vida en los que la vigilancia está más aceptada y en los que los desequilibrios de poder son la norma: en nuestros lugares de trabajo, nuestras escuelas y nuestros hogares. En el trabajo, el "bossware" de control de los empleados pone en riesgo la privacidad y la seguridad de los trabajadores con funciones invasivas de seguimiento del tiempo y de "productividad" que van mucho más allá de lo necesario y proporcionado para gestionar una plantilla. En la escuela, programas como la supervisión remota y el control de las redes sociales siguen a los estudiantes a casa y a otras partes de su vida en línea. Y en el hogar, el stalkerware, las aplicaciones de control parental "kidware", los sistemas de vigilancia del hogar y otras tecnologías de consumo vigilan y controlan a las parejas íntimas, a los miembros del hogar e incluso a los vecinos. En todos estos entornos, los sujetos y las víctimas a menudo no saben que están siendo vigilados, o son coaccionados por sus jefes, administradores, parejas u otras personas con poder sobre ellos.

Las tecnologías disciplinarias se comercializan a menudo con fines benignos: controlar el rendimiento, confirmar el cumplimiento de las políticas y expectativas o garantizar la seguridad. Pero en la práctica, estas tecnologías son violaciones no consentidas de la autonomía y la intimidad del sujeto, normalmente con una vaga conexión con sus objetivos declarados (y sin ninguna prueba de que puedan alcanzarlos realmente). En conjunto, recogen diferentes aspectos de una misma tendencia más amplia: la aparición de tecnología de uso generalizado que facilita más que nunca que la gente normal pueda rastrear, controlar y castigar a otros sin su consentimiento.

La aplicación de tecnologías disciplinarias no cumple las normas de consentimiento informado, voluntario y significativo. En los lugares de trabajo y en las escuelas, los sujetos pueden enfrentarse al despido, la suspensión u otros castigos severos si se niegan a utilizar o instalar determinados programas informáticos, y la elección entre una vigilancia invasiva y la pérdida del trabajo o de la educación no es una elección en absoluto. El hecho de que la vigilancia se lleve a cabo en un dispositivo propiedad del lugar de trabajo o de la escuela o en uno personal es irrelevante para la forma en que pensamos en la tecnología disciplinaria: la privacidad es un derecho humano, y la vigilancia atroz lo viola independientemente del dispositivo o la red en que se lleve a cabo.

E incluso cuando sus víctimas podrían tener suficiente poder para decir que no, la tecnología disciplinaria busca una forma de eludir el consentimiento. Con demasiada frecuencia, el software de vigilancia está diseñado deliberadamente para engañar al usuario final haciéndole creer que no está siendo vigilado, y para frustrarlo si toma medidas para eliminarlo. En ningún lugar es esto más cierto que en el caso del stalkerware y el kidware, que, la mayoría de las veces, son exactamente las mismas aplicaciones utilizadas de diferentes maneras.

La tecnología disciplinaria no es nada nuevo. El uso de programas informáticos de vigilancia en los lugares de trabajo y de tecnología educativa en las escuelas, por ejemplo, lleva años aumentando. Pero la pandemia ha acelerado el uso de la tecnología disciplinaria bajo la premisa de que, si no es posible la supervisión en persona, la vigilancia a distancia, cada vez más invasiva, debe ocupar su lugar. Este grupo de tecnologías y las normas que refuerzan se están convirtiendo en la corriente principal, y debemos abordarlos en su conjunto.

Para determinar hasta qué punto ciertos programas, aplicaciones y dispositivos encajan en este paraguas, examinamos algunas áreas clave:

La vigilancia es la cuestión. Las tecnologías disciplinarias comparten objetivos similares. La invasión de la privacidad por parte de la tecnología disciplinaria no es un accidente ni una externalidad: la capacidad de vigilar a los demás sin su consentimiento, pillarlos in fraganti y castigarlos es un argumento de venta del sistema. En particular, las tecnologías disciplinarias tienden a crear objetivos y oportunidades para castigarlos donde antes no existían.

Esta distinción es especialmente importante en las escuelas. Algunas tecnologías educativas, aunque inviten a terceros y recojan datos de los alumnos en segundo plano, siguen sirviendo para fines educativos o para el aula. Pero cuando el objetivo declarado es la vigilancia afirmativa de los estudiantes -mediante el reconocimiento facial, el registro de teclas, el seguimiento de la ubicación, la supervisión de los dispositivos, el seguimiento de las redes sociales, etc.- lo consideramos una tecnología disciplinaria.

Audiencias de consumidores y empresas. Las tecnologías disciplinarias suelen ser comercializadas y utilizadas por consumidores y entidades empresariales a título privado, y no por la policía, el ejército u otros grupos que tradicionalmente asociamos con la vigilancia o el castigo por mandato del Estado. Esto no quiere decir que las fuerzas del orden y el Estado no utilicen la tecnología con el único fin de vigilar y disciplinar, o que la utilicen siempre con fines aceptables. Lo que hacen las tecnologías disciplinarias es ampliar ese uso indebido.

Con la mayor promoción y aceptación de estas herramientas intrusivas, los ciudadanos de a pie y las instituciones privadas de las que dependen se diputan cada vez más para hacer cumplir las normas y castigar las desviaciones. Nuestros lugares de trabajo, escuelas, hogares y barrios están llenos de cámaras y micrófonos. Nuestros dispositivos personales están bloqueados para evitar que podamos contradecir las instrucciones que otros han introducido en ellos. Se insta a los ciudadanos a convertirse en policías, en un mundo digital cada vez más equipado para las necesidades de un futuro estado policial.

Impacto discriminatorio. Las tecnologías disciplinarias perjudican de forma desproporcionada a los grupos marginados. En el lugar de trabajo, la vigilancia más distópica se aplica a los trabajadores con menos poder. En las escuelas, programas como la supervisión a distancia perjudican a los estudiantes discapacitados, a los estudiantes negros y morenos y a los estudiantes que no tienen acceso a una conexión estable a Internet o a una sala dedicada a la realización de exámenes. Ahora, mientras las escuelas reciben fondos de ayuda para el COVID, los proveedores de vigilancia están impulsando costosas herramientas que discriminarán desproporcionadamente a los estudiantes que ya tienen más probabilidades de ser afectados por la pandemia. Y en el hogar, son las mujeres, los niños y los ancianos los que con mayor frecuencia (aunque no exclusivamente) son objeto de la vigilancia y el control no consensuados más abusivos.

Y al final, no está claro que las tecnologías disciplinarias funcionen siquiera para sus usos anunciados. El bossware no mejora de forma concluyente los resultados empresariales, sino que afecta negativamente a la satisfacción y el compromiso laboral de los empleados. Del mismo modo, el software de supervisión de exámenes no detecta ni previene las trampas con precisión, sino que produce falsos positivos y sobrecarga. Y hay pocas o ninguna prueba independiente de que la vigilancia escolar sea una medida de seguridad eficaz, pero sí muchas pruebas de que la vigilancia de los estudiantes y los niños disminuye la percepción de seguridad, equidad y apoyo, afecta negativamente a los resultados académicos y puede tener un efecto paralizante sobre el desarrollo que afecta de forma desproporcionada a los grupos minoritarios y a las mujeres jóvenes. Si el objetivo es simplemente utilizar la vigilancia para dar a las figuras de autoridad aún más poder, entonces podría decirse que la tecnología disciplinaria "funciona", pero a un gran coste para sus objetivos involuntarios y para la sociedad en su conjunto.

El camino a seguir

Combatir una sola tecnología disciplinaria a la vez no funcionará. Cada caso de uso es otra cabeza de la misma hidra que refleja los mismos impulsos y tendencias de vigilancia. Si luchamos estrictamente contra las aplicaciones de stalkerware pero dejamos que el kidware y el bossware sigan funcionando, la tecnología fundamental seguirá estando a disposición de quienes deseen abusar de ella con impunidad. Y la lucha contra la vigilancia de los estudiantes por sí sola es insostenible cuando el bossware académico puede seguir filtrándose en los entornos escolares y académicos.

Los típicos gritos de guerra en torno a la elección del usuario, la transparencia y las estrictas normas de privacidad y seguridad no son remedios completos cuando la vigilancia es el argumento de venta del consumidor. Para solucionar la propagación de la tecnología disciplinaria se necesita una medicina más fuerte. Tenemos que combatir la creciente creencia, financiada por los creadores de la tecnología disciplinaria, de que espiar a tus colegas, estudiantes, amigos, familiares y vecinos mediante el subterfugio, la coacción y la fuerza es de alguna manera un comportamiento aceptable para una persona u organización. Tenemos que mostrar lo endebles que son las promesas de las tecnologías disciplinarias; lo perjudicial que puede ser su aplicación; y cómo, por cada escenario supuestamente razonable que describe su brillante publicidad, la realidad es que el mal uso es la norma, no la excepción.

En la EFF estamos trabajando para elaborar soluciones a los problemas de la tecnología disciplinaria, desde exigir a las empresas de antivirus y a las tiendas de aplicaciones que reconozcan el software espía de forma más explícita, pasando por presionar a las empresas para que diseñen para casos de abuso, hasta exponer el mal uso de la tecnología de vigilancia en nuestras escuelas y en nuestras calles. Las herramientas que dan poder a las máquinas por encima de la gente corriente son una inversión enfermiza de cómo debería funcionar la tecnología. Será necesario que los tecnólogos, los consumidores, los activistas y la ley pongan remedio.