Este artículo ha sido co-redactado por la becaria Kate Prince.
GoGuardian es una herramienta de supervisión de estudiantes que vigila a más de veintisiete millones de estudiantes en diez mil escuelas. Pero los alumnos no saben con exactitud lo que hace ni lo bien que funciona. Para obtener más información sobre su funcionalidad, precisión e impacto en los alumnos, presentamos docenas de solicitudes de registros públicos y analizamos decenas de miles de resultados del software. Utilizando datos de múltiples escuelas de estados rojos y azules, lo que descubrimos fue que, por su diseño, GoGuardian es una máquina de bandera roja: sus falsos positivos superan con creces su capacidad para determinar con precisión si el contenido de un sitio es dañino. El resultado es que decenas de miles de estudiantes son marcados por ver contenidos que no sólo son benignos, sino a menudo educativos o informativos.
Identificamos múltiples categorías de contenidos no explícitos que se marcan regularmente como nocivos o peligrosos, entre los que se incluyen: Sitios de solicitud de ingreso a la universidad y sitios web de universidades; sitios de asesoramiento y terapia; sitios con información sobre el abuso de drogas; sitios con información sobre temas LGBTQ; sitios de salud sexual; sitios con información sobre violencia armada; sitios sobre temas históricos; sitios sobre partidos y figuras políticas; sitios médicos y de salud; sitios de noticias; y sitios educativos en general.
Para ilustrar lo escandalosamente absurdo del algoritmo de señalización de GoGuardian, hemos creado el cuestionario Red Flag Machine. A partir de datos reales de GoGuardian, presentamos a los visitantes sitios web marcados y les pedimos que adivinen qué palabras clave provocaron la alerta. También hemos redactado un informe detallado sobre nuestros resultados, disponible en línea aquí (y descargable aquí).
Pero la señalización inexacta es sólo uno de los peligros del software.
¿Cómo funciona el software de control de estudiantes?
Junto con aplicaciones como Gaggle y Bark, GoGuardian se utiliza para vigilar de forma proactiva principalmente a estudiantes de secundaria y bachillerato, lo que da a los centros educativos acceso a una enorme cantidad de datos confidenciales de los estudiantes a los que la empresa también puede acceder. En algunos casos, esto incluso ha dado a los profesores la capacidad de ver los estudiantes las webcams de las grabaciones de sin su consentimiento cuando están en sus casas. En otros, este tipo de software ha calificado erróneamente el comportamiento de los alumnos como peligroso o incluso los ha delatado ante sus familias.
Aunque algunas invasiones de la intimidad y algunos errores pueden considerarse costes involuntarios de la protección de los alumnos, incluso las funciones más comunes de estas aplicaciones de control son motivo de preocupación. GoGuardian permite a las autoridades escolares rastrear tendencias en los historiales de búsqueda de los alumnos. Identifica a los alumnos supuestamente "de riesgo" y recopila datos de localización sobre dónde y cuándo se utiliza un dispositivo, lo que permite a cualquiera con acceso a los datos crear un perfil completo del estudiante. Señala a los estudiantes por actividades mundanas y envía alertas a los responsables de los centros escolares, a los padres y, potencialmente, la policía.
Estas empresas se jactan de facilitar la vida de administradores y profesores y de aumentar la seguridad de sus alumnos. En lugar de tener que desplazarse por el aula para comprobar los ordenadores de todos, los profesores pueden sentarse y ver en tiempo real la actividad en línea de sus alumnos. Pueden bloquear sitios, recibir alertas cuando los alumnos se desvían de sus tareas y enviar mensajes directamente a quienes necesiten ayuda. Y durante la pandemia, muchas de estas herramientas se ofrecidas a las escuelas free de forma gratuita-exacerbando la vigilancia al tiempo que se minimizaban las oportunidades de los alumnos y los padres de oponerse. Junto con el mayor uso de dispositivos en las escuelas que son más comunes en las comunidades marginadas, esto ha creado una atmósfera de espionaje exacerbado sobre los estudiantes.
Este problema no es nuevo. En 2015, la EFF presentó una denuncia ante la FTC de que el paquete de software Apps for Education (GAFE) de Google estaba recopilando y extrayendo datos de la información personal de los escolares, incluidas sus búsquedas en Internet. En una victoria parcial, Google cambió su discurso y comenzó a declarar explícitamente que, aunque recopilan información sobre el uso que hacen los estudiantes de los servicios que no son GAFE, tratan esa información como "información personal de los estudiantes" y no la utilizan para dirigir anuncios.
Pero el panorama ha cambiado desde entonces. El uso de software "edtech" ha crecido considerablemente, y con aplicaciones específicas de vigilancia como GoGuardian y Gaggle, las escuelas enseñan a los alumnos que no tienen derecho a la privacidad y que siempre pueden ser vigilados.
Saber cómo le vigilan -y hasta qué punto es precisa esa vigilancia- debe ser el primer paso para defenderse y proteger su privacidad. Este blog es un resumen de algunas de las funciones más comunes de GoGuardian.
GoGuardian Admin es el modo Dios para los administradores escolares
Los administradores de centros escolares que utilizan "Admin"tienen acceso casi ilimitado a enormes cantidades de datos sobre los estudiantes, incluyendo historiales de navegación, documentos, vídeos, datos de aplicaciones y extensiones, y filtrado de contenidos y alertas. No está claro por qué hay tantos datos a disposición de los administradores, pero GoGuardian facilita a los administradores escolares la visualización de información detallada sobre los estudiantes que podría seguirles durante el resto de sus vidas. (El Centro para la Democracia y la Tecnología ha publicado varios informes que indican que el software de monitoreo de estudiantes como GoGuardian es principalmente utilizado por razones disciplinarias, más que de seguridad). Los administradores también pueden configurar "alertas" para cuando un alumno vea contenidos "ofensivos", aunque no está claro qué es y qué no es "ofensivo", ni para quién. Estas alertas podrían utilizarse para coartar el derecho a la información que la Primera Enmienda reconoce a los alumnos; por ejemplo, si un centro decide que cualquier contenido de un partido político de la oposición o relacionado con la comunidad LGBTQ es perjudicial, puede impedir que los alumnos lo vean. Estas banderas y filtros pueden aplicarse a todos los alumnos o individualizarse para alumnos concretos, y permiten a los administradores ver todo lo que un alumno mira en Internet.
GoGuardian afirma que desidentifican los datos antes de compartirlos con terceros u otras entidades. Pero estos datos pueden ser fácilmente rastreados hasta un individuo. Esto significa que los anunciantes podrían dirigirse a los estudiantes en función de su uso de Internet, algo explícitamente prohibido por la ley federal y en el los estudiantes privacidad de compromiso de asumido por muchas empresas de tecnología educativa.
Profesor de GoGuardian: Una lección de vigilancia 24/7
GoGuardian ofrece a los profesores una visión en tiempo real de las pantallas de sus alumnos y les permite bloquear cualquier sitio web para individuos o grupos. Los alumnos no tienen forma de excluirse de las escenas y no tienen que confirmar que saben que están siendo vigilados. La única indicación es la aparición de una extensión en su navegador.
Esta vigilancia puede realizarse tanto si el alumno está en el colegio como si no. Las "escenas" pueden durar ocho horas y pueden programarse con antelación para que comiencen en cualquier momento del día o de la noche, y si un profesor programa una escena para que comience inmediatamente después de la siguiente, podría vigilar a un alumno las 24 horas del día, los 7 días de la semana. Durante una escena, GoGuardian recopila registros minuto a minuto de lo que hay en la pantalla de un alumno y de las pestañas que tiene abiertas, todo lo cual puede verse fácilmente en una línea de tiempo.
GoGuardian no se responsabiliza de estos abusos potenciales de su tecnología, en su lugar dando a los administradores escolares la responsabilidad de anticiparse a los abusos y poner en marcha sistemas para prevenirlos. Mientras tanto, GoGuardian sigue accediendo a los datos y recopilándolos.
GoGuardian Beacon: Sustituir a los trabajadores sociales por el Gran Hermano
La herramienta "Beacon" de GoGuardian supuestamente utiliza el aprendizaje automático y la IA para supervisar el comportamiento de los estudiantes en busca de términos clave marcados, rastrear su historial y proporcionar análisis sobre su probabilidad de cometer actos perjudiciales para sí mismos o para otros. GoGuardian afirma que puede detectar estudiantes que están en riesgo e "identificar comportamientos en línea de los estudiantes que podrían ser indicativos de suicidio o autolesión". En lugar de gastar dinero en una inversión en trabajadores sociales y orientadores, personas formadas para detectar este mismo comportamiento, GoGuardian afirma que las escuelas pueden confiar en sus herramientas para hacerlo con algoritmos.
GoGuardian ofrece pruebas anecdóticas de que el sistema funciona, pero según nuestras investigaciones, el sistema de alerta de Beacon puede no ser mucho más preciso que sus otras funciones de alerta. Y aunque las escuelas pueden determinar a quién envía las alertas Beacon, si ese personal no está formado en salud mental, puede que no sea capaz de determinar si la alerta es precisa, lo que podría dar lugar a intervenciones inadecuadas por parte de los administradores escolares que creen erróneamente que un estudiante se encuentra en la fase de "planificación activa" de un acto dañino. Si se acusa a un alumno de planear un tiroteo en la escuela cuando en realidad estaba investigando armas utilizadas durante acontecimientos históricos, o de planear un suicidio cuando no era así, es probable que ese alumno no confíe en la administración en el futuro y sienta que se ha violado su intimidad. Puede obtener más información sobre GoGuardian Beacon en este documental detallado de VICE News.
Proteger primero a los estudiantes
Las escuelas deben ser lugares seguros para los estudiantes, pero también deben ser lugares donde los estudiantes se sientan seguros explorando ideas. El software de vigilancia de estudiantes no sólo obstaculiza esa exploración, sino que pone en peligro a quienes ya son vulnerables. Sabemos que será una ardua batalla proteger a los estudiantes del software de vigilancia. Aun así, esperamos que esta investigación ayude a las personas en posiciones de autoridad, como funcionarios del gobierno y administradores escolares, así como padres y estudiantes, a presionar para que las empresas que fabrican este software mejoren, o abandonen por completo su uso.
HAZ EL TEST DE LA RED FLAG MACHINE
Obtenga más información sobre nuestras conclusiones en nuestro informe detallado.
