La semana pasada, Apple anunció varias  nuevas funciones con el pretexto de ampliar sus protecciones para los jóvenes, y al menos dos de ellas suponen un grave retroceso en el compromiso de la empresa de proteger la privacidad de los usuarios. Uno de los planes - escanear las fotos enviadas a y desde las cuentas de los niños en la aplicación de IOS Mensajes - rompe la promesa de Apple de ofrecer cifrado de extremo a extremo en la mensajería. Y cuando se rompen estas promesas, inevitablemente se abre la puerta a otros daños; eso es lo que hace que romper el cifrado sea tan insidioso.

Los objetivos de Apple son loables: proteger a los niños frente a los extraños que utilizan las herramientas de comunicación para reclutarlos y explotarlos, y limitar la difusión de material de abuso sexual infantil. Y no cabe duda de que no existen respuestas fáciles cuando se trata de poner en peligro a los niños. Pero el escaneo y la señalización de las imágenes de Mensajes creará, lamentablemente, un serio potencial de peligro para los niños y las parejas de los hogares abusivos. Además de abrir un agujero de seguridad en Mensajes, ignora la realidad de dónde se producen los abusos con mayor frecuencia, cómo se producen las comunicaciones peligrosas y qué es lo que realmente quieren los jóvenes para sentirse seguros en línea.

Cómo funciona el escaneo de mensajes

En teoría, la función funciona así: cuando se envían fotos a través de Mensajes entre usuarios menores de cierta edad (13 años), esas fotos serán analizadas por un algoritmo de aprendizaje automático. Si el algoritmo determina que la foto contiene material "sexualmente explícito", ofrecerá al usuario una opción: no recibir o enviar la foto, y no pasa nada; o elegir recibir o enviar la foto, y se notificará a la cuenta de los padres en el plan Compartir en Familia. El sistema también escanea las fotos de usuarios de entre 13 y 17 años, pero solo advierte al usuario de que está enviando o recibiendo una foto explícita, no a los padres. 

La función de escaneo de fotos de Mensajes tiene tres limitaciones destinadas a proteger a los usuarios. La función requiere que el padre o la madre del plan de Uso compartido de la familia acepte; permite que la cuenta infantil decida no enviar ni recibir la imagen; y solo se aplica a los usuarios de Mensajes designados como niños. Pero es importante recordar que Apple podría cambiar estas protecciones en el futuro, y no es difícil para un organizador del plan Compartir en Familia crear una cuenta infantil y forzar (o convencer) a cualquier persona, niño o no, a usarla, permitiendo fácilmente el espionaje de los no niños.

Los niños necesitan herramientas para denunciar los abusos en la aplicación

Los niños experimentan un mal comportamiento en Internet y quieren denunciarlo. Un estudio reciente del Centro para la Democracia y la Tecnología concluye que las denuncias de los usuarios a través de mecanismos de denuncia en línea son eficaces para detectar "contenidos problemáticos en los servicios E2EE [cifrados de extremo a extremo], incluidos los mensajes abusivos y de acoso, el spam, la desinformación y el CSAM". Y, cuando se les da la opción de utilizar herramientas en línea para hacerlo, frente a informar a un tutor fuera de línea, prefieren abrumadoramente utilizar las herramientas en línea. La creación de un mejor sistema de denuncia como éste pondría a los usuarios en control, y los niños son usuarios.

Pero el plan de Apple no ayuda a ello. En cambio, trata a los niños como víctimas de la tecnología, y no como sus usuarios. Apple propone lo peor de los dos mundos: la empresa inserta su herramienta de escaneo en las relaciones privadas entre los padres y sus hijos, y entre los niños y sus amigos que buscan material "explícito", al tiempo que ignora un poderoso método para manejar el asunto. Una función de denuncia más sólida requeriría un trabajo real, y un buen sistema de admisión. Pero un sistema bien diseñado podría satisfacer las necesidades de los usuarios más jóvenes, sin violar las expectativas de privacidad.

Las investigaciones demuestran que los padres son un peligro mayor para los niños que los desconocidos

El esquema de notificaciones de Apple tampoco hace nada para abordar el peligro real en muchos casos.  Por supuesto, la inmensa mayoría de los padres velan por los intereses de sus hijos. Pero el hogar y la familia son estadísticamente los lugares más propensos a la agresión sexual, y diversas investigaciones indican que los programas de prevención del abuso sexual y de educación en seguridad en línea no pueden dar por sentado que los padres son protectores. Desgraciadamente, es más probable que los padres sean los productores de material de abuso sexual infantil (CSAM) que los extraños.

Además, dar a los padres más información sobre la actividad en línea de un niño, sin permitirle primero que lo denuncie por sí mismo, puede conducir al maltrato, especialmente en situaciones que involucran a los niños LGBTQ+ o a los que viven en hogares abusivos. Sacar del closet a los jóvenes que exploran su orientación sexual o su género de una forma que sus padres no aprueban tiene consecuencias desastrosas. La mitad de los jóvenes LGBTQ sin hogar que participaron en un estudio dijeron que temían que expresar su identidad LGBTQ+ a los miembros de la familia les llevara a ser desalojados, y un gran porcentaje de jóvenes LGBTQ+ sin hogar se vieron obligados a abandonar sus hogares debido a su orientación sexual o género. Dejar que el niño determine si quiere denunciar un encuentro en línea y a quién, le da la opción de decidir cómo quiere manejar la situación, y de decidir si el peligro viene de fuera, o de dentro, de la casa.

No es difícil pensar en otros escenarios en los que esta función de notificación podría poner en peligro a los jóvenes. Cómo va a diferenciar Apple a un niño de diez años que comparte una foto que documenta los moretones que le han hecho sus padres en lugares normalmente ocultos por la ropa - que es una forma que tienen los abusadores de ocultar sus abusos - de una foto de un desnudo que podría provocar que le hicieran sexting?

Los niños no son el único grupo en peligro por el plan de Apple

Desgraciadamente, no solo los niños se verán en peligro por este sistema de notificación. Una persona en un hogar abusivo, independientemente de la edad, podría verse obligada a utilizar una cuenta "infantil", abriendo a los usuarios de Mensajes a un abuso tecnológico que se encuentra más a menudo en el software de acoso. Aunque el enfoque de Apple de bloquear las aplicaciones ha hecho que sea menos probable que alguien instale este tipo de herramientas de espionaje en el iPhone de otra persona, esta nueva función deshace parte de esa seguridad. Una vez configurada, un miembro abusivo de la familia podría asegurarse de que su pareja u otro miembro de la casa no envíe ninguna foto que Apple considere sexualmente explícita a otras personas, sin que se les notifique.

Por último, si otros algoritmos destinados a encontrar imágenes sexualmente explícitas son una indicación, Apple probablemente barrerá todo tipo de contenido no explícito con esta función. Notificar a un padre que un niño está enviando material explícito cuando no lo está haciendo también podría suponer un verdadero peligro. Y aunque nos alegramos de que el esquema de notificaciones de Apple se detenga a los doce años, incluso los adolescentes que solo verán una advertencia cuando envíen o reciban lo que Apple considera una foto sexualmente explícita podrían verse perjudicados. ¿Qué impacto tiene que una joven reciba una advertencia de que una foto en traje de baño que está compartiendo con una amiga es sexualmente explícita? ¿O fotos de lactancia materna? ¿O fotos de desnudos? ¿O fotos de protesta?

Los jóvenes son usuarios, no peones

El plan de Apple forma parte de una tendencia creciente y preocupante. Los proveedores de tecnología se introducen cada vez con más frecuencia en los ámbitos de la vida en los que la vigilancia está más aceptada y en los que los desequilibrios de poder son la norma: en nuestros lugares de trabajo, nuestras escuelas y nuestros hogares. Es posible que estas tecnologías ayuden a resolver esos desequilibrios de poder, pero en lugar de ello, suelen ofrecer capacidades de espionaje, vigilancia y acoso a los que tienen el poder.

Esto tiene consecuencias importantes para el futuro de la privacidad. Mientras más se vigila a los jóvenes con nuestra tecnología, más difícil resulta defender la privacidad en cualquier otro lugar. Y si mostramos a los jóvenes que la privacidad no es algo que se merecen, les resultará demasiado fácil aceptar la vigilancia como norma, a pesar de que a menudo es parcial, peligrosa y destructiva de nuestros derechos. La seguridad de los niños es importante. Pero es igualmente importante no utilizar la seguridad de los niños como excusa para limitar peligrosamente la privacidad de todos los usuarios. 

Al romper la promesa de privacidad de que sus mensajes son seguros, introduciendo una puerta trasera que los gobiernos pedirán que se amplíe, e ignorando el daño que su esquema de notificaciones causará, la compañía está arriesgando no sólo su imagen de protección de la privacidad en el mundo de la tecnología, sino también la seguridad de sus jóvenes usuarios.