Las políticas destinadas a fomentar los procesos de gobierno digital están ganando tracción en América Latina, a nivel local y regional. Si bien estas iniciativas pueden agilizar el acceso a los servicios públicos, también pueden hacerlos menos accesibles, menos claros y poner en riesgo los derechos fundamentales de las personas. A medida que avanzamos, debemos hacer hincapié en la transparencia y las garantías de privacidad y protección de datos durante los procesos de transición digital de los gobiernos.
Enfoque regional en la digitalización
En noviembre, la Novena Conferencia Ministerial sobre la Sociedad de la Información en América Latina y el Caribe aprobó la Agenda Digital 2026 para la región (eLAC 2026). Esta iniciativa se desarrolla en el seno de la Comisión Económica para América Latina y el Caribe (CEPAL) de las Naciones Unidas, un foro de cooperación regional centrado en impulsar el desarrollo económico de los países de ALC.
Uno de los pilares temáticos del eLAC 2026 es la transformación digital del Estado, incluyendo la digitalización de los procesos y servicios gubernamentales para mejorar la eficiencia, la transparencia, la participación ciudadana y la rendición de cuentas. La agenda digital también apunta a mejorar los sistemas de identidad digital para facilitar el acceso a los servicios públicos y promover los servicios digitales transfronterizos en un marco de integración regional. En este contexto, la agenda señala la voluntad de los países de implementar políticas que fomenten el intercambio de información, garantizando la privacidad, la seguridad y la interoperabilidad de los sistemas digitales gubernamentales, con el objetivo de utilizar y aprovechar los datos para la toma de decisiones, el diseño de políticas y la gobernanza.
Este proceso regional refleja y alimenta las iniciativas nacionales que también han cobrado fuerza en América Latina en los últimos años. Los incentivos a la transformación digital de los gobiernos toman forma en el contexto de la mejora de la eficiencia gubernamental. Es fundamental matizar qué significa eficiencia en la práctica. A menudo, "eficiencia" ha significado recortes presupuestarios o reducir el acceso a los procesos y beneficios públicos a expensas de los derechos fundamentales. La promoción de los derechos fundamentales debería guiar la métrica de un Estado en cuanto a lo que es eficiente y exitoso.
Así, aunque la digitalización puede desempeñar un papel importante a la hora de agilizar el acceso a los servicios públicos y facilitar el disfrute de los derechos, también puede hacer más complejo para las personas acceder a esos mismos servicios y, en general, interactuar con el Estado. Los más vulnerables son los que más necesitan que esa interacción funcione bien y los que tienen un contexto inusual que a menudo no se acomoda a la tecnología que se utiliza. También son la población más propensa a tener un acceso escaso a las tecnologías digitales y unas competencias digitales limitadas.
Además, aunque la integración adecuada de las tecnologías digitales en los procesos y rutinas gubernamentales conlleva el potencial de mejorar la transparencia y la participación ciudadana, no es un resultado garantizado. Requiere voluntad gubernamental y políticas orientadas a estos objetivos. De lo contrario, la digitalización puede convertirse en una capa adicional de complejidad y distancia entre los ciudadanos y el Estado. Mejorar la transparencia y la participación implica concebir a las personas no sólo como usuarias de los servicios gubernamentales, sino como participantes en el diseño e implementación de las políticas públicas, lo que incluye las relacionadas con la transición digital de los Estados.
El aprovechamiento de la identidad digital y los sistemas de interoperabilidad de datos suelen considerarse parte natural de los planes de digitalización de las administraciones públicas. Sin embargo, deben tomarse con cautela. Como hemos destacado, las inversiones de los Estados en la implantación de estos sistemas no van necesariamente acompañadas de salvaguardias eficaces y sólidas de la privacidad de los datos, a pesar de que pueden ampliarse a un régimen potencial de rastreo de datos sin precedentes. Entre otras recomendaciones y líneas rojas, es crucial apoyar el derecho de cada persona a elegir seguir utilizando documentación física en lugar de digitalizarse.
Este conjunto de preocupaciones subraya la importancia de contar con una estructura institucional y normativa subyacente para defender los derechos fundamentales en los procesos de transición digital. Dicha estructura implica garantías sólidas de transparencia y privacidad de los datos respaldadas por autoridades de supervisión equipadas y facultadas. Sin embargo, los Estados a menudo descuidan el papel crucial de esa combinación. En 2024, México nos brindó un ejemplo notorio de ello. Justo cuando el nuevo gobierno mexicano ha tomado medidas para avanzar la transformación digital del país, también ha avanzado el cierre de autoridades de supervisión independientes clave, como el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI).
Digitalización y uso gubernamental de sistemas algorítmicos con fines de afectación de derechos
Las estrategias de IA aprobadas en diferentes países de América Latina muestran cómo el fomento del uso gubernamental de la IA es una palanca importante para los planes nacionales de IA y un componente de los procesos de digitalización gubernamental.
En octubre 2024, Costa Rica fue el primer país centroamericano en lanzar una estrategia de IA. Uno de los ejes estratégicos, denominado "Gobierno Inteligente", se centra en promover el uso de la IA en el sector público. El documento destaca que la incorporación de tecnologías emergentes en la administración pública permitirá optimizar la toma de decisiones y automatizar las tareas burocráticas. También prevé la prestación de servicios personalizados a los ciudadanos, de acuerdo con sus necesidades específicas. Este proceso incluye no sólo la automatización de los servicios públicos, sino también la creación de plataformas inteligentes que permitan una interacción más directa entre los ciudadanos y la Administración.
Por su parte, Brasil ha actualizado su estrategia de IA y publicó en julio el Plan de IA 2024-2028. Uno de los ejes se centra en el uso de la IA para mejorar los servicios públicos. El plan brasileño también indica la personalización de los servicios públicos ofreciendo a los ciudadanos contenidos contextuales, específicos y proactivos. Implica infraestructuras de datos estatales y la implantación de la interoperabilidad de datos entre instituciones gubernamentales. Algunos de los proyectos basados en IA propuestos en el plan incluyen el desarrollo de la detección precoz de enfermedades neurodegenerativas y un sistema de "predecir y proteger" para evaluar la trayectoria escolar o universitaria de los estudiantes.
Cada una de estas acciones puede tener beneficios potenciales, pero también conlleva importantes retos y riesgos para los derechos humanos. Éstos tienen que ver con la enorme cantidad de datos personales, incluidos datos sensibles, que esos sistemas pueden procesar y cruzar para ofrecer servicios personalizados, posibles sesgos y un tratamiento desproporcionado de los datos en los sistemas de evaluación de riesgos, así como incentivos hacia la problemática suposición de que la automatización puede sustituir a la interacción de persona a persona entre los gobiernos y su población. Las decisiones sobre cómo recopilar datos y qué tecnologías adoptar son, en última instancia, políticas, aunque generalmente se traten como técnicas y estén alejadas del debate político.
Un paso básico importante está relacionado con la transparencia gubernamental sobre los sistemas de IA que utilizan las instituciones públicas o que forman parte de programas piloto. Transparencia que, como mínimo, debe ir desde informar activamente a la población de que estos sistemas existen, con detalles críticos sobre su diseño y funcionamiento, hasta información cualificada e indicadores sobre sus resultados e impactos.
A pesar de la creciente adopción de sistemas algorítmicos por parte de organismos públicos en América Latina (por ejemplo, una investigación de 2023 mapeó 113 sistemas gubernamentales de ADM en uso en Colombia), las iniciativas sólidas de transparencia están apenas en sus inicios. Chile destaca en este sentido con su repositorio de algoritmos públicos , mientras que Brasil lanzó el Observatorio Brasileño de IA (OBIA) en 2024. Al igual que el regional ILIA (Índice Latinoamericano de Inteligencia Artificial) , OBIA presenta datos significativos para medir el estado de adopción y desarrollo de los sistemas de IA en Brasil, pero aún no contiene información detallada sobre los sistemas basados en IA que utilizan las entidades gubernamentales.
La aplicación más problemática y controvertida desde el punto de vista de los derechos humanos y la rendición de cuentas es el uso gubernamental de la IA en actividades relacionadas con la seguridad.
Vigilancia gubernamental y tecnologías emergentes
Durante 2024, el nuevo gobierno de Argentina, presidido por Javier Milei, aprobó una serie de leyes que regulan las capacidades de vigilancia cibernética y de IA de sus fuerzas policiales. Una de ellas, emitida en mayo , estipula cómo las fuerzas policiales deben llevar a cabo el "ciberpatrullaje", o Inteligencia de Fuentes Abiertas (OSINT, por sus siglas en inglés), para prevenir delitos. Las actividades de OSINT no implican necesariamente el uso de IA, pero ha integrado cada vez más modelos de IA de , ya que facilitan el análisis de enormes cantidades de datos. Aunque la OSINT tiene usos importantes y legítimos, incluido el periodismo de investigación, su aplicación con fines de vigilancia gubernamental ha suscitado muchas preocupaciones y ha dado lugar a abusos .
Otro reglamento publicado en julio creó la "Unidad de Inteligencia Artificial Aplicada a la Seguridad" (UIAAS). Entre las competencias de la nueva agencia se incluye "patrullar redes sociales abiertas, aplicaciones y sitios de Internet ", así como "utilizar algoritmos de aprendizaje automático para analizar datos históricos de delitos y así predecir delitos futuros". Organizaciones de la sociedad civil argentina, como el Observatorio de Derecho Informático Argentino, la Fundación Vía Libre y Access Now, han acudido a los tribunales para hacer valer su derecho a acceder a la información sobre la nueva unidad creada.
La persistente opacidad y la falta de remedios efectivos a los abusos en el uso gubernamental de las tecnologías de vigilancia digital en la región llamaron a la acción de la Relatoría Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH). La Relatoría Especial llevó a cabo una consulta para recibir aportes sobre los abusos de la vigilancia digital, el estado de la legislación sobre vigilancia digital, el alcance del mercado de la vigilancia privada en la región, los desafíos en materia de transparencia y rendición de cuentas, así como brechas y recomendaciones sobre mejores prácticas. La EFF se ha sumado a las entrevistas con expertos y ha enviado comentarios en el proceso de consulta. El informe final se publicará el próximo año con importantes análisis y recomendaciones.
Avanzando: Basándose en las normas interamericanas de derechos humanos para un uso gubernamental adecuado de la IA en América Latina
Teniendo en cuenta este contexto más amplio de desafíos, lanzamos un informe exhaustivo sobre la aplicación de las Normas Interamericanas de Derechos Humanos al uso gubernamental de sistemas algorítmicos para determinaciones basadas en derechos. Profundizando en las decisiones de la Corte Interamericana y los informes de la CIDH, proporcionamos orientación sobre lo que las instituciones estatales deben tener en cuenta al evaluar si y cómo desplegar sistemas de IA y ADM para determinaciones que potencialmente afectan a los derechos de las personas.
Detallamos lo que significan los compromisos de los Estados en el marco del Sistema Interamericano cuando los órganos estatales deciden implementar tecnologías de IA/ADM para determinaciones basadas en derechos. Explicamos por qué esta adopción debe cumplir los principios necesarios y proporcionados , y qué implica esto. Destacamos lo que significa tener un enfoque de derechos humanos en las políticas estatales basadas en IA, incluidas las líneas rojas cruciales para no seguir adelante con su despliegue. Explicamos las implicaciones para los derechos humanos a partir de los derechos fundamentales consagrados en la Convención Americana sobre Derechos Humanos y el Protocolo de San Salvador, estableciendo un marco operativo para su debida aplicación.
Con base en el informe, nos hemos conectado con instituciones de supervisión, uniéndonos a capacitaciones para fiscales públicos en México y fortaleciendo los lazos con la Defensoría Pública del estado de São Paulo, Brasil. Nuestro objetivo es proporcionar insumos para su adecuada adopción de sistemas de IA/ADM y para el cumplimiento de su papel como entidades de interés público en relación con el uso gubernamental de sistemas algorítmicos en general.
Mejorar la supervisión pública del despliegue estatal de tecnologías que afectan a los derechos en un contexto de marcada digitalización gubernamental es esencial para la elaboración democrática de políticas y la actuación gubernamental alineada con los derechos humanos. La sociedad civil también desempeña un papel fundamental, y seguiremos trabajando para concienciar sobre las posibles repercusiones, presionando para que los derechos se refuercen, no se erosionen, a lo largo de todo el proceso.
Este artículo forma parte de nuestra serie Year in Review. Lee otros artículos sobre la lucha por los derechos digitales en 2024.
