Ahora no hay ningún momento de tu vida en el que puedas evitar la embestida de la "inteligencia artificial. "Tanto si estás intentando buscar una receta y rebuscando entre resúmenes hechos con IA como si escuchas a tu primo hablar de cómo ha despedido a su médico y lo ha sustituido por un chatbot, parece que ahora, más que nunca, la IA es la solución a todos los problemas. Pero, mientras tanto, algunas personas se están haciendo terriblemente ricas convenciendo a gente con dinero e influencia de que deben integrar la IA en sus negocios u operaciones.
Entra la aplicación de la ley.
Cuando muchos proveedores de tecnología ven a la policía, ven el signo del dólar. Las fuerzas del orden tienen los bolsillos llenos. Están sometidas a presiones políticas para hacer frente a la delincuencia. Están ansiosos por encontrar esa bala mágica que acabe con la delincuencia para siempre. Todo esto se combina para hacer de ellos un cliente perfecto para cualquier forma en que las empresas tecnológicas puedan empaquetar algoritmos de aprendizaje automático que examinen datos históricos con el fin de hacer reconocimientos, análisis o predicciones.
La IA en el ámbito policial puede adoptar muchas formas que se remontan a décadas atrás, como diversas formas de reconocimiento facial, actuación policial predictiva, análisis de datos, reconocimiento automático de disparos, etc. Pero este año se ha producido un nuevo y problemático avance en la integración entre la policía y la inteligencia artificial: los informes policiales generados por IA.
Alentados por empresas como Truleo y Axon , existe un mercado en rápido crecimiento de proveedores que utilizan un amplio modelo lingüístico para redactar informes policiales para los agentes. En el caso de Axon, esto se hace utilizando el audio de las cámaras corporales de la policía para crear informes narrativos con una intervención mínima del agente, salvo la indicación de que añada algunos detalles aquí y allá.
Escribimos sobre lo que puede ir mal cuando las ciudades empiezan a dejar que sus policías redacten informes utilizando IA. En primer lugar, no importa cuántas casillas marque la policía para decir que son responsables del contenido del informe, cuando el interrogatorio revele mentiras en un informe de la policía , los agentes tendrán ahora el barniz de la negación plausible diciendo: "la IA escribió esa parte". Después de todo, a estas alturas todos hemos oído hablar de las alucinaciones de la IA, ¿verdad? ¿Y no hacemos todos clic en las condiciones de servicio sin leerlas detenidamente?
Y tenemos muchas más preguntas. La traducción es un arte, no una ciencia, así que ¿cómo y por qué entenderá y representará esta IA cosas como el conflicto físico o importantes herramientas retóricas de la policía como las frases "deje de resistirse" y "suelte el arma", incluso si una persona está desarmada o no se resiste? ¿Entiende bien el sarcasmo? ¿La jerga? ¿Los dialectos regionales? ¿Lenguas distintas del inglés? Incluso si no está diseñado explícitamente para manejar estas situaciones, si se les deja a su aire, los agentes lo utilizarán para todos y cada uno de los informes.
Los fiscales de Washington incluso han pedido a la policía que no utilice IA para redactar informes policiales (por ahora) por temor a que los errores puedan poner en peligro los juicios.
Innumerables películas y programas de televisión han mostrado a policías odiando el papeleo y, si estas representaciones de la cultura pop son un indicador, deberíamos esperar que esta tecnología se extienda rápidamente en 2025. Por eso la EFF sigue de cerca su difusión y proporciona más información a medida que vamos conociendo cómo se utiliza.
Este artículo forma parte de nuestra serie Year in Review. Lee otros artículos sobre la lucha por los derechos digitales en 2024.
