CIVICUS conversa con Nadia Benaissa, asesora jurídica de Bits of Freedom, sobre los riesgos que plantea la inteligencia artificial (IA) para los derechos humanos y el papel que está desempeñando la sociedad civil en el desarrollo de un marco jurídico para la gobernanza de la IA.
Fundada en 2000, Bits of Freedom es una organización de la sociedad civil (OSC) holandesa que tiene como objetivo proteger los derechos a la privacidad y a la libertad de comunicación influyendo sobre la legislación y la política tecnológica, asesorando sobre políticas, generando conciencia y emprendiendo acciones legales. Bits of Freedom también participó en las negociaciones de la Ley de Inteligencia Artificial de la Unión Europea.
¿Qué riesgos plantea la IA para los derechos humanos?
La IA plantea riesgos importantes porque puede exacerbar desigualdades sociales preexistentes y profundamente arraigadas. Entre los derechos que se ven afectados están el derecho a la igualdad, la libertad religiosa, la libertad de expresión y la presunción de inocencia.
En los Países Bajos hemos registrado varios casos de violaciones de derechos humanos por parte de sistemas algorítmicos. Uno de estos casos fue un escándalo en el que padres y madres que recibían prestaciones sociales para el cuidado infantil fueron identificados, perfilados y acusados injustamente. El perfilamiento afectó sobre todo a personas de color, de bajos ingresos y musulmanas, a quienes la autoridad fiscal acusó falsamente de haber cometido fraude. Esto dio lugar a la suspensión de las prestaciones de padres, madres y cuidadores identificados y a procesos hostiles de investigación de sus casos, lo cual les provocó graves perjuicios financieros.
Otro ejemplo es el programa de prevención de la delincuencia “Top400” implementado en el municipio de Ámsterdam, que elabora perfiles de menores y jóvenes para identificar a los 400 que tienen más probabilidades de cometer delitos. Esta práctica afecta desproporcionadamente a niños y jóvenes de clase baja y de color, ya que el foco geográfico del sistema está sesgado hacia los barrios de bajos ingresos y de inmigrantes.
En estos casos, el uso poco ético de las herramientas de IA provocó una inmensa angustia a las personas afectadas. La falta de transparencia en la forma en que se tomaron las decisiones automatizadas no hizo sino añadir más dificultades en la búsqueda de justicia y rendición de cuentas. A muchas de las víctimas les resultó difícil demostrar los sesgos y errores del sistema.
¿Hay algún intento en curso de regular la IA?
Existe un proceso en curso a nivel europeo. En 2021, la Comisión Europea (CE) propuso un marco legislativo, la Ley de IA de la Unión Europea (UE), para abordar los desafíos éticos y legales asociados a las tecnologías de IA. El principal objetivo de la Ley de IA de la UE es crear un conjunto exhaustivo de normas que rijan el desarrollo, la implantación y el uso de la IA en todos los Estados miembros de la UE. Pretende mantener un equilibrio entre la promoción de la innovación y las garantías de protección de derechos y valores fundamentales.
Esto tiene una importancia significativa: es una oportunidad única para que Europa se distinga dando prioridad a la protección de los derechos humanos en la gobernanza de la IA. Sin embargo, la ley aún no ha sido aprobada. Una versión de la misma fue aprobada por el Parlamento Europeo en junio, pero aún queda un debate final -el llamado “diálogo a tres bandas- entre la CE, el Consejo Europeo y el Parlamento Europeo. La CE está presionando para finalizar el proceso a finales de año, de modo que pueda someterse a votación antes de las elecciones al Parlamento Europeo de 2024.
Este diálogo a tres bandas deberá superar desafíos considerables para lograr una Ley de AI completa y eficaz. Abundan las cuestiones controvertidas, como las definiciones de IA y las categorías de alto riesgo, así como sus mecanismos de aplicación y cumplimiento.
¿Qué aporta la sociedad civil, incluida Bits of Freedom, a la mesa de negociaciones?
A medida que han avanzado las negociaciones de la ley, una coalición de 150 OSC, entre las que se cuenta Bits of Freedom, ha instado a la CE, al Consejo y al Parlamento a dar prioridad a las personas y a sus derechos fundamentales.
Junto con otros grupos de la sociedad civil, hemos colaborado activamente en la redacción de enmiendas y participado en numerosos debates con miembros de los parlamentos europeo y holandés, tomadores de decisiones y otras partes interesadas. Presionamos firmemente a favor de prohibiciones concretas y sólidas, como las relativas a la identificación biométrica y la vigilancia policial predictiva. Además, hicimos hincapié en la importancia de la transparencia, la rendición de cuentas y la reparación efectiva en el uso de sistemas de IA.
Hemos conseguido importantes logros de incidencia, entre los que se incluyen la prohibición de la identificación biométrica en tiempo real y ex post, una mejor formulación de las prohibiciones, la obligatoriedad de las Evaluaciones de Impacto sobre los Derechos Fundamentales, el reconocimiento de más derechos en materia de transparencia, rendición de cuentas y reparación, y la creación de una base de datos obligatoria sobre IA.
Pero reconocemos que aún queda trabajo por hacer. Seguiremos presionando para conseguir la mejor protección posible de los derechos humanos y seguiremos centrándonos en las demandas planteadas en nuestra declaración ante los participantes del diálogo a tres bandas de la UE, que se resumen en empoderar a las personas afectadas con un marco de rendición de cuentas, transparencia, accesibilidad y reparación, poner límites a la vigilancia perjudicial y discriminatoria por parte de las autoridades de seguridad nacional, policiales y migratorias, y hacer frente a los grupos de presión de las grandes empresas tecnológicas eliminando las lagunas jurídicas que socavan la regulación.
El proceso hacia una regulación exhaustiva y efectiva de la IA está en marcha, y seguimos comprometidos con la tarea de garantizar que el marco legal final abarque nuestras peticiones críticas. Aspiramos a crear juntos un marco regulatorio de la IA que dé prioridad a los derechos humanos y proteja a las personas.
Póngase en contacto con Bits of Freedom a través de su sitio web o su página de Facebook, y siga a @bitsoffreedom en Twitter.