CIVICUS parle avec Nadia Benaissa, conseillère en politique juridique chez Bits of Freedom, sur les risques que l’intelligence artificielle (IA) fait peser sur les droits humains et sur le rôle que joue la société civile dans l’élaboration d’un cadre juridique pour la gouvernance de l’IA.
Fondée en 2000, Bits of Freedom est une organisation de la société civile (OSC) néerlandaise qui vise à protéger les droits à la vie privée et à la liberté de communication en influençant la législation et la politique en matière de technologies, en donnant des conseils politiques, en sensibilisant et en entreprenant des actions en justice. Bits of Freedom a également participé aux négociations de la loi de l’Union européenne sur l’IA.
Quels risques l’IA fait-elle peser sur les droits humains ?
L’IA présente des risques importants car elle peut exacerber des inégalités sociales préexistantes et profondément ancrées. Les droits à l’égalité, à la liberté religieuse, à la liberté d’expression et à la présomption d’innocence figurent parmi les droits touchés.
Aux Pays-Bas, nous avons recensé plusieurs cas de systèmes algorithmiques violant les droits humains. L’un de ces cas est le scandale des allocations familiales, dans lequel les parents recevant des allocations pour la garde de leurs enfants ont été injustement ciblés et profilés. Le profilage a surtout touché les personnes racisées, les personnes à faible revenu et les musulmans, que l’administration fiscale a faussement accusés de fraude. Cette situation a entraîné la suspension des allocations pour certains parents et prestataires de soins, ainsi que des enquêtes hostiles sur leurs cas, ce qui a eu de graves répercussions financières.
Un autre exemple est le programme de prévention de la criminalité ‘Top400' mis en œuvre dans la municipalité d’Amsterdam, qui profile des mineurs et des jeunes afin d’identifier les 400 personnes les plus susceptibles de commettre des délits. Cette pratique affecte de manière disproportionnée les enfants des classes populaires et les enfants non-blancs, car le système se concentre géographiquement sur les quartiers à faibles revenus et les quartiers de migrants.
Dans ces cas, le manque d’éthique dans l’utilisation d’outils d’intelligence artificielle a entraîné une immense détresse pour les personnes concernées. Le manque de transparence dans la manière dont les décisions automatisées ont été prises n’a fait qu’accroître les difficultés dans la quête de justice et de redevabilité. De nombreuses victimes ont eu du mal à prouver les préjugés et les erreurs du système.
Existe-t-il des tentatives en cours pour réglementer l’IA ?
Un processus est en cours au niveau européen. En 2021, la Commission européenne (CE) a proposé un cadre législatif, la loi sur l’IA de l’Union européenne (UE), pour répondre aux défis éthiques et juridiques associés aux technologies de l’IA. L’objectif principal de la loi sur l’IA de l’UE est de créer un ensemble complet de règles régissant le développement, le déploiement et l’utilisation de l’IA dans les États membres de l’UE. Elle cherche à maintenir un équilibre entre la promotion de l’innovation et la protection des valeurs et des droits fondamentaux.
Il s’agit d’une occasion unique pour l’Europe de se distinguer en donnant la priorité à la protection des droits humains dans la gouvernance de l’IA. Cependant, la loi n’a pas encore été approuvée. Une version a été adoptée par le Parlement européen en juin, mais il reste encore un débat final - un « trilogue » - à mener entre la Commission européenne, le Conseil européen et le Parlement européen. La Commission européenne s’efforce d’achever le processus d’ici la fin de l’année afin qu’il puisse être soumis à un vote avant les élections européennes de 2024.
Ce trilogue a des défis considérables à relever pour parvenir à une loi sur l’IA complète et efficace. Les questions controversées abondent, y compris les définitions de l’IA et les catégories à haut risque, ainsi que les mécanismes de mise en œuvre et d’application.
Qu’est-ce que la société civile, y compris Bits of Freedom, apporte à la table des négociations ?
Alors que les négociations sur la loi se poursuivent, une coalition de 150 OSC, dont Bits of Freedom, demande instamment à la CE, au Conseil et au Parlement d’accorder la priorité aux personnes et à leurs droits fondamentaux.
Aux côtés d’autres groupes de la société civile, nous avons activement collaboré à la rédaction d’amendements et participé à de nombreuses discussions avec des membres des parlements européen et néerlandais, des décideurs politiques et diverses parties prenantes. Nous avons fermement insisté sur des interdictions concrètes et solides, telles que celles concernant l’identification biométrique et la police prédictive. En outre, nous avons souligné l’importance de la transparence, de la redevabilité et d’un mécanisme de réparation efficace dans le contexte de l’utilisation des systèmes d’IA.
Nous avons obtenu des résultats significatifs en matière de plaidoyer, notamment l’interdiction de l’identification biométrique en temps réel et a posteriori, une meilleure formulation des interdictions, des évaluations obligatoires de l’impact sur les droits fondamentaux, la reconnaissance de droits supplémentaires en matière de transparence, de redevabilité et de réparation, et la création d’une base de données obligatoire sur l’IA.
Mais nous reconnaissons qu’il y a encore du travail à faire. Nous continuerons à faire pression pour obtenir la meilleure protection possible des droits humains et à nous concentrer sur les demandes formulées dans notre déclaration au trilogue de l’UE. Celles-ci tendent vers l’établissement d’un cadre de redevabilité, de transparence, d’accessibilité et de réparation pour les personnes touchées par ces enjeux, et à la fixation des limites à la surveillance préjudiciable et discriminatoire exercée par les autorités nationales chargées de la sécurité, de l’application de la loi et de l’immigration. Elles s’opposent ainsi au lobbying des grandes entreprises technologiques en supprimant les lacunes qui sapent la réglementation.
Le chemin vers une réglementation complète et efficace de l’IA est en cours, et nous restons déterminés à poursuivre nos efforts pour faire en sorte que le cadre législatif final englobe nos demandes essentielles. Ensemble, nous visons à créer un environnement réglementaire en matière d’IA qui donne la priorité aux droits humains et protège les personnes.
Contactez Bits of Freedom sur son site web ou sa page Facebook, et suivez @bitsoffreedom sur Twitter.