Sommet pour l’action sur l’intelligence artificielle : pour une prise en compte des droits fondamentaux

Depuis 2020, le Défenseur des droits a formulé un certain nombre d’alertes et de recommandations

L’intérêt et l’utilité de certains usages de l’IA ne doivent pas faire oublier que l’utilisation des systèmes d’IA est porteuse de risques pour les droits fondamentaux. Le Défenseur des droits a conduit ces dernières années plusieurs travaux visant à mettre au jour différents aspects de ces risques et formuler des recommandations pour les prévenir.

Dans un rapport « Algorithmes : prévenir l’automatisation des discriminations », publié conjointement avec la Cnil en 2020, le Défenseur des droits a mis en lumière l’ampleur des biais discriminatoires qui peuvent intervenir lors de la conception et du déploiement des systèmes d’IA.

Dans un rapport de 2021, le Défenseur a rappelé les atteintes potentielles que peuvent faire peser les technologies biométriques sur le principe de non-discrimination et les droits fondamentaux, et plus particulièrement les outils de reconnaissance faciale. Ces systèmes reposent sur l’utilisation de probabilités. A l’heure où le règlement de l’Union européenne sur l’IA autorise, par exception, l’identification biométrique à distance dans l’espace public, leur utilisation peut entraîner des erreurs aux conséquences importantes.

Plus récemment, le Défenseur des droits a fait part de son analyse sur le nombre croissant de décisions administratives individuelles prises sur la base de résultats livrés par des algorithmes ou systèmes d’IA (voir le rapport « Algorithmes, systèmes d’IA et services publics : quels droits pour les usagers ? » de novembre 2024). Dans ce cadre, il a formulé des recommandations pour que soient pleinement respectées les garanties prévues par la loi, notamment en matière de transparence et d’intervention humaine.

L’institution porte ces messages de vigilance dans le cadre des différents événements organisés à l’occasion du sommet IA auxquels l’institution a été invitée à intervenir (par exemple, lors de la matinée d’échanges organisée par le Conseil économique social et environnemental (CESE) dédiée à la place de la participation citoyenne dans le développement de l'intelligence artificielle ou encore lors de l’événement « IA générative, services publics et relation aux citoyens » organisé le 11 février par la Banque des territoires).

Enfin, le Défenseur pointe les nouveaux risques pour les droits de l’enfant. Par exemple, les systèmes d’IA peuvent faciliter les atteintes à l’honneur et à la réputation des enfants ainsi que leur exploitation sexuelle pourtant protégés par la Convention internationale des droits de l’enfant (par exemple via la production de « deepfakes pédopornographiques »).

Face à ces enjeux, le Défenseur des droits œuvre pour un cadre juridique garantissant la protection effective des droits fondamentaux et permettant le développement d’une IA innovante et responsable.

Avec le règlement sur l’IA, l’Union européenne a instauré en 2024 un cadre juridique qui doit permettre à l’intelligence artificielle de se développer sans porter atteinte aux droits. Pour que ces règles soient réellement efficaces, il sera crucial de garantir leur bonne application. C’est notamment le rôle des normes techniques qui sont en cours d’élaboration. Elles joueront un rôle clé pour s’assurer que les systèmes d’IA respectent bien les principes énoncés. Les systèmes considérés comme "à haut risque" et ceux à usage général qui suivront ces normes seront présumés conformes aux exigences du règlement européen. Il est donc essentiel d’intégrer les préoccupations liées aux droits humains dès la conception de ces normes et tout au long du cycle de vie de ces technologies.

Par ailleurs, les personnes dont les droits seraient affectés par un système d’IA doivent pouvoir être protégées et disposer de recours pour faire valoir leurs droits. Les autorités chargées de la protection des droits fondamentaux (celles qui sont, comme le Défenseur des droits, désignées au titre de l’article 77 du règlement sur l’IA mais également toutes celles qui agissent indépendamment) devront se voir doter  des moyens nécessaires pour mener à bien leur mission. Comprendre et encadrer ces technologies demande des compétences spécifiques nouvelles. Il est essentiel que ces autorités aient les moyens d’y parvenir.

À l’occasion de ce sommet international, il est indispensable de veiller à ce que, partout dans le monde, les droits des personnes confrontées à l’intelligence artificielle, notamment les enfants, les personnes en situation de précarité, de handicap ou de migration, ainsi que celles issues de groupes historiquement discriminés, soient protégés partout où des systèmes d’IA sont utilisés.