À la suite de l'adoption par le Comité des Ministres de la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit (STCE n° 225), l'Assemblée parlementaire devrait continuer à suivre de près l'impact de l'intelligence artificielle sur les droits humains.
Dans son Avis 303 (2024), l'Assemblée faisait remarquer que la Convention-cadre aurait pu préciser que chaque gouvernement devrait être tenu d'informer ses citoyens de l'utilisation de systèmes d'IA dans les procédures administratives menant à des décisions juridiques contraignantes. La convention-cadre impose l'obligation d'informer les personnes qui interagissent avec des systèmes d'IA qu'elles interagissent directement avec ces systèmes, et non avec un être humain (article 15). Cette obligation s'applique, par exemple, aux agents conversationnels qui fonctionnent à l'aide de l'IA sur les sites web gouvernementaux, mais ne concerne pas l'utilisation de l'IA par les pouvoirs publics dans les processus de prise de décision publique. Aux Pays-Bas, par exemple, l'administration fiscale et douanière néerlandaise a employé des algorithmes dans lesquels la «double nationalité» était considérée comme un indicateur de fraude possible, afin de créer des profils à risque pour les personnes qui faisaient une demande d'allocations pour la garde d'enfants. Ces algorithmes ont donc abouti à une discrimination raciale, comme l'a admis le Gouvernement néerlandais lui-même en 2022.
Il importe que l'Assemblée recommande des normes et une réglementation plus précises pour l'application des systèmes d'IA dans les procédures publiques et administratives qui ont des effets sur les droits et les intérêts des citoyens, notamment en vue de contribuer aux activités normatives du Conseil de l'Europe.
L'Assemblée devrait examiner comment les États membres utilisent l'IA dans les processus décisionnels publics et déterminer les bonnes pratiques en la matière, en tenant compte des normes des droits humains et des principes de légalité, d'équité, de transparence, de limitation des buts poursuivis, de limitation au minimum des données, d'exactitude, de limitation du stockage, d'intégrité, de confidentialité et d'obligation de rendre des comptes, et veiller à ce que ces normes et principes soient respectés par les gouvernements qui ont recours à l'IA dans le cadre de ces processus.