Logo Assembly Logo Hemicycle

La justice par algorithme ? une commission demande une réglementation intelligente de l’IA dans la justice pénale pour éviter les injustices

La Commission des questions juridiques de l'APCE demande que les cadres juridiques nationaux réglementent l'utilisation de l'intelligence artificielle dans le travail de la police et de la justice pénale, sur la base des principes fondamentaux de transparence, d'équité, de sécurité, de respect de la vie privée et d'attribution claire de la responsabilité humaine pour toutes les décisions dans ce domaine.

Si l'utilisation de l'intelligence artificielle par la police, les procureurs et les tribunaux peut présenter « des avantages importants lorsqu’elle est correctement réglementée », la commission a déclaré dans un projet de résolution basé sur un rapport de Boriss Cilevics (Lettonie, SOC), « elle peut avoir une incidence particulièrement grave sur les droits de l'homme dans le cas contraire ».

Les systèmes d'IA utilisés ou en cours de développement comprennent la reconnaissance faciale, la police prédictive, l'identification des victimes potentielles de crimes, l'évaluation des risques en matière de détention provisoire, de peine prononcée et la libération conditionnelle, et l'identification des « affaires non résolues » qui pourraient désormais être résolues grâce aux technologies modernes de criminalistique.

La commission a souligné les préoccupations existantes telles que les entreprises privées qui refusent l'accès au code source de leurs systèmes pour des raisons de propriété intellectuelle, qui thésaurisent des données ou qui n'expliquent pas pleinement leurs systèmes aux autorités publiques qui les utilisent. D'autres préoccupations concernent les systèmes d'IA formés sur des ensembles de données massifs qui sont entachés de préjugés historiques, ce qui conduit à la discrimination, ou le « techwashing » qui obscurcit et donc perpétue les préjugés.

« Si l’on souhaite que les citoyens acceptent l’utilisation de l’IA et jouissent des avantages qu’elle pourrait présenter, ils doivent avoir confiance dans le fait que tout risque est géré de manière satisfaisante » ont déclaré les parlementaires. « Si l’IA doit être mise en place avec le consentement éclairé du public, comme on peut s’y attendre dans une démocratie, alors une réglementation efficace et proportionnée est nécessaire ».