Veuillez trouver ci-joint le Projet de Convention-cadre sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit (CM(2024)52-prov1), que le Comité des Ministres a décidé de transmettre à l’Assemblée parlementaire pour avis lors de sa 1493ème réunion (20 mars 2024). Le projet de rapport explicatif (CM(2024)52-add) sera envoyé à l’Assemblée parlementaire pour information dès qu’il sera disponible.
Permettez-moi de saisir cette occasion pour remercier l'Assemblée parlementaire pour les initiatives qu'elle a prises et le rôle constructif qu'elle a joué jusqu'à présent dans ce domaine.
Signé
Zoltan Taubner, Secrétaire du Comité des Ministres
Veuillez trouver ci-joint, pour information, le projet de rapport explicatif (CM(2024)52-add) relatif au Projet de Convention-cadre sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit.
Signé
Zoltan Taubner, Secrétaire du Comité des Ministres
Les États membres du Conseil de l’Europe et les autres signataires de la présente Convention,
Sont convenus de ce qui suit:
Aux fins de la présente Convention, on entend par «système d'intelligence artificielle» un système informatique qui déduit, à partir des données qu'il reçoit et en fonction d'objectifs explicites ou implicites, comment générer des résultats tels que des prévisions, des contenus, des recommandations ou des décisions susceptibles d'influer sur des environnements matériels ou virtuels. Les différents systèmes d'intelligence artificielle varient dans leurs niveaux d'autonomie et d'adaptabilité après leur déploiement.
Chaque Partie adopte ou maintient les mesures nécessaires pour veiller à ce que les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle soient cohérentes avec les obligations de protection des droits de l'homme, telles qu'elles sont consacrées par le droit international applicable et par son droit interne.
Le présent chapitre énonce les principes généraux communs que chaque Partie met en œuvre à l'égard des systèmes d'intelligence artificielle, de manière adaptée à son ordre juridique interne et aux autres obligations nées de la présente Convention.
Chaque Partie adopte ou maintient les mesures nécessaires au respect de la dignité humaine et de l'autonomie individuelle pour les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle.
Chaque Partie adopte ou maintient des mesures pour veiller à ce les exigences de transparence et de contrôle adaptées aux contextes et aux risques spécifiques sont en place en ce qui concerne les activités au sein du cycle de vie des systèmes d'intelligence artificielle, y compris en ce qui concerne l’identification de contenu généré par des systèmes d’intelligence artificielle.
Chaque Partie adopte ou maintient des mesures pour garantir l'obligation de rendre compte et d'assumer la responsabilité pour les impacts négatifs sur les droits de l'homme, la démocratie et l'État de droit qui résultent des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle.
Chaque Partie adopte ou maintient des mesures pour garantir qu’en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle:
Chaque Partie prend, de manière appropriée, des mesures pour promouvoir la fiabilité des systèmes d'intelligence artificielle et la confiance en leurs résultats, ce qui pourrait comprendre des exigences en matière de qualité et de sécurité adéquates tout au long du cycle de vie des systèmes d’intelligence artificielle.
En vue de favoriser l'innovation tout en évitant les impacts négatifs sur les droits de l'homme, la démocratie et l'État de droit, chaque Partie est encouragée à permettre, le cas échéant, la mise en place d'environnements contrôlés pour le développement, l'expérimentation et l'essai de systèmes d'intelligence artificielle sous la surveillance de ses autorités compétentes.
La mise en œuvre des dispositions de la présente Convention par les Parties est assurée sans discrimination fondée sur quelque motif que ce soit, conformément à leurs obligations internationales en matière de droits de l'homme.
Chaque Partie tient dûment compte des besoins particuliers et des vulnérabilités en rapport avec le respect des droits des personnes handicapées et des enfants, conformément à son droit interne et aux obligations internationales applicables.
Chaque Partie vise à garantir que les questions importantes soulevées par les systèmes d'intelligence artificielle soient, le cas échéant, dûment examinées dans le cadre d'un débat public et de consultations multipartites, à la lumière des incidences sociales, économiques, juridiques, éthiques, environnementales et des autres pertinentes.
Chaque Partie encourage et promeut la maîtrise du numérique et les compétences numériques adéquates pour toutes les catégories de la population, notamment les compétences spécifiques de pointe pour les personnes chargées de l'identification, de l'évaluation, de la prévention et de l'atténuation des risques que présentent les systèmes d'intelligence artificielle.
Aucune disposition de la présente Convention ne saurait être interprétée comme une restriction des droits de l'homme ou autre droit et obligation connexe qui serait garanti par le droit pertinent d'une Partie ou par tout autre accord international pertinent auquel elle est Partie, ni comme une dérogation ou comme affectant d’une autre manière ces droits et obligations.
Aucune des dispositions de la présente Convention ne saurait être interprétée comme une limitation ou une quelconque restriction de la capacité d'une Partie à accorder une protection plus étendue que celle que prévoit la présente Convention.
En cas de différend entre les Parties sur l’interprétation ou l’application de la présente Convention, elles s’efforceront de parvenir à un règlement du différend par la négociation ou par tout autre moyen pacifique de leur choix, y compris par le biais de la Conférence des Parties, comme le prévoit l'article 23, paragraphe 2, alinéa (e).
Le Secrétaire Général ou la Secrétaire Générale du Conseil de l'Europe notifiera aux États membres du Conseil de l'Europe, aux États non membres qui ont participé à son élaboration, à l'Union européenne, à tout Signataire, à tout État contractant, à toute Partie, et à tout autre État invité à adhérer à la présente Convention:
En foi de quoi, les soussignés, dûment autorisés à cet effet, ont signé la présente Convention.
Fait à [lieu], ce... jour de [mois] 202[4], en français et en anglais, les deux textes faisant également foi, en un seul exemplaire qui sera déposé dans les archives du Conseil de l'Europe. Le Secrétaire Général ou la Secrétaire Générale du Conseil de l'Europe en communiquera copie certifiée conforme à chacun des États membres du Conseil de l'Europe, aux États non membres qui ont participé à l'élaboration de la Convention [jouissent du statut d'observateur auprès du Conseil de l'Europe], à l'Union européenne et à tout État invité à [signer ou] adhérer à la présente Convention.
1. Le Conseil de l'Europe, à travers les travaux de ses différents organes et du Comité ad hoc sur l'intelligence artificielle (CAHAI), auquel a succédé le Comité sur l'intelligence artificielle (CAI), s'intéresse depuis longtemps aux problèmes auxquels l'humanité est confrontée du fait des progrès des technologies numériques et de l'information, et en particulier des systèmes algorithmiques et d'intelligence artificielle (IA).
2. Ayant pris note du document final du CAHAI sur les «Éléments potentiels d’un cadre juridique sur l’intelligence artificielle, fondés sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’État de droit» adopté en décembre 2021, le Comité des Ministres du Conseil de l’Europe a chargé le CAI d’élaborer une Convention-cadre sur les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, «fondée sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’État de droit et propice à l’innovation».
3. Le Comité des Ministres a également décidé de permettre l'inclusion dans les négociations de l'Union européenne et d’États non européens intéressés et partageant les valeurs et les objectifs du Conseil de l'Europe, des États du monde entier, à savoir l'Argentine, l'Australie, le Canada, le Costa Rica, le Saint-Siège, Israël, le Japon, le Mexique, le Pérou, les États-Unis d'Amérique et l'Uruguay, se sont joints au processus de négociation au sein du CAI et ont participé à l'élaboration de la présente Convention-cadre en tant qu’États observateurs.
4. Il était également important pour le Conseil de l'Europe d’étroitement associer à ces négociations des acteurs non étatiques pertinents. Au total, 68 représentants de la société civile et de l'industrie ont rejoint le CAI en tant qu'observateurs, participant aux négociations avec les États et les représentants d'autres organisations internationales, telles que l'Organisation pour la sécurité et la coopération en Europe (OSCE), l'Organisation de coopération et de développement économiques (OCDE), l'Organisation des Nations unies pour l'éducation, la science et la culture (UNESCO), ainsi que les organes et comités pertinents du Conseil de l'Europe. L'Union européenne a également participé aux négociations, représentée par la Commission européenne, dont la délégation comprenait également des représentants de l'Agence des droits fondamentaux (FRA) et du Contrôleur européen de la protection des données (CEPD).
5. La présente Convention-cadre est consacrée à la protection et la promotion des droits de l'hommeNote, de la démocratie et de l'État de droit, et ne réglemente pas expressément les aspects économiques et commerciaux des systèmes d'intelligence artificielle. Considérée dans son ensemble, elle fournit un cadre juridique commun au niveau mondial afin d’appliquer les obligations juridiques internationales et nationales existantes qui sont applicables à chaque Partie dans le domaine des droits de l'homme, de la démocratie et de l'État de droit de chaque Partie, et vise à garantir que les activités menées par les acteurs publics et privés dans le cadre du cycle de vie des systèmes d'intelligence artificielle soient conformes à ces obligations, normes et engagements.
6. Le Préambule réaffirme l'engagement des Parties envers la protection des droits de l'homme, la démocratie et l'État de droit et rappelle les instruments juridiques internationaux et les traités élaborés par le Conseil de l'Europe et les Nations Unies qui traitent directement des thèmes entrant dans le champ d'application de la présente Convention-cadre.
7. Lors du processus de négociation et d’adoption de la présente Convention-cadre, les instruments juridiques et politiques internationaux relatifs à l’intelligence artificielle suivants, en particulier ceux élaborés par le Conseil de l'Europe et d'autres organisations et processus internationaux, ont été pris en compte:
8. En outre, les négociations se sont inspirées des éléments des déclarations politiques suivantes:
9. Le Préambule énonce l'objectif premier de la Convention-cadre: veiller à ce que le potentiel des technologies de l'intelligence artificielle pour promouvoir la prospérité humaine, le bien-être individuel et sociétal, pour rendre notre monde plus productif, plus innovant et plus sûr, soit exploité d'une manière responsable qui respecte, protège et réalise les valeurs communes des Parties et respecte les droits de l'homme, la démocratie et l'État de droit.
10. Les rédacteurs ont souhaité souligner que les systèmes d'intelligence artificielle offrent des possibilités sans précédent de protéger et de promouvoir les droits de l'homme, la démocratie et l'État de droit. Dans le même temps, ils ont également souhaité reconnaître qu’il existe de sérieux risques et périls découlant de certaines activités menées dans le cadre du cycle de vie de l’intelligence artificielle tels que, par exemple, la discrimination dans divers contextes, l’inégalité de genre, la remise en cause des processus démocratiques, l’atteinte à la dignité humaine ou à l’autonomie individuelle, ou les utilisations abusives des systèmes d'intelligence artificielle par certains États à des fins répressives, en violation du droit international des droits de l'homme. Les rédacteurs ont également voulu attirer l'attention sur la dignité humaine et l'autonomie individuelle en tant que valeurs et principes fondamentaux, essentiels à la pleine réalisation des droits de l'homme, de la démocratie et de l'État de droit, et qui peuvent également être affectés par certaines activités menées au cours du cycle de vie des systèmes d'intelligence artificielle. Les rédacteurs ont souhaité mettre l’accent sur le fait qu'en faisant référence aux individus qui peuvent être affectés par les systèmes d'intelligence artificielle créant ou aggravant les inégalités, ceux-ci incluent les individus discriminés sur la base de leur «race»Note ou de leur ethnicité, y compris les autochtones. Ils ont également souhaité souligner la nécessité d'éviter la discrimination fondée sur le sexe, les biais ou d'autres préjudices systémiques, conformément aux obligations internationales et en accord avec les Déclarations pertinentes des Nations unies. En outre, les systèmes d'intelligence artificielle fiables incarneront des principes tels que ceux énoncés au chapitre III de la Convention-cadre, qui devraient s'appliquer aux activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle. Enfin, les rédacteurs étaient pleinement conscients du fait que l’utilisation croissante des systèmes d’intelligence artificielle entraine, en raison de leur capacité à transformer les sociétés, de nouveaux défis en ce qui concerne les droits de l’homme, la démocratie et l’État de droit qui ne sont pas prévisibles lors de la rédaction.
11. En conséquence, le Préambule ouvre la voie à une série d’obligations juridiquement contraignantes contenues dans la Convention-cadre qui visent à garantir que les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle qui sont susceptibles de porter atteinte au respect des droits de l'homme, au fonctionnement de la démocratie, ou à l'observation de l'État de droit, tant dans le secteur public que dans le secteur privé, soient pleinement conformes à la présente Convention-cadre.
12. Les paragraphes 1 et 2 énoncent l’objet et le but de la Convention-cadre, qui est de veiller à ce que les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle soient pleinement conformes aux droits de l'homme, à la démocratie et à l'État de droit. Dans le même temps, il est important de souligner que la Convention-cadre ne vise pas à réglementer tous les aspects des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle, ni à règlementer les technologies d'intelligence artificielle en tant que telles. Son objet et son but se limitent aux questions relatives au mandat du Conseil de l'Europe, en mettant l'accent sur les systèmes d'intelligence artificielle qui sont susceptibles de porter atteinte aux droits de l'homme, à la démocratie et à l'État de droit.
13. La Convention-cadre garantit que les obligations applicables de chaque Partie en matière de droits de l'homme, de démocratie et d'État de droit s'appliquent également aux activités menées dans le cadre du cycle de vie de l'intelligence artificielle. En ce sens, la Convention-cadre s'aligne sur le système et les mécanismes de protection des droits de l'homme de chaque Partie, y compris leurs obligations de droit international et autres engagements internationaux, ainsi que leur droit interne applicable. Aucune disposition de la présente Convention-cadre n'a pour objet de créer de nouveaux droits de l'homme ou de nouvelles obligations en matière de droits de l'homme, ni de compromettre la portée et le contenu des protections applicables existantes, mais plutôt, en énonçant diverses obligations juridiquement contraignantes contenues dans ses chapitres II à VI, de faciliter la mise en œuvre effective des obligations applicables en matière de droits de l'homme de chaque Partie dans le contexte des nouveaux défis soulevés par l'intelligence artificielle. Dans le même temps, la Convention-cadre renforce le rôle du droit international des droits de l'homme et des aspects pertinents des cadres juridiques nationaux en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle qui sont susceptibles d'interférer avec les droits de l'homme, la démocratie et l'État de droit.
14. Dans l’ensemble de son texte, la Convention-cadre crée diverses obligations liées aux activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle. Cette référence au cycle de vie garantit une approche globale des risques liés à l'IA et des effets négatifs sur les droits de l'homme, la démocratie et l'État de droit, en tenant compte de toutes les étapes des activités liées aux systèmes d'intelligence artificielle. L'application de ces obligations à l'ensemble du cycle de vie permet à la Convention-cadre de couvrir non seulement les risques actuels mais aussi les risques futurs, ce qui est l'une des façons à travers lesquelles les rédacteurs ont cherché à rendre la Convention-cadre résistante à l'épreuve du temps compte tenu des évolutions technologiques rapides et souvent imprévisibles. Il est important de clarifier que, dans l’ensemble de la Convention-cadre, «menées dans le cadre de» n’est pas utilisé comme une expression technique et n’a pas vocation à limiter le concept de cycle de vie.
15. Dans cette optique, et sans donner de liste exhaustive des activités menées dans le cadre du cycle de vie qui sont spécifiques aux systèmes d'intelligence artificielle, les rédacteurs visent à couvrir toutes les activités depuis la conception d'un système d'intelligence artificielle jusqu'à sa mise hors service, quel que soit l'acteur qui y participe. Les rédacteurs ont délibérément choisi de ne pas les spécifier explicitement dans la mesure où elles peuvent dépendre du type de technologie et d'autres éléments contextuels et évoluer au fil du temps, mais en s'inspirant des derniers travaux de l'OCDE, au moment de la rédaction, les rédacteurs donnent des exemples d'activités pertinentes: (1) planification et conception, (2) collecte et traitement des données, (3) développement de systèmes d'intelligence artificielle, y compris l'élaboration de modèles et/ou l'adaptation de modèles existants à des tâches spécifiques, (4) essais, vérification et validation, (5) fourniture/mise à disposition des systèmes, (6) déploiement, (7) exploitation et suivi, et (8) mise hors service. Ces activités se déroulent souvent de manière itérative et ne sont pas nécessairement séquentielles. Elles peuvent également recommencer à zéro en cas de modifications substantielles du système ou de son utilisation prévue. La décision de mettre hors service un système d'intelligence artificielle peut intervenir à n'importe quel moment de la phase d'exploitation et de suivi.
16. Le paragraphe 2 de l'article 1 définit l'approche de la mise en œuvre convenue par les États qui ont négocié la Convention-cadre. Cette disposition exige des Parties qu’elles donnent effet aux dispositions de la présente Convention-cadre, mais elle prévoit également qu’elles jouissent d'une certaine marge de flexibilité quant à la manière exacte de donner effet aux dispositions de la Convention-cadre, compte tenu de la diversité sous-jacente des systèmes juridiques, des traditions et des pratiques des Parties, ainsi que de la très grande variété des contextes d'utilisation des systèmes d'intelligence artificielle, tant dans le secteur public que dans le secteur privé.
17. Afin de tenir compte des règles et mécanismes existant dans le système juridique interne de chaque Partie, le paragraphe 2 de l'article 1 et de nombreuses obligations exigent des Parties qu'elles «adoptent ou maintiennent» certaines mesures pour faire face aux risques de l'intelligence artificielle. En utilisant l'expression «adopter ou maintenir», les rédacteurs ont souhaité laisser aux Parties de la souplesse dans la possibilité de s'acquitter de leurs obligations en adoptant de nouvelles mesures ou en appliquant des mesures existantes telles que la législation et les mécanismes qui existaient avant l'entrée en vigueur de la Convention-cadre. L'utilisation de ces deux termes reconnaît que, aux fins de la mise en œuvre au niveau national, l'une ou l'autre de ces approches peut être tout aussi suffisante. Le paragraphe 2 de l'article 1 prévoit en outre que ces mesures doivent être «graduées et différenciées en fonction de la gravité et de la probabilité de l'apparition d'impacts négatifs sur les droits de l'homme, la démocratie et l'État de droit». Cette disposition signifie que les mesures prises en vertu de la Convention-cadre doivent être adaptées au niveau de risque posé par un système d'intelligence artificielle dans des sphères, activités et contextes spécifiques, le cas échéant, et que cette tâche incombe aux Parties à la Convention-cadre qui doivent décider comment équilibrer les intérêts concurrents pertinents dans chaque sphère, en tenant compte des spécificités des activités du secteur privé, de leur cadre réglementaire national et de leur programme national en matière d'intelligence artificielle, tout en assurant la protection et la promotion des droits de l'homme, de la démocratie et de l'État de droit. Les Parties peuvent également tenir compte des spécificités des activités du secteur public telles que le maintien de l’ordre, les migrations, le contrôle des frontières, l'asile et le système judiciaire.
18. Il est essentiel que conformément au paragraphe 2 de l’article 1, l'examen des questions mentionnées commence par une évaluation par chaque Partie des risques et des impacts potentiels sur les droits de l'homme, la démocratie ou l'État de droit dans un contexte donné et un examen du maintien ou de la mise en place de mesures appropriées pour faire face à ces impacts. Pour parvenir à comprendre les impacts potentiels des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle, les Parties devraient tenir compte du contexte général, notamment des asymétries de pouvoir susceptibles d'aggraver davantage les inégalités existantes et les effets sur la société. Étant donné le large éventail de secteurs et de cas dans lesquels les systèmes d'intelligence artificielle sont utilisés et pourraient être déployés à l’avenir, tels que la distribution des prestations sociales, les décisions relatives à la solvabilité des clients potentiels, les processus de recrutement et de rétention du personnel, les procédures de justice pénale, l’immigration, les procédures d’asile et le contrôle des frontières, le maintien de l'ordre, la publicité ciblée et la sélection algorithmique de contenu, certains impacts négatifs pourraient se traduire par des violations des droits de l'homme dans l'ensemble de la société. Ils pourraient également potentiellement avoir un impact sur la justice sociale, altérer la relation et la confiance entre les citoyens et le gouvernement, affecter l'intégrité des processus démocratiques.
19. Après un examen méticuleux des risques respectifs et d'autres facteurs pertinents, chaque Partie devra décider si elle s'acquitte de ses obligations en appliquant les mesures existantes ou en mettant à jour son cadre réglementaire national et, dans l'affirmative, selon quelles modalités. Il faut garder à l'esprit qu'en vertu des obligations et engagements internationaux respectifs en matière de droits de l'homme, chaque Partie a déjà mis en place divers mécanismes de protection des droits de l'homme et de règlement des conflits, ainsi que la (les) manière(s) spécifique(s) d'administrer les règles et réglementations pertinentes.
20. Les Parties pourraient donc, par exemple, décider de continuer à utiliser la réglementation existante, de la simplifier, de la clarifier ou de l'améliorer, ou elles pourraient s’efforcer d’améliorer sa mise en œuvre ou soutenir la mise à disposition des recours existants pour les rendre plus accessibles ou plus disponibles (voir les commentaires concernant les articles 14-15 au paragraphe 95-104 ci-dessous). Les Parties pourraient également envisager l'adoption de mesures nouvelles ou supplémentaires, qui pourraient prendre la forme d'une législation, d’une politique, ou d’une réglementation fondée sur des règles, sur des principes ou sur des objectifs, l'établissement de mécanismes de conformité et de normes, ainsi que la co-régulation et les accords sectoriels afin de faciliter l'autorégulation, ou avoir recours à diverses combinaisons de ce qui précède. Les mesures à adopter ou à maintenir en vertu de la Convention-cadre peuvent également consister en des mesures administratives et non juridiquement contraignantes, des orientations interprétatives, des circulaires, des mécanismes et processus internes ou la jurisprudence des tribunaux, selon ce que chaque Partie juge approprié conformément à «l'approche graduée et différenciée» décrite à l'article 1, paragraphe 2. Toute mention de l'adoption ou du maintien de «mesures» dans la présente Convention-cadre peut également être satisfaite par des mesures administratives appropriées.
21. En outre, pour mettre en œuvre les principes et obligations énoncés dans la Convention-cadre, une Partie peut adopter des mesures spécifiques à l'IA ou maintenir et mettre à jour des mesures dites «horizontales» qui sont applicables indépendamment du type de technologie utilisé, comme par exemple la législation concernant la non-discrimination, la protection des données et d'autres lois qui pourraient être invoquées pour mettre en œuvre des principes et obligations spécifiques de la présente Convention-cadre.
22. Le paragraphe 3 prévoit que, pour assurer la mise en œuvre effective de la Convention-cadre, celle-ci établit un mécanisme de suivi, qui est exposé au chapitre VII, voir le commentaire aux paragraphes 129-135 et prévoit la coopération internationale, voir le commentaire sur l’article 25 aux paragraphes 137-140.
23. La définition d'un système d'intelligence artificielle présentée dans cet article est tirée de la dernière définition révisée adoptée par l'OCDE le 8 novembre 2023. Le choix des rédacteurs d'utiliser ce texte en particulier est important non seulement en raison de la grande qualité du travail effectué par l'OCDE et ses experts, mais aussi compte tenu de la nécessité d'améliorer la coopération internationale sur le sujet de l'intelligence artificielle et de faciliter les efforts visant à harmoniser la gouvernance de l'intelligence artificielle au niveau mondial, y compris en harmonisant la terminologie pertinente, ce qui permet également la mise en œuvre cohérente des différents instruments relatifs à l'intelligence artificielle au sein des systèmes juridiques nationaux des Parties.
24. La définition reflète une compréhension large de ce que sont les systèmes d'intelligence artificielle, notamment par opposition à d’autres types de systèmes de logiciels plus simples, basés sur des règles définies uniquement par des personnes physiques pour exécuter automatiquement des opérations. Elle vise à garantir la précision et la sécurité juridiques, tout en restant suffisamment abstraite et flexible pour rester valable malgré les développements technologiques futurs. La définition a été rédigée spécifiquement aux fins de la Convention-cadre et n'a pas vocation à donner une signification universelle au terme pertinent. Les rédacteurs ont pris note de l'exposé des motifs accompagnant la définition actualisée d'un système d'intelligence artificielle dans la Recommandation de l'OCDE sur l'intelligence artificielle (OECD/LEGAL/0449, 2019, amendée en 2023) pour obtenir une signification plus détaillée des différents termes utilisés dans la définition. Si cette définition permet aux Parties de s'entendre sur ce que sont les systèmes d'intelligence artificielle, les Parties peuvent la préciser dans leur système juridique national pour plus de sécurité juridique et de précision, sans pour autant en limiter la portée.
25. Cette définition doit être lue à la lumière d'autres dispositions pertinentes de la Convention-cadre, qui font référence (1) aux systèmes susceptibles de porter atteinte aux droits de l'homme, à la démocratie et à l'État de droit, et (2) à l'approche graduée et différenciée de l'article 1 et aux éléments contextuels des différentes dispositions de la Convention (articles 4 et 5, voir les commentaires respectifs aux paragraphes 37-41, 42-48 ci-dessous).
26. La présente Convention-cadre a un large champ d’application afin d’englober les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle qui sont susceptibles d'interférer avec les droits de l'homme, la démocratie et l'État de droit.
27. En accord avec la Recommandation N° R (84) 15 du Comité des Ministres aux États Membres relative à la responsabilité publique du 18 septembre 1984, l’interprétation commune des rédacteurs est que le terme «autorité publique» désigne toute entité de droit public de quelque sorte et de quelque niveau (y compris supranational, national, régional, provincial, municipal et entité publique indépendante) et toute personne privée dans l’exercice des prérogatives d’autorité officielle.
28. L’alinéa 1 (a) requiert des Parties qu’elles veillent à ce que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle se conforment aux dispositions de la présente Convention-cadre lorsqu’elles sont entreprises par les pouvoirs publics ou des acteurs privés qui agissent pour leur compte. Cela comprend une obligation de se conformer avec les dispositions de la présente Convention-cadre en ce qui concerne les activités pour lesquelles les pouvoirs publics délèguent leurs responsabilités à des acteurs privés ou leur ordonnent d’agir, telles que les activités des acteurs privés opérant dans le cadre d’un contrat avec une autorité publique ou une autre fourniture privée de service public, ainsi que les marchés et contrats publics.
29. L’alinéa 1 (b) requiert de toutes les Parties qu’elles répondent aux risques et aux impacts relatifs aux droits de l’homme, à la démocratie et à l’État de droit dans le secteur public également en ce qui concerne les acteurs privés dans la mesure où ils ne sont pas couverts par l’alinéa (a). De plus, les références à l'objet et au but ont pour effet d’importer tous les concepts de l’article 1, c’est-à-dire que répondre aux risques ne se limite pas à simplement à reconnaitre ces risques, mais requiert l’adoption ou le maintien de mesures législatives, administratives ou autres appropriées pour donner effet à cette disposition ainsi qu’à la coopération entre les Parties tel que dans les dispositions relatives au mécanisme de suivi et à la coopération internationale. Cependant, l’obligation ne requiert pas nécessairement de législation supplémentaire, et les Parties peuvent utiliser d’autres mesures appropriées, y compris des mesures administratives ou volontaires. Si l’obligation est donc contraignante et toutes les Parties doivent s’y conformer, la nature des mesures prises par les Parties pourraient varier. Dans tous les cas, lors de la mise en œuvre de l’obligation au titre du paragraphe 1, alinéa (b), une Partie ne peut déroger ou limiter l’application des obligations internationales qui lui incombent en matière de protection des droits de l’homme, de la démocratie et de l’État de droit.
30. Afin de veiller à la sécurité juridique et à la transparence, chaque Partie est tenue d’énoncer dans une déclaration la manière dont elle entend mettre en œuvre l’obligation énoncée dans le présent paragraphe, soit en appliquant les principes et obligations énoncés aux chapitres II à VI de la Convention-cadre aux activités des acteurs privés, ou en prenant d’autres mesures appropriées pour satisfaire à l'obligation prévue au présent paragraphe. Pour les Parties qui ont choisi de ne pas appliquer les principes et obligations de la Convention-cadre en relation aux activités d’autres acteurs privés, les rédacteurs attendent des approches de ces Parties qu’elles se développent dans le temps alors que leurs approches vis-à-vis de la régulation du secteur privé évoluent.
31. Toutes les Parties devraient soumettre leurs déclarations au Secrétaire Général ou à la Secrétaire Générale du Conseil de l'Europe au moment de la signature ou lorsqu'elle dépose son instrument de ratification, d'acceptation, d'approbation ou d'adhésion. Puisqu’il est important pour les Parties à la Convention-cadre de savoir quelles déclarations ont été formulées, le Secrétaire Général ou la Secrétaire Générale du Conseil de l'Europe partagera immédiatement les déclarations reçues avec les autres Parties. Les Parties peuvent, à tout moment et de la même manière, modifier leur déclaration.
32. Tout en maintenant un large champ d’application de la Convention-cadre, le paragraphe 2 envisage qu’une Partie n’est pas tenue d'appliquer la présente Convention-cadre aux activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle liées à la protection de ses intérêts de sécurité nationale, quel que soit le type d'entités exerçant les activités correspondantes. De telles activités doivent néanmoins être menées de manière compatible avec les obligations nées du droit international applicables, puisque la sécurité nationale est incluse dans le champ d’application de nombreux traités internationaux relatifs aux droits de l’homme tels que, mais sans s’y limiter, la Convention de sauvegarde des droits de l'homme et des libertés fondamentales du Conseil de l'Europe (CEDH), la Convention américaine relative aux droits de l’homme (Pacte de San José de Costa Rica), le Pacte international relatif aux droits civils et politiques (PIDCP) des Nations Unies et le Pacte international relatif aux droits économiques, sociaux et culturels (CESCR) des Nations Unies. Les activités pour la protection des intérêts de sécurité nationale qui sont susceptibles d'interférer avec les droits de l'homme doivent être prévues par la loi, respecter l’essence des droits de l’homme et, dans la mesure applicable dans le cadre des obligations susmentionnées, constituer une mesure nécessaire et proportionnée dans une société démocratique. Ces activités doivent également être menées dans le respect des institutions et processus démocratiques des Parties, tel que prévu dans leur droit national conformément au droit international applicable. Cette exception au champ d’application de la Convention-cadre ne s’applique que si, et dans la mesure où, les activités sont liées à la protection des intérêts de sécurité nationale. Cela maintient dans le champ d’application de la Convention-cadre les activités concernant les systèmes d’intelligence artificielle à «double usage» dans la mesure où ceux-ci ont vocation à être utilisés pour d’autres buts qui ne sont pas liés à la protection des intérêts de sécurité nationale des Parties et sont conformes aux obligations de la Partie en vertu de l’article 3. Toutes les activités régulières de maintien de l’ordre pour la prévention, la détection, l’investigation et la poursuite des crimes, y compris les menaces à la sécurité publique, demeurent également dans le champ d’application de la Convention-cadre si, et dans la mesure où, les intérêts de sécurité nationale des Parties ne sont pas en jeu.
33. En ce qui concerne le paragraphe 3, la formulation reflète l’intention des rédacteurs d’exempter les activités de recherche et de développement du champ d’application de la Convention-cadre à certaines conditions, à savoir que les systèmes d’intelligence artificielle en question n’ont pas encore été rendus disponibles à l’utilisation, et que les essais ou les activités similaires ne sont pas susceptibles d'interférer avec les droits de l'homme, la démocratie et l'État de droit. Ces activités qui sont exclues du champ d’application de la Convention-cadre devraient dans tous les cas être menées dans le respect des droits de l'homme et du droit national applicables, ainsi que des normes éthiques et professionnelles reconnues en matière de recherche scientifique.
34. Les rédacteurs ont également considéré que les systèmes d'intelligence artificielle qui sont rendus disponibles à l’utilisation à la suite de ces activités de recherche et de développement devraient en principe se conformer à la Convention-cadre, y compris en ce qui concerne leur conception et leur développement.
35. L'exemption des activités de recherche et de développement prévue au paragraphe 3 devrait être mise en œuvre sans préjudice du principe «d’innovation sûre», voir article 13, et de l'échange entre les Parties d'informations sur les risques, ainsi que sur les effets positifs ou négatifs significatifs sur les droits de l'homme, la démocratie et l'État de droit, survenant dans le cadre de la recherche, voir article 25, paragraphe 2, relatif à la «coopération internationale».
36. Pour l’exemption des «questions relatives à la défense nationale» du champ d’application de la Convention-cadre, les rédacteurs ont décidé d’utiliser la formulation issue de l’article 1, d, du Statut du Conseil de l’Europe (STE n° 001) qui stipule que «[l]es questions relatives à la défense nationale ne sont pas de la compétence du Conseil de l'Europe». Cette exemption ne sous-entend pas que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle relatives à la défense nationale ne sont pas couvertes par le droit international.
37. Cette disposition fait référence aux obligations de chaque Partie dans le domaine de la protection des droits de l'homme, telles qu'elles sont consacrées par le droit international et national applicable, en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.
38. En vertu du droit international, les Parties ont le devoir de veiller à ce que leur droit interne soit conforme à leurs obligations juridiques internationales, y compris les obligations découlant des traités internationaux qui les lient. Le droit international des droits de l'homme établit l'obligation pour chaque Partie de respecter, de protéger et de mettre en œuvre les droits de l'homme. Chaque Partie a l'obligation de veiller à ce que son droit interne soit conforme à ses obligations internationales en matière de droits de l'homme. Dans le même temps, les Parties sont libres de choisir les moyens de mettre en œuvre leurs obligations juridiques internationales, à condition que le résultat soit conforme à ces obligations. Il s'agit d'une obligation de résultat et pas d'une obligation de moyens. À cet égard, le principe de subsidiarité est essentiel, car il confère aux Parties la responsabilité principale d'assurer le respect des droits de l’homme et de prévoir des voies de recours en cas de violation des droits de l’homme.
39. Ci-dessous sont listés les principaux instruments et traités internationaux en matière de droits de l'homme, à l’échelle mondiale et régionale, auxquels les différents États qui ont négocié la Convention-cadre pourraient être Parties (par ordre chronologique):
Instruments mondiaux:
Instruments du Conseil de l’Europe et de l’Union européenne:
Autres instruments régionaux:
40. Outre les obligations juridiques résultant du droit international des droits de l'homme, l'article 4 de la Convention-cadre fait également référence à la protection des droits de l'homme relevant du système juridique interne de chaque Partie. Il s'agit généralement de normes et de règles constitutionnelles et subordonnées, ainsi que de mécanismes de contrôle et d'application de leur mise en œuvre, qui visent à protéger les droits de l’homme. Les rédacteurs ont souhaité préciser que la référence au droit national dans cette disposition et ailleurs n'est pas destinée à servir d'exemption aux obligations des Parties de se conformer à leurs obligations en matière de droit international.
41. Dans ce contexte, l'obligation générale énoncée à l'article 4 de la Convention-cadre requiert des Parties qu’elles fassent le point sur leurs obligations, cadres et mécanismes existants en matière de droits de l'homme dans leur système juridique interne et, conformément à l'approche décrite à l'article 1, paragraphe 2, qu’elles veillent à ce que les cadres, règles et mécanismes existants continuent de protéger et de promouvoir les droits de l’homme, conformément aux obligations internationales en matière de droits de l’homme, et qu’ils soient suffisants et efficaces pour répondre à l’évolution du paysage de l'intelligence artificielle.
42. Les technologies de l'intelligence artificielle possèdent un potentiel significatif pour renforcer les valeurs, les institutions et les processus démocratiques. Parmi les impacts potentiels, on peut citer le développement d'une compréhension plus profonde de la politique parmi les citoyens, permettant une participation accrue au débat démocratique ou améliorant l'intégrité de l'information dans l'espace civique en ligne. De même, les représentants politiques, les candidats, les fonctionnaires ou les représentants publics peuvent établir des liens plus étroits avec les individus, ce qui à terme renforce la capacité des représentants politiques, des fonctionnaires ou des représentants publics à représenter le public de manière plus efficace. Cet alignement entre les représentants politiques, les fonctionnaires ou les représentants publics et les citoyens peut transformer les campagnes électorales et améliorer considérablement le processus d'élaboration des politiques, en favorisant l'inclusion, la transparence et l'efficacité.
43. Les inquiétudes concernant l'utilisation de l'intelligence artificielle en politique existent depuis longtemps, mais celles spécifiquement associées aux démocraties et au processus électoral se sont intensifiées avec les récentes avancées technologiques. Les applications récemment introduites de cette technologie émergente pourraient constituer de nombreuses menaces pour la démocratie et les droits de l'homme, en servant d'outil puissant pour fragmenter la sphère publique et saper la participation civique et la confiance dans la démocratie. Ces outils pourraient permettre aux utilisateurs, y compris aux acteurs malveillants, de diffuser de la désinformation et des informations erronées susceptibles de porter atteinte à l'intégrité de l'information (notamment par l'utilisation de contenus générés par l'IA ou la manipulation de contenus authentiques par l'IA) et, le cas échéant, au droit d'accès à l'information; de prendre des décisions préjudiciables concernant des personnes, ce qui pourrait donner lieu à des pratiques discriminatoires; d'influencer des décisions de justice, ce qui pourrait avoir des répercussions sur l'intégrité du système judiciaire; et de procéder à une surveillance illégale ou arbitraire, ce qui entraînerait des restrictions de la liberté de réunion ou de la liberté d'expression, ainsi que de la vie privée.
44. L'utilisation de la technologie de l'intelligence artificielle de la manière décrite ci-dessus pourrait, à son tour, aggraver les tensions, conduire à des conflits, voire à des violences liées aux élections, ou saper la confiance des citoyens, qui est l'élément principal d'un gouvernement démocratique efficace. L'intelligence artificielle a la capacité de générer de fausses informations ou conduire à l'exclusion d’individus ou de ceux qui pourraient être sous-représentés ou en situation de vulnérabilité des processus démocratiques. Elle peut également contribuer à une curation de contenu déséquilibrée et manipulatrice. Malgré ses aspects avantageux, l'intelligence artificielle comporte un risque important d’impact négatif sur le processus démocratique ainsi que l’exercice des droits de l’homme pertinents. Cependant, avec la mise en œuvre de garanties appropriées, ces technologies peuvent s'avérer bénéfiques pour la démocratie.
45. À l'article 5, les rédacteurs ont souhaité attirer l'attention sur des contextes sensibles (le paragraphe 1 couvrant principalement les aspects institutionnels pertinents et le paragraphe 2 couvrant principalement les processus démocratiques pertinents) spécifiques dans lesquels l'utilisation potentielle de l'intelligence artificielle devrait être précédée d'un examen minutieux des risques pour la démocratie et l'État de droit et s'accompagner de règles et de garanties appropriées. Malgré l'absence de définition communément admise de l'expression «institutions et processus démocratiques», référence est faite, sur le plan institutionnel, aux systèmes de gouvernement dotés de certaines caractéristiques et institutions de base qui sont communes à tous les pays démocratiques.
46. En s'acquittant de leur obligation de protéger les institutions et les processus démocratiques en vertu de l'article 5, les Parties peuvent souhaiter se concentrer, par exemple, sur les risques que les systèmes d'intelligence artificielle font peser sur:
47. En outre, l'intégrité de la démocratie et de ses processus repose sur deux hypothèses importantes mentionnées à l’article 7, à savoir que les individus ont un pouvoir (la capacité à se forger une opinion et à agir en conséquence) ainsi qu'une influence (la capacité à influencer les décisions prises en leur nom). Les technologies de l'intelligence artificielle peuvent renforcer ces capacités mais, à l'inverse, elles peuvent aussi les menacer ou les affaiblir. C'est pourquoi le paragraphe 2 de la disposition fais référence à la nécessité d’adopter ou de maintenir des mesures visant à pour protéger «la capacité [des personnes] à se forger librement une opinion». En ce qui concerne les utilisations de l'intelligence artificielle dans le secteur public, il pourrait s'agir, par exemple, de mesures générales en matière de cybersécurité contre les ingérences étrangères malveillantes dans le processus électoral ou de mesures visant à lutter contre la diffusion de fausses informations et de désinformation.
48. Dans le même temps, cette disposition ne vise pas à créer, réduire, étendre ou modifier de quelque manière que ce soit les normes applicables existantes en matière de droits de l’homme, y compris la liberté d'expression (en ce qui concerne par exemple la publicité politique), de liberté d'association et de liberté de réunion, telles qu'elles sont prévues dans le droit international et national applicable en matière de droits de l'homme de chaque Partie.
49. Cette disposition indique clairement que les principes contenus dans ce chapitre devraient être intégrés dans les approches nationales des Parties en matière de réglementation des systèmes d'intelligence artificielle. En tant que tels, ils sont délibérément rédigés à un niveau élevé de généralité, dans l'intention de constituer des exigences globales pouvant être appliquées avec souplesse dans une variété de contextes en évolution rapide. Ils ont également une finalité, exprimant la raison d'être de la règle, et s'appliquent très largement à un large éventail de circonstances.
50. Les rédacteurs ont souhaité préciser que la mise en œuvre de ce chapitre, conformément aux obligations énoncées aux articles 4 et 5, devrait être effectuée par chaque Partie, conformément à l'approche décrite à l'article 1er, paragraphe 2, d'une manière adaptée à son système juridique interne, et en tenant compte également des autres obligations contenues dans la présente Convention-cadre.
51. Ce point est particulièrement important dans la mesure où, comme indiqué précédemment, en vertu de leurs obligations internationales respectives en matière de droits de l'homme chaque Partie dispose déjà d'un régime juridique détaillé de protection des droits de l'homme avec son propre ensemble de règles, de principes et de pratiques concernant le champ d’application, le contenu des droits et des restrictions, dérogations ou exceptions possibles à ces droits, ainsi que le fonctionnement des mécanismes de surveillance et de mise en œuvre applicables.
52. En outre, aucune disposition de la présente Convention-cadre n'a pour objet d’avoir un impact sur les obligations existantes en matière de droits de l'homme lorsqu'elles recoupent les principes énoncés au chapitre III.
53. Cette disposition souligne l'importance de la dignité humaine et de l'autonomie individuelle dans le cadre d'une réglementation et d'une gouvernance centrées sur l'humain des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle qui entrent dans le champ d'application de la Convention-cadre. Les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle ne doivent pas mener à la déshumanisation des individus, à saper leur pouvoir ou à les réduire à de simples points de données ou anthropomorphiser les systèmes d'intelligence artificielle d'une manière qui porte atteinte à la dignité humaine. La dignité humaine exige de reconnaître la complexité et la richesse de l'identité, de l'expérience, des valeurs et des émotions humaines.
54. La préservation de la dignité humaine implique le respect de la valeur inhérente à chaque individu, indépendamment de son passé, de ses caractéristiques ou de sa situation, et se réfère en particulier à la manière dont tous les êtres humains devraient être traités. La dignité de la personne humaine étant universellement reconnue comme le fondement des droits de l'hommeNote, la référence à ce principe en tant que premier principe du chapitre III souligne le caractère mondial de la Convention-cadre, puisque toutes les Parties reconnaissent la dignité inhérente à la personne humaine comme un fondement des droits de l'homme, de la participation démocratique et de l'État de droit.
55. L'autonomie individuelle est un aspect important de la dignité humaine, et renvoie à la capacité d’autodétermination des individus, c’est-à-dire leur capacité à faire des choix et à prendre des décisions, y compris sans subir de coercition, et à vivre leur vie librement. Dans le contexte de l'intelligence artificielle, l’autonomie individuelle exige que les individus aient le contrôle sur l'utilisation et l'impact des technologies d'intelligence artificielle dans leur vie et que leur agence et leur autonomie ne soient pas diminuées pour autant. La réglementation centrée sur l’humain reconnaît l'importance de permettre aux individus de façonner leur expérience de l'intelligence artificielle, en veillant à ce que ces technologies renforcent leur autonomie plutôt qu'elles ne l'empiètent. Les rédacteurs ont estimé que la référence à ce concept dans la présente Convention-cadre est particulièrement appropriée compte tenu de la capacité d'imitation et de manipulation des systèmes d'intelligence artificielle.
56. En raison de certaines caractéristiques qui distinguent les systèmes d'intelligence artificielle des systèmes informatiques traditionnels, telles que la complexité, l’opacité, l'adaptabilité et des degrés variables d'autonomie, les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle entrant dans le champ d'application de la Convention-cadre nécessitent des garanties appropriées sous la forme de mécanismes de transparence et de contrôle.
57. Le principe de transparence énoncé à l'article 8 fait référence à l'ouverture et à la clarté dans la gouvernance des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle et signifie spécifiquement que les processus décisionnels et l’opération des modèles d'intelligence artificielle devraient être compréhensibles et accessibles aux acteurs appropriés de l'intelligence artificielle et, le cas échéant, aux parties prenantes concernées. Dans certains cas, il pourrait également s'agir de fournir des informations supplémentaires, y compris, par exemple, sur les algorithmes utilisés, sous réserve de considérations liées à la sécurité, à la propriété commerciale et intellectuelle et à d'autres considérations, comme indiqué au paragraphe 62 ci-dessous. Les moyens de garantir la transparence dépendront de nombreux facteurs différents tels que, par exemple, le type de système d'intelligence artificielle et le contexte de son utilisation, ou le rôle ou l’historique de l’acteur concerné ou de la partie prenante pertinente. En outre, les mesures pertinentes à cet égard comprennent, le cas échéant, l’enregistrement des considérations essentielles telles que la provenance des données, les méthodes d’apprentissage, la validité des sources de données, la documentation et la transparence sur les données d’apprentissage, d'essai et de validation utilisées, les efforts d'atténuation des risques, les processus et les décisions mis en œuvre pour aider à une compréhension globale de la manière dont les résultats du système d'intelligence artificielle sont dérivés et ont une incidence sur les droits de l'homme, la démocratie et l'État de droit. Cela contribuera notamment à garantir la responsabilité et à permettre aux personnes concernées de contester l'utilisation ou les résultats du système d'intelligence artificielle, le cas échéant (voir le commentaire sur l’article 14 aux paragraphes 95-102).
58. Assurer la transparence d'un système d'intelligence artificielle pourrait donc exiger de communiquer des informations appropriées sur le système (telles que, par exemple, l’objectif et les objectifs, les limitations connues, les hypothèses et les choix techniques effectués lors de la conception, les caractéristiques, les détails des modèles ou les algorithmes sous-jacents, les méthodes d’apprentissage et les processus d’assurance de la qualité). Le terme «transparence algorithmique» est souvent utilisé pour décrire l’ouverture quant à l’objectif, la structure et les actions sous-jacentes d’un système piloté par algorithme. En outre, la transparence peut impliquer d’informer, le cas échéant, les personnes concernées ou le grand public des détails des données utilisées pour l’apprentissage du système et la protection des données personnelles, ainsi que sur l'objectif du système et la manière dont il a été conçu et déployé. La transparence devrait également inclure l'information des personnes concernées sur le traitement des informations et les types et le niveau d'automatisation utilisés pour prendre les décisions correspondantes. Assurer la transparence pourrait en outre aider les parties ayant des intérêts légitimes, y compris les détenteurs de droits d'auteur, à exercer et à faire respecter leurs droits de propriété intellectuelle.
59. La disposition prévoit également des mesures relatives à l'identification des contenus générés par l'IA afin d'éviter le risque de tromperie et de permettre la distinction entre les contenus authentiques et générés par un humain et les contenus générés par l'IA qui deviennent de plus en plus difficiles pour les personnes à identifier. Ces mesures pourraient inclure des techniques telles que l'étiquetage et le filigrane, qui impliquent généralement l'intégration d'une signature reconnaissable dans les résultats du système d'intelligence artificielle, sous réserve de la disponibilité de ces technologies et de leur efficacité prouvée, de l'état de l'art généralement reconnu et des spécificités des différents types de contenu. La promotion de l'utilisation de normes techniques, de licences libres et de la collaboration des chercheurs et des développeurs favorise le développement de systèmes d'intelligence artificielle plus transparents à long terme.
60. Il est important de souligner deux aspects importants du principe de transparence, notamment l'explicabilité et l'interprétabilité. Le terme «explicabilité» renvoie à la capacité de fournir, sous réserve de faisabilité technique et compte tenu de ce qui est généralement reconnu comme étant «à la pointe», des explications suffisamment compréhensibles sur les raisons pour lesquelles un système d’intelligence artificielle fournit des informations, produit des prédictions, des contenus, des recommandations ou des décisions,, ce qui est particulièrement crucial dans des domaines sensibles tels que les soins de santé, la finance, l’immigration, les services frontaliers et la justice pénale, où il est essentiel de comprendre le raisonnement qui sous-tend les décisions prises ou assistées par un système d'intelligence artificielle. Dans de tels cas, la transparence pourrait, par exemple, prendre la forme d'une liste de facteurs principalement responsables d'une décision prise ou assistée par un système d'intelligence artificielle.
61. Un autre aspect important de la transparence est l'interprétabilité, qui renvoie à la capacité de comprendre comment un système d’intelligence artificielle fait ses prédictions ou prend ses décisions ou, en d'autres termes, à la mesure dans laquelle les résultats des systèmes d'intelligence artificielle peuvent être rendus accessibles et compréhensibles pour les experts comme pour les non-experts. Il s'agit de rendre le fonctionnement interne, la logique et les processus décisionnels des systèmes d'intelligence artificielle compréhensibles et accessibles aux utilisateurs humains, y compris les développeurs, les parties prenantes et les utilisateurs finaux, ainsi qu'aux personnes concernées. Ces deux aspects sont également cruciaux pour satisfaire aux exigences mentionnées aux articles 12, 13 et 14 en général et à son paragraphe (b) en particulier, ainsi qu'à l'article 16. En outre, les rédacteurs ont souhaité souligner que la transparence dans le contexte des systèmes d'intelligence artificielle est soumise à des limitations technologiques – souvent, le chemin précis menant à un résultat particulier d'un système d'intelligence artificielle n'est pas facilement accessible, même à ceux qui le conçoivent ou le déploient. La réalisation du principe de transparence dans de telles circonstances est une question de degré, d'état de la technique, de circonstances et de contexte.
62. Étant donné que la divulgation de certaines de ces informations dans un souci de transparence peut aller à l'encontre de la vie privée, de la confidentialité (y compris, par exemple, les secrets commerciaux), de la sécurité nationale, de la protection des droits des tiers, de l'ordre public, de l'indépendance judiciaire ainsi que d'autres considérations et exigences juridiques, les Parties sont tenues, dans la mise en œuvre de ce principe, de trouver un juste équilibre entre les divers intérêts concurrents et de procéder aux ajustements nécessaires dans les cadres pertinents sans altérer ou modifier fondamentalement le régime sous-jacent des droits de l'homme applicables.
63. En ce qui concerne le deuxième principe mentionné dans cette disposition, le contrôle dans le contexte des systèmes d'intelligence artificielle fait référence à divers mécanismes, processus et cadres conçus pour surveiller, évaluer et orienter les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle. Il peut s'agir de cadres juridiques, politiques et réglementaires, de recommandations, de lignes directrices éthiques, de programmes d'audit et de certification, d'outils de détection et d'atténuation des biais. Il peut également s’agir d'organes et de comités de surveillance, d’autorités compétentes telles que les autorités de supervision sectorielles, les autorités de protection des données, et les organes de promotion de l'égalité et des droits de l'homme, les Institutions nationales des droits de l’homme (INDH) ou les agences de protection des consommateurs, etc, de contrôle continu des capacités actuelles de développement et d'audit, de consultations et d'engagements du public, de cadres de gestion des risques et de l'impact et les cadres d'évaluation de l'impact sur les droits de l'homme, les normes techniques ainsi que les programmes d'éducation et de sensibilisation.
64. Une option utile, dans certains cas, pourrait consister à prévoir une forme de protection contre les représailles pour les lanceurs d’alerte internes qui signalent des comportements répréhensibles et la véracité des déclarations publiques des acteurs de l'intelligence artificielle. À cet égard, les rédacteurs ont souhaité faire référence en particulier à la Recommandation CM/Rec(2014)7 du Comité des Ministres aux États membres sur la protection des lanceurs d'alerte.
65. Compte tenu de la complexité des systèmes d'intelligence artificielle et de la difficulté de les contrôler, les Parties sont encouragées à mettre en œuvre des mesures garantissant que ces systèmes sont conçus, développés et utilisés de manière à ce que les mécanismes de contrôle humainNote puissent être utilisés efficacement au cours du cycle de vie des systèmes d'intelligence artificielle. Le principe de contrôle est plus général et donc différent de l'obligation matérielle spécifique énoncée à l'article 26 de la Convention-cadre, qui exige des Parties qu'elles établissent ou désignent des mécanismes efficaces pour contrôler le respect des obligations énoncées dans la Convention-cadre, telles qu'elles sont mises en œuvre par les Parties dans leur système juridique interne (voir le commentaire de l'article 26 aux paragraphes 141-144 ci-dessous).
66. Le principe d'obligation de rendre des comptes et de responsabilité énoncé dans cette disposition renvoie à la nécessité de prévoir des mécanismes permettant aux personnes, organisations ou entités responsables des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle de rendre des comptes pour des effets négatifs sur les droits de l'homme, la démocratie ou l'État de droit résultant des activités menées dans le cadre du cycle de vie de ces systèmes. Plus précisément, la disposition exige des Parties qu'elles établissent de nouveaux cadres et mécanismes, ou qu'elles maintiennent les cadres et mécanismes existants susceptibles d'être appliqués aux activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle, afin de donner effet à cette exigence. Il peut également s'agir de mesures judiciaires et administratives, de régimes de responsabilité civile, pénale et autres et, dans le secteur public, de procédures administratives et autres permettant de contester les décisions, ou de responsabilités et d'obligations spécifiques imposées aux opérateurs.
67. Conformément à l'approche décrite dans le commentaire de l'article 4 aux paragraphes 37-41 et dans le commentaire de l'article 6 aux paragraphes 50-51 ci-dessus, les termes «impacts négatifs sur les droits de l'homme, la démocratie ou l'État de droit» utilisés dans cette disposition se réfèrent principalement aux obligations et engagements en matière de droits de l'homme applicables aux cadres existants de chaque partie en matière de droits de l'homme, de démocratie et d'État de droit. Ces normes, dans la mesure où elles sont applicables, comprennent la notion de «violation des droits de l'homme» figurant à l'article 2 du Pacte international relatif aux droits civils et politiques, aux articles 13, 34, 41 et 46 de la Convention européenne des droits de l'homme et aux articles 25 et 63 du Pacte de San José. En ce qui concerne la démocratie et l'État de droit, il est fait référence aux contextes sensibles spécifiques mentionnés dans le commentaire de l'article 5 aux paragraphes 45 et 46 ci-dessus, ainsi qu'aux cadres nationaux existants applicables pertinents en matière de protection de l'intégrité des processus et des institutions démocratiques.
68. Ce principe met l'accent sur la nécessité d'établir des lignes de responsabilité claires et sur la capacité de retracer les actions et les décisions jusqu'à des personnes ou des entités spécifiques, d'une manière qui reconnaisse la diversité des acteurs concernés et de leurs rôles et responsabilités. Cela est important pour garantir que, par exemple, si l’utilisation d'un système d'intelligence artificielle a un impact négatif sur les droits de l’homme, la démocratie ou l’État de droit, il existe un mécanisme permettant d'identifier ce résultat et d'attribuer les responsabilités de manière appropriée. En d'autres termes, tous les acteurs responsables des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle, qu'il s'agisse d'organisations publiques ou privées, doivent être soumis à un cadre de règles, de normes juridiques et d'autres mécanismes appropriés permettant une attribution efficace des responsabilités dans le contexte des systèmes d’intelligence artificielle.
69. Le principe d'obligation de rendre des comptes et de responsabilité est indissociable du principe de transparence et de contrôle, car les mécanismes de transparence et de contrôle permettent l'obligation de rendre des comptes et la responsabilité en expliquant clairement la manière dont les systèmes d'intelligence artificielle fonctionnent et produisent des résultats. Lorsque les parties prenantes pertinentes comprennent les processus et les algorithmes sous-jacents, il est plus aisé de retracer et d'attribuer les responsabilités en cas d’impacts négatifs sur des droits de l’homme, la démocratie ou l’État de droit, y compris les violations des droits de l’homme.
70. Enfin, en raison des caractéristiques décrites précédemment du cycle de vie de l'intelligence artificielle, le principe d'obligation de rendre des comptes et de responsabilité inclut également l'obligation pour les États d’adopter ou de maintenir des mesures visant à garantir que les responsables des systèmes d'intelligence artificielle prennent en compte les risques potentiels pour les droits de l'homme, la démocratie et l'État de droit résultant des activités du cycle de vie des systèmes d'intelligence artificielle. Il s'agit notamment d'être proactif dans la prévention et l'atténuation des risques et des effets négatifs sur les droits de l'homme, la démocratie ou l'État de droit (voir le commentaire sur l’article 16 aux paragraphes 105-112).
71. En formulant la paragraphe 1 de l’article 10, qui mentionne «l'égalité, y compris l'égalité de genre et l'interdiction de la discrimination, comme le prévoit le droit international et interne applicable», l’intention des rédacteurs a été de se référer spécifiquement à l'ensemble du droit des droits de l'homme constitué d'instruments juridiques internationaux (aux niveaux mondial et régional) et nationaux applicable à chaque Partie, qui, ensemble, fournissent une base juridique solide et des orientations permettant à chaque Partie d'envisager les mesures à adopter ou à maintenir, en vue d'assurer l'égalité et l'interdiction de la discrimination en ce qui concerne les questions relevant des sphères pertinentes dans le cadre des activités du cycle de vie des systèmes d'intelligence artificielle.
72. Au niveau mondial, il convient de se référer:
73. Au niveau régional, il est important de mentionner les dispositions et instruments suivants:
74. Les Parties doivent prendre en considération les éléments pertinents de leur droit interne, notamment le droit constitutionnel, les lois et la jurisprudence.
75. Les rédacteurs ont également réfléchi au risque réel et bien documenté de biais pouvant constituer une discrimination illicite découlant des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle. La Convention-cadre exige des Parties qu'elles envisagent des solutions appropriées en matière de réglementation, de gouvernance, de technique ou d'autres solutions pour traiter les différentes façons dont la partialité peut être incorporée intentionnellement ou par inadvertance dans les systèmes d'intelligence artificielle à différents stades de leur cycle de vie. Les problèmes suivants ont été bien documentés en ce qui concerne certains systèmes d'intelligence artificielle:
76. Les questions d'égalité dans le contexte spécifique de l'intelligence artificielle comprennent des catégories de problèmes relativement nouvelles telles que le «biais technique», ou les problèmes liés à l'application de l'apprentissage automatique entraînant des biais supplémentaires qui ne sont pas présents dans les données utilisées pour former le système ou prendre des décisions, et le «biais social», c'est-à-dire l'incapacité à prendre correctement en compte les inégalités historiques et contemporaines de la société dans les activités menées dans le cadre du cycle de vie de l'intelligence artificielle, telles que la conception et la formation des modèles. Ces inégalités comprennent, par exemple, les obstacles historiques et structurels à l’égalité de genre et un traitement juste et équitable des personnes appartenant à des groupes qui ont été ou sont encore partiellement mal desservies, discriminées ou soumises à d’autres inégalités persistantes. Ces questions comprennent également la reconnaissance du fait que divers personnes subissent des impacts différentiels sur la base de facteurs liés à leurs caractéristiques personnelles, à leur situation ou à leur appartenance à un groupe, y compris ceux couverts par les instruments pertinents et applicables mentionnés aux paragraphes 72 et 73 du Rapport explicatif, tels qu'ils sont interprétés par la jurisprudence et les pratiques pertinentes des organes de traités internationaux relatifs aux droits de l'homme.
77. Le texte de la disposition indique clairement que l'approche requise en vertu de cet article ne doit pas se limiter à exiger qu'une personne ne soit pas traitée de manière moins favorable «sans justification objective et raisonnable» sur la base d'une ou plusieurs caractéristiques protégées qu'elle possède dans des domaines pertinents d'un secteur protégé. Les Parties s'engage à adopter de nouvelles mesures ou à maintenir les mesures existantes visant à surmonter les inégalités structurelles et historiques, dans la mesure permise par leurs obligations nationales et internationales en matière de droits de l'homme, et, en outre, ces processus devraient, le cas échéant, être éclairés par les points de vue des personnes concernées.
78. Conscients des différences conceptuelles, doctrinales, juridiques et techniques entre les façons dont ces questions sont traitées dans les systèmes juridiques nationaux des différentes Parties, et afin de fournir aux Parties la marge d'appréciation nécessaire à cet égard, les rédacteurs ont inséré une formulation qui permet à chaque Partie de se conformer à l'obligation énoncée au paragraphe 2 de l'article 10 conformément à ses propres obligations et engagements nationaux et internationaux applicables en matière de droits de l'homme en appliquant les cadres existants applicables au contexte des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle.
79. La protection de la vie privée et des données à caractère personnel est un principe commun nécessaire à la réalisation effective de nombreux autres principes de la présente Convention-cadre. La collecte de données est déjà omniprésente, non seulement en tant que base des modèles commerciaux dans de nombreuses industries, mais aussi en tant qu'activité clé des agences gouvernementales, en particulier des autorités chargées du maintien de l’ordre, qui utilisent une variété de technologies et de systèmes automatisés qui ont un impact direct sur la vie des personnes. Les systèmes d'intelligence artificielle étant principalement axés sur les données, en l'absence de garanties appropriées, les activités entrant dans le cadre du cycle de vie de ces systèmes pourraient présenter de graves risques pour la vie privée des personnes.
80. Malgré certaines différences dans les traditions juridiques, les règles spécifiques et les mécanismes de protection, les États qui ont négocié la Convention-cadre partagent un engagement fort en faveur de la protection de la vie privée, consacrée au niveau mondial par l'article 17 du PIDCP, et au niveau régional par l'article 8 de la CEDH, l'article 8 de la Charte de l'Union européenne et l'article 11 du Pacte de San José.
81. Fondamentalement, la vie privée comprend les composantes suivantes, qui se chevauchent en partie et dont les degrés de reconnaissance et de protection juridiques varient d'une juridiction à l'autre: (1) intérêt protégé à limiter l'accès aux expériences de vie et aux engagements d'une personne (2) intérêt protégé dans le secret concernant certaines questions (3) degré de contrôle sur les informations et les données personnelles (4) protection de la personnalité (individualité ou identité, dignité personnelle, autonomie individuelle) et (5) protection de l'intimité et de l'intégrité physique, psychologique ou morale. La disposition souligne ces différentes approches en mettant en évidence certains points communs essentiels dans ce domaine, même si elle n'a pas pour but d'approuver ou d'exiger des mesures réglementaires particulières dans une juridiction donnée.
82. Compte tenu du rôle clé que la protection des données personnelles joue dans la sauvegarde du droit à la vie privée dans le monde numérique, les rédacteurs ont fait une mention spécifique dans le texte de la disposition aux «lois, normes et cadres» nationaux et internationaux dans le domaine de la protection des données à caractère personnel. Afin de souligner leur importance pour assurer une protection efficace dans le contexte de l'intelligence artificielle, l'article 11, alinéa (b), fait également explicitement référence à d'autres «garanties et protections» dont les personnes (également appelées «personnes concernées» dans certaines juridictions) bénéficient généralement en vertu de ces lois, normes et cadres. Les rédacteurs considèrent que cette obligation requiert des Parties qu'elles prennent des mesures pour protéger la vie privée.
83. L'un de ces instruments est la Convention 108+ du Conseil de l'Europe, qui couvre à la fois les secteurs public et privé et qui est ouverte à l'adhésion des États au niveau mondial. Au niveau de l’UE, le Règlement général sur la protection des données (Règlement (UE) 2016/679, «RGPD») est une loi complète sur la protection des données qui s'applique aux personnes physiques ou morales qui traitent des données à caractère personnel appartenant à des personnes physiques dans l'Union européenne, que le traitement ait lieu dans l'Union européenne ou non. Au niveau national, la plupart des États qui ont négocié la Convention-cadre disposent de lois dédiées à la protection des données personnelles ou de la vie privée et souvent d'autorités spécialisées chargées de superviser correctement les règles et réglementations pertinentes.
84. Cette disposition souligne le rôle que peuvent jouer les normes, les spécifications techniques, les techniques d'assurance et les systèmes de conformité dans l'évaluation et la vérification de la fiabilité des systèmes d'intelligence artificielle, ainsi que dans la documentation et la communication transparentes des éléments de preuve de ce processus. Les normes, en particulier, pourraient constituer une base fiable permettant aux individus de partager des attentes communes concernant certains aspects d'un produit, d'un processus, d'un système ou d'un service, en vue d'instaurer une confiance justifiée dans la fiabilité d’un système d’intelligence artificielle si son développement et de son utilisation sont conformes à ces normes.
85. Cette disposition souligne l'importance d'établir des mesures visant à garantir la fiabilité des systèmes d'intelligence artificielle par des mesures portant sur des aspects clés du fonctionnement tels que la fiabilité, la sûreté, la sécurité, l’exactitude et la performance, ainsi que sur des conditions fonctionnelles préalables telles que la qualité et l'intégrité des données, la sécurité des données et la cybersécurité. Les normes, exigences, et techniques d'assurance pertinentes devraient couvrir ces éléments en tant que condition préalable à l'instauration réussie d'une confiance justifiée du public dans les technologies d'intelligence artificielle.
86. Les normes techniques peuvent contribuer à fournir une assurance et une conformité mutuellement comprises et évolutives en matière d'intelligence artificielle, mais il faut veiller à ce qu'elles soient élaborées dans le cadre d'un processus transparent et inclusif qui encourage la cohérence avec les instruments internationaux et nationaux applicables en matière de droits de l'homme.
87. En outre, les mesures à adopter en vertu de cette disposition devraient viser à garantir que, comme tout autre système logiciel, les systèmes d'intelligence artificielle soient «sûrs et sécurisés dès la conception», ce qui signifie que les acteurs de l'intelligence artificielle concernés devraient considérer la sécurité et la sûreté comme des exigences fondamentales, et non comme de simples caractéristiques techniques. Ils devraient donner la priorité à la sécurité et la sûreté tout au long du cycle de vie du système d'intelligence artificielle.
88. Dans certains cas, il ne suffit pas de définir des normes et des règles concernant les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle. Les mesures visant à promouvoir la fiabilité peuvent donc inclure, selon le contexte, la fourniture aux parties prenantes concernées d'informations claires et fiables pour savoir si les acteurs de l'intelligence artificielle ont respecté ces lignes directrices dans la pratique. Cela signifie qu'il faut garantir une responsabilité de bout en bout grâce à la transparence des processus et à des protocoles de documentation. Il existe un lien clair entre ce principe et le principe de transparence et de contrôle énoncé à l'article 8, ainsi que le principe d'obligation de rendre des comptes et de responsabilité énoncé à l'article 9.
89. Les systèmes d’assurance et de conformité sont importants à la fois pour garantir la conformité avec les règles et réglementations et pour faciliter l'évaluation de risques plus ouverts lorsque les règles et réglementations seules ne fournissent pas d’orientations suffisantes pour garantir qu'un système est digne de confiance. Les normes techniques fondées sur le consensus ont ici un rôle important à jouer pour combler les lacunes et pour fournir des orientations sur l'atténuation des risques d'un point de vue technique (voir également le commentaire de l'article 16 aux paragraphes 105 et 112 ci-dessous).
90. Cette disposition met en évidence un thème important qui est au cœur de l'approche de la Convention-cadre: les Parties devraient s'efforcer de promouvoir et d'encourager l'innovation en accord avec les droits de l'homme, la démocratie et l'État de droit. Un moyen approprié de stimuler l'innovation responsable en matière d'intelligence artificielle est de permettre aux autorités du secteur d'activité concerné de mettre en place des «environnements contrôlés» ou des «cadres» pour permettre le développement, la formation, l'expérimentation, le test en direct des innovations sous la supervision directe des autorités compétentes, en particulier pour encourager la prise en compte de la qualité, de la protection de la vie privée et d'autres préoccupations en matière de droits de l'homme, ainsi que de la sécurité et de la sûreté dès les premiers stades. Cela est d'autant plus important que certains risques associés aux systèmes d'intelligence artificielle ne peuvent être traités efficacement qu'au stade de la conception.
91. Il est également important de reconnaître que certains développeurs d'intelligence artificielle, y compris ceux qui ont une mission d'intérêt public ne peuvent poursuivre leur innovation sans être raisonnablement sûrs qu'elle n'aura pas d'incidences préjudiciables et sans incorporer des garanties appropriées pour atténuer les risques dans un environnement contrôlé. Étant donné que l'innovation est essentiellement collaborative et dépendante du chemin parcouru, les nouveaux systèmes s'appuyant sur ce qui a été fait auparavant, il existe un risque que cette innovation soit entravée parce qu'elle ne peut pas également utiliser ou construire sur des innovations existantes qui ne sont pas suffisamment sûres. Cette disposition ne vise pas à étouffer l'innovation, mais reconnaît que l'innovation peut être façonnée autant par la réglementation que par son absence. Si l’on ne créé pas un environnement dans lequel l'innovation responsable peut s'épanouir, on risque d'étouffer cette innovation et de laisser le champ libre à des approches plus imprudentes.
92. Compte tenu de la diversité et de la complexité sous-jacente des systèmes juridiques et des traditions réglementaires des États qui ont négocié la Convention-cadre, la disposition laisse aux Parties le soin de définir les détails spécifiques des arrangements pertinents, à condition que les régimes mis en place en vertu de cette disposition respectent l'exigence «d'éviter les effets négatifs sur les droits de l'homme, la démocratie et l'État de droit». Une approche pour atteindre ces objectifs est, par exemple, les «bacs à sable réglementaires» qui visent à encourager l'innovation, à assurer la sécurité juridique et à permettre l'apprentissage réglementaire. D’autres approches incluent des orientations réglementaires spéciales ou des lettres de non-intervention pour clarifier la manière dont les régulateurs aborderont la conception, le développement ou l'utilisation des systèmes d'intelligence artificielle dans des contextes nouveaux.
93. Les approches visées par cette disposition offrent de nombreux avantages particulièrement adaptés dans le cas des systèmes d'intelligence artificielle, le rythme rapide de leur développement et le caractère omniprésent de leur utilisation:
94. Étant donné que les obligations énoncées dans le présent chapitre sont destinées à compléter le régime juridique international et national de protection des droits de l'homme applicable à chaque Partie, qui comprend non seulement des règles et des procédures spécifiques, mais aussi diverses institutions et des mécanismes de contrôle et d'application, la mise en œuvre des principes énoncés dans le présent chapitre, devrait être effectuée par chaque Partie en appliquant ses cadres existants au contexte des systèmes d'intelligence artificielle, en gardant à l'esprit l'objet et le but de la Convention-cadre, qui est de veiller à ce que les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle soient pleinement conformes aux droits de l'homme, à la démocratie et à l'État de droit.
95. Comme indiqué précédemment, chaque Partie dispose déjà de cadres existants en matière de droits de l'homme, de démocratie et d'État de droit. La Convention-cadre requiert des Parties qu’elles appliquent ces cadres existants au contexte des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle.
96. En raison de certaines caractéristiques uniques des systèmes d'intelligence artificielle, telles que leur complexité technique, leur caractère axé sur les données et l'opacité relative des opérations de certains de ces systèmes, les interactions humaines avec les systèmes d'intelligence artificielle ont été affectées par le problème de l’opacité des systèmes d’intelligence artificielle et de l'asymétrie de l'information, c'est-à-dire un déséquilibre important dans l'accès à l'information, la compréhension de l'information ou le contrôle de l'information entre les différentes parties impliquées dans les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle.
97. Ce problème est particulièrement aigu dans les situations où les droits de l'homme sont affectés par les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle, car les personnes affectés ou susceptibles de l'être peuvent ne pas être conscients de ces impacts ou ne pas disposer des informations nécessaires pour exercer leurs droits à cet égard ou se prévaloir des procédures et des garanties pertinentes.
98. C'est pourquoi cette disposition rappelle le principe selon lequel un recours d'être à la fois effectifs et accessible. Pour être efficace, le recours doit être capable de remédier directement aux situations contestées, et pour être accessible, il doit être disponible avec des garanties procédurales suffisantes pour que le recours soit utile à la personne concernée. Afin de souligner le lien et d'assurer la complémentarité avec les mécanismes internationaux et nationaux de protection des droits de l'homme applicables, la disposition utilise la terminologie juridique référencée à l'article 2 du PIDCP, à l'article 13 de la CEDH et à l'article 25 du Pacte de San José. L'expression «violations des droits de l'homme» utilisée au premier paragraphe de cette disposition renvoie aux notions bien établies contenues dans l'article 2 du PIDCP, les articles 13, 34, 41 et 46 de la CEDH et les articles 25 et 63 du Pacte de San José, si et dans la mesure où elles sont applicables aux futures Parties respectives de la présente Convention-cadre (voir le commentaire au paragraphe 67 ci-dessus).
99. Conformément aux principes énoncés aux articles 8 (Principe de transparence et de contrôle) et 9 (Principe d'obligation de rendre des comptes et de responsabilité), l'article 14 de la Convention-cadre impose aux Parties d'adopter ou de maintenir des mesures spécifiques pour documenter et mettre à la disposition des personnes concernées certaines informations afin de soutenir l'objectif de mise à disposition, d'accessibilité et d'efficacité des recours en cas de violations des droits de l'homme dans le cadre des activités du cycle de vie d'un système d'intelligence artificielle. Le contenu pertinent des mesures liées à l’information doit être adapté au contexte, suffisamment clair et significatif et, plus important encore, donner à la personne concernée la possibilité effective d'utiliser l'information en question pour exercer ses droits dans le cadre de la procédure relative aux décisions pertinentes affectant ses droits de l'homme. Il est également important de rappeler que des exceptions, limitations ou dérogations à ces obligations de transparence sont possibles dans l'intérêt de l'ordre public, de la sécurité et d'autres intérêts publics importants, comme le prévoient les instruments internationaux applicables en matière de droits de l'homme, et, le cas échéant, pour atteindre ces objectifs.
100. Pour les violations des droits de l'homme résultant des activités du cycle de vie des systèmes d'intelligence artificielle, il est également important de donner aux personnes concernées la possibilité effective de déposer une plainte auprès des autorités compétentes, comme le prévoit l'article 14, paragraphe 2, alinéa (c), de la Convention-cadre. Cela peut inclure le(s) mécanisme(s) de contrôle visé(s) à l'article 25. Dans certaines situations, un recours effectif peut inclure des plaintes déposées par des organisations d'intérêt public, conformément au système juridique interne d'une Partie.
101. Les rédacteurs ont souhaité souligner que les expressions «avoir une incidence significative sur les droits de l'homme» à l'alinéa (a) du paragraphe 2 de l'article 14 et «[avoir] un impact significatif sur la jouissance des droits de l'homme» au paragraphe 1 de l'article 15 introduisent toutes deux une exigence de seuil, ce qui signifie que (1) les exigences pertinentes des articles 14 et 15 ne s'appliquent pas automatiquement à tous les systèmes d'intelligence artificielle entrant dans le champ d'application de l'article 3 de la Convention-cadre; (2) que les systèmes d'intelligence artificielle qui n'ont pas d'incidence ou d'impact significatif sur les droits de l'homme ne relèvent pas du champ d'application des dispositions pertinentes; et (3) qu'il appartient aux Parties de la Convention-cadre d'examiner si, compte tenu de leurs obligations internationales et nationales existante en matière de droits de l'homme, du contexte et d'autres circonstances pertinentes relatives à un système d'intelligence artificielle donné, on peut dire que ce système a une «incidence significative» ou un «impact significatif» sur les droits de l'homme.
102. De même, l’expression «fondées en grande partie sur [l’utilisation d’un système d’intelligence artificielle]» à l’alinéa (b) de l’article 14 vise à introduire une exigence de seuil qui souligne le fait que toutes les utilisations d’un système d’intelligence artificielle dans la prise de décision ne déclenchent pas l’application de l’alinéa (b) et que ces mesures ne devraient s’appliquer que dans les cas où la décision a été au moins «fondée en grande partie» sur l’utilisation du système. Il appartient aux Parties de la Convention-cadre de définir le sens de cette expression, conformément au droit international et national applicable en matière de droits de l'homme.
103. Le paragraphe 1 de l'article 15 énonce une obligation distincte pour les Parties de veiller à ce que les garanties procédurales existantes, les sauvegardes et les droits prescrits par le droit international et interne applicable en matière de droits de l'homme restent disponibles et effectifs dans le contexte de l'intelligence artificielle. Lorsqu'un système d'intelligence artificielle contribue en grande partie à la prise des décisions ou prend des décisions ayant un impact sur les droits de l'homme, des garanties procédurales effectives devraient, par exemple, inclure un contrôle humain, y compris un examen ex ante ou ex post de la décision par des êtres humains. Le cas échéant, ces mesures de contrôle humain devraient garantir que le système d'intelligence artificielle est soumis à des contraintes opérationnelles intégrées qui ne peuvent être ignorées par le système lui-même et qu'il est à l'écoute de l'opérateur humain, et que les personnes physiques auxquelles le contrôle humain a été confié ont les compétences, la formation et l'autorité nécessaires pour s'acquitter de ce rôle.
104. Le paragraphe 2 de l'article 15 traite spécifiquement des situations d'interaction humaine directe avec un système d'intelligence artificielle. Dans de tels cas, et le cas échéant, compte tenu des circonstances et du contexte d'utilisation, et en vue notamment d’éviter le risque de manipulation et de tromperie, les personnes qui interagissent avec un système d'intelligence artificielle devraient être dûment informées qu'elles interagissent avec un système d'intelligence artificielle plutôt qu'avec un être humain. Par exemple, les interactions avec des robots de conversation dotés d'IA sur les sites web des gouvernements déclencheraient probablement l'obligation de notification prévue par cette disposition. Dans le même temps, cette obligation n'est pas destinée, par exemple, à couvrir les situations où l'objectif même de l'utilisation du système serait contrecarré par la notification (scénarios des besoins du maintien d’ordre) ou lorsque l'utilisation du système est évidente d'après le contexte, ce qui rend la notification superflue.
105. Afin de tenir compte du caractère itératif des activités du cycle de vie des systèmes d'intelligence artificielle et de garantir l'efficacité des mesures prises par les Parties, la Convention-cadre contient une disposition spécifique prescrivant la nécessité d'identifier, d’évaluer, de prévenir et d’atténuer ex ante et, le cas échéant, de manière itérative tout au long du cycle de vie du système d’intelligence artificielle, les risques pertinents et les impacts potentiels pour les droits de l'homme, la démocratie et l'État de droit en suivant et en permettant le développement d’une méthodologie assortie de critères concrets et objectifs pour de telles évaluations. Ces obligations constituent l'un des outils essentiels pour permettre la mise en œuvre des exigences de la Convention-cadre et des chapitres II et III en particulier et devraient être mises en œuvre par les Parties à la lumière de tous les principes pertinents, y compris les principes de transparence et de contrôle ainsi que le principe d'obligation de rendre des comptes et de responsabilité.
106. Le but de cette disposition vise à garantir une approche uniforme de l'identification, de l'analyse et de l'évaluation de ces risques, ainsi que de l'évaluation de l'impact de ces systèmes. En même temps, elle repose sur l'hypothèse que les Parties sont mieux placées pour faire des choix réglementaires pertinents, en tenant compte des contextes juridiques, politiques, économiques, sociaux, culturels et technologiques qui leur sont propres, et qu'elles devraient donc jouir d'une certaine marge d'appréciation en ce qui concerne la gouvernance et la réglementation effectives qui accompagnent les processus.
107. C'est la principale raison pour laquelle la disposition mentionne des mesures «graduées et différenciées» qui devraient tenir dûment compte «du contexte et de l'utilisation prévue des systèmes d'intelligence artificielle», ce qui laisse aux Parties une certain souplesse dans les approches et les méthodologies qu’elles choisissent pour réaliser cette évaluation. En particulier, les Parties peuvent choisir de mettre en œuvre cette évaluation à différents niveaux, par exemple au niveau réglementaire en prescrivant différentes catégories de classification des risques et/ou au niveau opérationnel par les acteurs concernés auxquels sont confiées des responsabilités dans les activités du cycle de vie du système d'intelligence artificielle. Les Parties peuvent également choisir de ne se concentrer, au niveau opérationnel, que sur certaines catégories prédéfinies de systèmes d'intelligence artificielle, conformément à l'approche graduée et différenciée, afin que la charge et les obligations soient proportionnées aux risques (article 16, paragraphe 2, alinéa (a). Les Parties pourraient également examiner la capacité des différentes catégories d'acteurs du secteur privé à répondre à ces exigences, en particulier celles relatives à la documentation et à la communication avec les autorités compétentes et les parties prenantes, et, si possible et s'il y a lieu, les adapter en conséquence.
108. Les rédacteurs ont également souhaité préciser qu'outre les risques pour les droits de l'homme, la démocratie et l'État de droit, les évaluations peuvent, le cas échéant, tenir dûment compte de la nécessité de préserver un environnement sain et durable, ainsi que des avantages prévus pour la société dans son ensemble et des incidences positives sur les droits de l'homme, la démocratie et l'État de droit. Des facteurs tels que la «sévérité», la «probabilité», la durée et la réversibilité des risques et des impacts sont également très importants dans le contexte de l'intelligence artificielle et devraient être pris en compte dans le cadre de la gestion des risques (article 16, paragraphe 2, alinéa (b)), en particulier lors de l'identification et de l'évaluation des risques et des impacts potentiels. En outre, il est important de préciser que l'obligation de prendre en compte le point de vue des personnes dont les droits peuvent être affectés, en fonction du contexte, dans la mesure du possible et le cas échéant, implique de prendre en compte le point de vue de diverses parties prenantes, telles que des experts techniques extérieurs et la société civile (article 16, paragraphe 2, alinéa (c)).
109. La disposition sous-entend également que procéder à l'évaluation des risques au début du cycle de vie du système d'intelligence artificielle n'est qu'une première étape, bien que critique, d'un processus beaucoup plus long, de bout en bout, d'évaluation et de réévaluation responsables (article 16, paragraphe 2, alinéa (d)). Dans le processus d'évaluation des risques et des impacts, il convient de tenir compte à la fois du caractère dynamique et changeant des activités au cours du cycle de vie des systèmes d'intelligence artificielle et des conditions changeantes des environnements réels dans lesquels les systèmes sont destinés à être déployés. La disposition introduit en outre des exigences concernant non seulement la documentation des informations pertinentes au cours des processus de gestion des risques, mais prescrit également l'application de mesures de prévention et d'atténuation suffisantes en ce qui concerne les risques et les impacts identifiés. Il est important que l'exigence d'une documentation appropriée des processus de gestion des risques et des impacts prévue à l'article 16, paragraphe 2, alinéa (f), joue son rôle dans l'identification, l'évaluation, la prévention et l'atténuation des risques ou des impacts négatifs sur les droits de l'homme, la démocratie ou l'État de droit qui surviennent tout au long du cycle de vie d'un système d'intelligence artificielle. La documentation technique et la documentation relative aux risques et aux effets négatifs devraient être correctement établies et régulièrement mises à jour. Le cas échéant, la documentation peut inclure un rapport public sur les effets négatifs. Les essais (article 16, paragraphe 2, alinéa (g)) peuvent comprendre l'accès d'auditeurs indépendants à certains aspects des systèmes d'intelligence artificielle.
110. Le paragraphe 3 de l'article 16 dispose également l’application de mesures que les Parties à la Convention-cadre devraient disposer de mécanismes concernant les risques et les impacts identifiés, afin de traiter de manière adéquate les impacts négatifs des systèmes d'intelligence artificielle sur les droits de l'homme, la démocratie et l'État de droit.
111. Le paragraphe 4 de l'article 16 stipule que les Parties à la Convention-cadre évaluent la nécessité de moratoires, d'interdictions ou d'autres mesures appropriées concernant les utilisations de systèmes d'intelligence artificielle qu'elles considèrent comme «incompatibles avec le respect des droits de l'homme, de la démocratie et de l'État de droit». La détermination de ce qui est «incompatible» dans ce contexte relève de chaque Partie, de même que l'évaluation de la nécessité d'un moratoire ou d'une interdiction, d'une part, ou d'une autre mesure appropriée, d'autre part. En l'absence de mesures interdisant, limitant ou réglementant d'une autre manière l'utilisation de systèmes d'intelligence artificielle dans ces circonstances, ces utilisations pourraient présenter des risques excessifs pour les droits de l'homme, la démocratie et l'État de droit.
112. Bien que cette disposition laisse à chaque Partie le soin de déterminer les modalités d'application des moratoires, interdictions ou autres mesures appropriées, compte tenu de leur gravité, des mesures telles que des moratoires ou des interdictions ne devraient être envisagées que dans les cas où une Partie estime qu'une utilisation particulière d'un système d'intelligence artificielle présente un risque inacceptable pour les droits de l'homme, la démocratie ou l'État de droit. Un examen plus approfondi peut comprendre, par exemple, un examen minutieux de l'existence de mesures permettant d'atténuer ce risque. Ces mesures devraient également être accompagnées de procédures d'examen organisées de manière appropriée afin de permettre leur mise à jour, y compris leur éventuelle annulation (par exemple, lorsque les risques pertinents ont été suffisamment réduits ou que des mesures d'atténuation appropriées sont devenues disponibles, ou que de nouvelles pratiques inacceptables ont été identifiées). Les rédacteurs notent également l'importance des consultations publiques lors de l'examen des mesures prévues par cette disposition.
113. Cet article interdit toute discrimination dans la mise en œuvre de la Convention-cadre par les Parties. La signification de la discrimination à l'article 17 est identique à celle énoncée dans le droit international applicable, tel que l'article 26 du PIDCP, l'article 2 du PIDESC, l'article 14 de la CEDH et son Protocole No.12, l'article 24 du Pacte de San José pour les droits civils et politiques, et l'article E de la CSE, le cas échéant et tel qu’applicable pour les Parties à la Convention-cadre.
114. Prises ensemble, ces dispositions couvrent un large éventail de motifs de non-discrimination liés aux caractéristiques personnelles des individus, à leur situation ou à leur appartenance à un groupe, y compris ceux couverts par les instruments pertinents et applicables mentionnés aux paragraphes 72 et 73 du Rapport explicatif, tels qu'interprétés par la jurisprudence et les pratiques pertinentes des organes créés en vertu d'instruments internationaux relatifs aux droits de l'homme.
115. Tous ces motifs ne sont pas mentionnés de manière explicite ou formulés de manière identique dans les traités relatifs aux droits de l’homme auxquels les Parties à la présente Convention-cadre peuvent être liés. Ces traités contiennent généralement des listes ouvertes de tels motifs, tels qu'interprétés par la jurisprudence des juridictions internationales compétentes, telles que les Cours européenne et interaméricaine des droits de l'homme, et dans la pratique pertinente des organes internationaux compétents, tels que le Comité des droits de l'homme des Nations Unies. Il pourrait donc y avoir des différences entre les différents régimes internationaux relatifs aux droits de l’homme applicables aux différentes Parties. Comme pour les autres conventions et traités relatifs aux droits de l'homme, l'approche de la Convention-cadre n'est pas de créer de nouvelles obligations en matière de droits de l'homme, ni de réduire, d'étendre ou de modifier de quelque manière que ce soit la portée ou le contenu des obligations internationales en matière de droits de l'homme applicables à une Partie (voir le commentaire relatif à l'article 1, au paragraphe 13 ci-dessus).
116. Cette disposition impose aux Parties, dans le cadre des activités liées au cycle de vie des systèmes d'intelligence artificielle, l'obligation de tenir dûment compte des «besoins spécifiques et des vulnérabilités en ce qui concerne le respect des droits des personnes handicapées et des enfants» et, à cet égard, elle renvoie directement aux dispositions et au régime juridique de la CIDPH et de la CIDE, ainsi qu'au droit interne applicable de chaque Partie en matière de droits des personnes handicapées et de droits de l'enfant. Une référence explicite au droit interne applicable aux droits de l'enfant et aux droits des personnes handicapées a été insérée, notamment en vue de prendre en considération la situation de toute Partie à la Convention-cadre qui n'a pas ratifié la CIDE ou la CIDPH, mais qui dispose néanmoins d'une législation interne garantissant la jouissance de ces droits.
117. La référence au droit interne dans cette disposition vise uniquement à indiquer les dispositions du droit interne qui assurent un niveau de protection dans le contexte pertinent similaire ou complémentaire à la CIDPH ou à la CIDE, et cette référence ne peut être invoquée par une Partie pour justifier son manquement à cette obligation conventionnelle. L’objectif est donc de garantir le plus haut niveau de prise en compte de tous les besoins et des vulnérabilités spécifiques en rapport avec le respect des droits des personnes handicapées et des enfants, y compris la formation à la maitrise du numérique, comme expliqué à propos de l'article 20 dans le Rapport explicatif.
118. En vue du risque sérieux que les technologies d’intelligence artificielle puissent être utilisées pour faciliter l’exploitation sexuelle et l’abus sexuel des enfants, et des risques spécifiques qu'elles présentent pour les enfants, dans le cadre de la mise en œuvre de cette disposition, les rédacteurs ont pris en compte les obligations énoncées dans la Convention de Lanzarote, le Protocole facultatif à la Convention des Nations Unies relative aux droits de l'enfant, concernant la vente d'enfants, la prostitution des enfants et la pornographie mettant en scène des enfants, et l'Observation générale n° 25 de la CIDE sur les droits de l'enfant dans le contexte de l'environnement numérique.
119. L'objectif de cet article est d'inciter les Parties, dans la mesure où cela est approprié, à encourager l'engagement civique, à donner aux individus et aux experts les moyens de participer à un débat public sur des questions d'une grande importance sociale et politique et à sensibiliser davantage le public aux questions fondamentales et émergentes, y compris les questions applicables aux stades les plus préliminaires de la conception, soulevées par les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle. Les points de vue de la société et les diverses perspectives devraient être vérifiés et pris en considération autant que possible en ce qui concerne les problèmes pertinents, qui pourraient inclure, par exemple, les risques ainsi que les impacts positifs et négatifs, et à cette fin, «un débat public et une consultation multipartite» significatifs sont recommandés.
120. L'engagement devrait impliquer la participation d'un éventail diversifié de parties prenantes, y compris le grand public, les experts de l'industrie, les universitaires, les institutions nationales des droits de l'homme (INDH) et la société civile. Pour les rédacteurs de la Convention-cadre, ces discussions et consultations jouent un rôle crucial pour garantir que les systèmes d'intelligence artificielle s'alignent sur les droits de l’homme universels, et répondent aux préoccupations pertinentes concernant les droits de l'homme, la démocratie et l'État de droit, en reflétant un large éventail de points de vue et en informant ainsi les initiatives pertinentes en matière d’élaboration de politiques et de réglementation.
121. L'expression «le cas échéant» laisse aux Parties le soin de déterminer les sujets, la fréquence, et les autres modalités de telles consultations à la lumière des implications sociales, économiques, juridiques, éthiques, environnementales et autres. Par exemple, les États peuvent organiser des enquêtes et des questionnaires, des ateliers publics, des groupes de discussion, des jurys de citoyens et des sondages délibératifs, des groupes d'experts et des comités consultatifs, des auditions publiques, des conférences nationales et internationales, ou des combinaisons de ce qui précède. L’évaluation finale et la prise en compte des résultats de tels débats et consultations dans les initiatives d’élaboration des politiques pertinentes pourraient également être communiquées aux parties prenantes pertinentes de manière adéquate et appropriée.
122. Cette disposition attire l'attention des Parties sur le fait que la promotion de la maîtrise du numérique et des compétences numériques pour tous les segments de la population est d'une importance cruciale dans le monde d'aujourd'hui, qui est axé sur la technologie. Les deux termes font référence à la capacité d'utiliser, de comprendre et d’interagir efficacement avec les technologies numériques, y compris l'intelligence artificielle et d'autres technologies basées sur les données, et ainsi de contribuer à promouvoir une large sensibilisation et compréhension au sein de la population générale et à prévenir et à atténuer les risques ou les impacts négatifs sur les droits de l’homme, la démocratie ou l’État de droit, ainsi que d'autres préjudices sociétaux tels que l'utilisation malveillante ou criminelle de ces technologies. Les rédacteurs ont également souhaité mentionner les effets particulièrement bénéfiques de ces programmes pour les individus issus de milieux divers et celles qui peuvent être sous-représentées ou en situation de vulnérabilité, ce qui peut inclure, par exemple, les femmes, les filles, les populations autochtones, les personnes âgées et les enfants, dans le respect des garanties concernant l'utilisation de systèmes d'intelligence artificielle pour les personnes en situation de vulnérabilité.
123. Étant donné l’objet et le but de la Convention-cadre, les programmes de formation spécifiques concernant les technologies d'intelligence artificielle mentionnés à l’article 20 pourraient inclure une sensibilisation accrue aux risques potentiels et impacts négatifs des systèmes d’intelligence artificielle sur les droits de l’homme, la démocratie ou l’État de droit, ainsi que la capacité à gérer ces risques et effets, et, en fonction du contexte, pourraient couvrir des sujets tels que:
124. Compte tenu de l’importance de la formation pour ceux les personnes chargées de l'identification, de l'évaluation, de la prévention et de l'atténuation des risques posés par l'intelligence artificielle, la disposition fait également référence à ce groupe spécifique de destinataires (ces acteurs comprennent, par exemple, les autorités judiciaires, les autorités de contrôle nationales, les autorités chargées de la protection des données, les organismes de promotion de l'égalité et des droits de l'homme, les médiateurs, les autorités chargées de la protection des consommateurs, les fournisseurs d'intelligence artificielle et les utilisateurs d'intelligence artificielle), en particulier en ce qui concerne l'application de la méthodologie décrite à l'article 16.
125. Conformément à la Convention de Vienne sur le droit des traités de 1969, cet article vise à assurer la coexistence harmonieuse de la Convention avec d'autres traités et instruments internationaux relatifs aux droits de l’homme, tels que ceux énumérés au paragraphe 39 ci-dessus.
126. Cette disposition renforce le fait que l'objectif global de la Convention-cadre est d'assurer le plus haut niveau de protection des droits de l'homme, de la démocratie et de l'État de droit dans le contexte des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle. Dans ce contexte, toutes les références au droit interne dans la présente Convention-cadre doivent être interprétées comme se limitant aux cas où le droit interne prévoit un niveau de protection des droits de l’homme plus élevé que le droit international applicable.
127. Cette disposition protège les dispositions du droit interne et des instruments internationaux contraignants, existants ou futurs, qui prévoient une protection supplémentaire pour les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle dans des contextes sensibles du point de vue des droits de l’homme, de la démocratie et de l’État de droit, allant au-delà du niveau garanti par la présente Convention-cadre; la présente Convention-cadre ne doit pas être interprétée de manière à restreindre cette protection. L'expression «protection plus étendue» fait référence à la possibilité de placer une personne, par exemple, dans une position plus favorable que celle prévue par la Convention-cadre.
128. Le Chapitre VII de la Convention-cadre contient des dispositions qui visent à garantir la mise en œuvre effective de la Convention-cadre par les Parties par le biais de mécanisme de suivi et de la coopération. Il s’agit du mécanisme annoncé à l’article 1 paragraphe 3.
129. Cet article prévoit la création d’un organe dans le cadre de la Convention-cadre, la Conférence des Parties, composé de représentants des Parties.
130. La création de cet organe garantira une participation égale de toutes les Parties au processus décisionnel et à la procédure de suivi de la Convention-cadre et renforcera également la coopération entre les Parties pour assurer une mise en œuvre correcte et efficace de la Convention-cadre.
131. La flexibilité du mécanisme de suivi établi par la présente Convention-cadre est reflétée par le fait qu'il n'y a pas d'exigence temporelle pour sa convocation. Il sera convoqué par le Secrétaire Général ou la Secrétaire Générale du Conseil de l'Europe (paragraphe 3) en tant que de besoin et périodiquement (paragraphe 2). Toutefois, elle ne peut être convoquée qu'à la demande de la majorité des Parties ou à la demande du Comité des Ministres du Conseil de l'Europe (paragraphe 3).
132. En ce qui concerne cette Convention-cadre, la Conférence des Parties a les compétences traditionnelles en matière de suivi et joue un rôle en ce qui concerne:
133. La Conférence des Parties doit adopter un règlement intérieur établissant les modalités de fonctionnement du système de suivi de la Convention-cadre, étant entendu que son règlement intérieur doit être rédigé de manière à ce que ce suivi soit effectivement assuré. Le règlement intérieur sera adopté par consensus, c’est-à-dire une décision prise en l’absence d’objection soutenue et sans vote formel. L’article 23, paragraphe 4, spécifie que la Conférence des Parties adopte ce règlement dans un délai de 12 mois à compter de l’entrée en vigueur de la présente Convention-cadre.
134. Le paragraphe 7 concerne la contribution des Parties qui ne sont pas des États membres du Conseil de l'Europe au financement des activités de la Conférence des Parties. Les contributions des États membres à ces activités sont couvertes collectivement par le budget ordinaire du Conseil de l'Europe, tandis que les États non membres contribuent individuellement, de manière équitable. La Convention-cadre ne précise pas la forme sous laquelle les contributions, y compris les montants et les modalités, des Parties qui ne sont pas membres du Conseil de l'Europe doivent être établies. La base juridique de la contribution de ces Parties sera la Convention-cadre elle-même et le(s) acte(s) établissant cette contribution. La Convention-cadre n'affecte pas les lois et règlements internes des Parties régissant les compétences budgétaires et les procédures relatives aux crédits budgétaires. Sans préjudice de l'accord mentionné ci-dessus, l'un des moyens pour une Partie qui n'est pas membre du Conseil de l'Europe d'effectuer son paiement de contribution est de le faire dans la limite du budget approuvé par le pouvoir législatif.
135. Le paragraphe 8 de cette disposition donne à la Conférences des Parties l’autorité pour délibérer sur la limitation de la participation à ses travaux de toute Partie qui a été exclue du Conseil de l’Europe en vertu de l'article 8 du Statut du Conseil de l'Europe, en raison d'une violation grave de l'article 3 du Statut. Une action similaire peut être entreprise à l’égard de toute Partie non membre du Conseil de l’Europe sur décision du Comité des Ministres du Conseil de l’Europe.
136. Afin de permettre la coopération et d’informer régulièrement au sujet de la mise en œuvre de la Convention-cadre, chaque Partie fournit à la Conférence des Parties un rapport contenant les détails des activités qu’elle a entreprises pour donner effet à l’article 3, paragraphe 1, alinéas (a) et (b). La Conférence des Parties déterminera le format et le processus pour le rapport en accord avec son règlement intérieur. Les rédacteurs encouragent fermement les Parties à inviter les Signataires qui ne sont pas encore Parties à la Convention-cadre à partager des informations concernant les étapes et les mesures prises pour répondre aux risques relatifs aux droits de l’homme, à la démocratie et à l’États de droit, et à faciliter les échanges.
137. Cet article énonce les dispositions relatives à la coopération internationale entre les Parties à la Convention-cadre. Il commence par mentionner l'obligation applicable aux Parties de s'accorder mutuellement l'assistance la plus large possible en vue de la réalisation de l'objet de la présente Convention-cadre, qui est de veiller à ce que les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle soient pleinement conformes aux droits de l'homme, à la démocratie et à l'État de droit.
138. Cette obligation générale est complétée par un point important concernant la nécessité pour les Parties d'offrir un soutien, s'il y a lieu, aux États qui ne sont pas encore devenus Parties à la présente Convention-cadre. Cette assistance devrait viser à aider ces États à aligner leurs actions sur les principes énoncés dans la présente Convention-cadre et à les encourager à y adhérer. Cet effort de collaboration devrait viser à promouvoir un engagement collectif en faveur des objectifs et des dispositions de la Convention-cadre, en favorisant une adhésion plus large et plus inclusive à ses dispositions parmi les États à l'échelle mondiale. Ce soutien et ces conseils n'impliquent pas nécessairement une aide financière.
139. En outre, la coopération mise en place par la Convention-cadre devrait inclure la facilitation de l'échange d'informations pertinentes concernant divers aspects de l'intelligence artificielle entre les Parties, y compris les mesures adoptées pour prévenir ou atténuer les risques et les impacts sur les droits de l'homme, la démocratie et l'État de droit. Cet échange d'informations devrait porter sur les éléments susceptibles d'avoir des impacts positifs ou négatifs importants sur la jouissance des droits de l'homme, le fonctionnement des processus démocratiques et le respect de l'État de droit, y compris les risques et les effets survenus dans des contextes de recherche et en relation avec le secteur privé. Ce partage s'étend également aux risques et aux effets apparus dans le cadre de la recherche sur l'intelligence artificielle, favorisant ainsi une compréhension globale des implications multiples de ces technologies dans ces domaines critiques. À cet égard, la disposition souligne également la nécessité pour les Parties d'inclure les acteurs non étatiques pertinents, tels que des universitaires, des représentants de l'industrie et des organisations de la société civile, en vue de garantir une vision multipartite des sujets pertinents.
140. Enfin, la disposition précise directement qu’afin que le suivi de l'application de la Convention-cadre soit réellement efficace, les efforts de coopération des Parties devraient viser spécifiquement la prévention et l'atténuation des risques et des impacts négatifs résultant des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle et que cette coopération devrait en outre prévoir la possibilité d'impliquer des représentants d'organisations non gouvernementales et d'autres organismes pertinents.
141. Cette disposition exige des Parties qu'elles adoptent ou maintiennent des mécanismes effectifs pour contrôler le respect des obligations de la Convention-cadre. Compte tenu du caractère omniprésent de l'utilisation des technologies d'intelligence artificielle et du fait que toutes les Parties ont déjà mis en place diverses réglementations et mécanismes de contrôle pour la protection des droits de l’homme dans différents secteurs, la disposition souligne la nécessité pour les Parties de réexaminer les mécanismes existants pour les appliquer au contexte des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle. Les Parties peuvent également choisir d'élargir, de réaffecter, d’adapter ou de redéfinir leurs fonctions ou, le cas échéant, de mettre en place des structures ou des mécanismes entièrement nouveaux. Les dispositions de cet article laissent expressément ces décisions à la discrétion des Parties, sous réserve des conditions énoncées aux paragraphes 2 et 3, étant entendu que les organes compétents devraient être dotés des pouvoirs suffisants pour mener à bien leurs activités de surveillance.
142. Qu'ils soient établis, nouvellement créés ou désignés, ces organes devraient satisfaire aux critères énoncés au paragraphe 2 de la disposition dans la mesure où ils devraient être fonctionnellement indépendants des acteurs concernés au sein des pouvoirs exécutif et législatif. La référence à «l'indépendance et l'impartialité» dans le paragraphe 2 dénote un degré suffisant de distance par rapport aux acteurs concernés au sein des pouvoirs exécutif et législatif, sous réserve d’un contrôle permettant à l’organe ou aux organes pertinents de s'acquitter efficacement de leurs fonctions. Ce terme englobe divers types d'indépendance fonctionnelle qui pourraient être mis en œuvre dans différents systèmes juridiques. Par exemple, il peut s'agir de fonctions de contrôle intégrées au sein d'organes gouvernementaux particuliers qui évaluent ou supervisent le développement et l'utilisation de systèmes d'intelligence artificielle.
143. Un certain nombre d'autres éléments mentionnés dans la disposition contribuent à garantir le niveau requis d'indépendance fonctionnelle: les organes doivent disposer des pouvoirs, de l'expertise, y compris en matière de droits de l’homme, des connaissances et des compétences techniques nécessaires, ainsi que des autres ressources nécessaires pour s'acquitter efficacement de leurs tâches.
144. Étant donné le sujet commun et la possibilité réelle que la surveillance des activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle soit partagée par de multiples autorités dans une série de secteurs (cela est particulièrement vrai pour les Parties disposant de mécanismes spécialisés dans les droits de l'homme, comme par exemple les organismes de protection des données, les organismes de promotion de l'égalité ou les Institutions nationales des droits de l'homme (INDH), agissant dans un secteur donné ou dans plusieurs secteurs), la disposition exige des Parties qu'elles facilitent une communication et une coopération efficaces entre elles.
145. A quelques exceptions près, les dispositions des articles 27 à 36 s’inspirent pour l’essentiel des «Clauses finales types pour les conventions et accords conclus dans le cadre du Conseil de l'Europe», que le Comité des Ministres a approuvées à sa 315e réunion des Délégués en février 1980 et révisées à sa 1291e réunion, le 5 juillet 2017.
146. Le paragraphe 1 de l'article 27 dispose que les Parties sont libres d'appliquer les accords ou traités conclus avant la présente Convention-cadre, y compris les accords commerciaux internationaux, qui réglementent les activités du cycle de vie des systèmes d'intelligence artificielle entrant dans le champ d'application de la présente Convention-cadre. Toutefois, les Parties doivent respecter l'objet et le but de la Convention-cadre lorsqu'elles le font et ne peuvent donc pas avoir d'obligations qui iraient à l'encontre de son objet et de son but.
147. Le paragraphe 2 de cet article reconnaît également l'intégration accrue de l'Union européenne, notamment en ce qui concerne la réglementation des systèmes d'intelligence artificielle. Il permet donc aux États membres de l'Union européenne d'appliquer entre eux le droit de l'Union européenne qui régit les questions traitées dans cette Convention-cadre. Les rédacteurs ont entendu par droit de l'Union européenne les mesures, principes et procédures prévus dans l'ordre juridique de l'Union européenne, en particulier les lois, règlements ou dispositions administratives ainsi que d'autres exigences, y compris les décisions de justice. Le paragraphe 2 est donc destiné à couvrir les relations internes entre les États membres de l'Union européenne et entre les États membres de l'Union européenne et les institutions, organes et organismes de l'Union européenne. La même clause devrait également s'appliquer aux autres Parties qui appliquent les règles de l'Union européenne dans la mesure où elles sont liées par ces règles du fait de leur participation au marché intérieur de l'Union européenne ou du fait qu'elles sont soumises au traitement du marché intérieur.
148. Cette disposition n'affecte pas la pleine application de la présente Convention-cadre entre l'Union européenne ou les Parties qui sont membres de l'Union européenne, et les autres Parties. Cette disposition n'affecte pas non plus la pleine application de la présente Convention-cadre entre les parties qui ne sont pas membres de l'Union européenne, dans la mesure où elles sont également liées par les mêmes règles, et les autres Parties à la Convention-cadre.
149. Cet article prévoit la possibilité d'amender la Convention-cadre et établit le mécanisme de ce processus. Cette procédure d'amendement est essentiellement conçue pour des modifications relativement mineures de nature procédurale et technique. Les rédacteurs ont estimé que les modifications majeures de la Convention-cadre pourraient être apportées sous la forme de protocoles d'amendement.
150. Les amendements aux dispositions de la Convention-cadre peuvent être proposés par une Partie, le Comité des Ministres du Conseil de l'Europe ou la Conférence des Parties. Ces amendements sont ensuite communiqués aux Parties à la Convention-cadre.
151. Pour tout amendement proposé par une Partie ou par le Comité des Ministres, la Conférence des Parties soumet au Comité des Ministres son avis sur l'amendement proposé.
152. Le Comité des Ministres examine l'amendement proposé et tout avis soumis par la Conférence des Parties et peut approuver l'amendement.
153. Conformément aux paragraphes 5 et 6, tout amendement approuvé par le Comité des Ministres n'entrera en vigueur que lorsque toutes les Parties auront informé le Secrétaire Général ou la Secrétaire Générale du Conseil de l’Europe de leur acceptation. Cette exigence vise à garantir une participation égale de toutes les Parties au processus décisionnel et à faire en sorte que la Convention-cadre évolue de manière uniforme.
154. Les rédacteurs ont jugé important d'inclure dans le texte de la Convention-cadre un article sur le règlement des différends, qui impose aux Parties l'obligation de rechercher un règlement amiable de tout différend relatif à l'application ou à l'interprétation de la Convention-cadre par la négociation ou tout autre moyen pacifique de leur choix.
155. Outre les négociations spécifiquement mentionnées au premier paragraphe du présent article, les Parties peuvent recourir à tout autre moyen pacifique de leur choix, tel que visé à l'article 33 de la Charte des Nations unies. Comme le prévoit l'article 23, elles peuvent également, par consentement mutuel, s'adresser à la Conférence des Parties à tout moment. La disposition ne mentionne pas davantage les procédures spécifiques à adopter dans le cadre d'un éventuel différend. Toute procédure de règlement des différends doit être convenue par les Parties concernées.
156. Le paragraphe 1 énonce que la Convention-cadre est ouverte à la signature des États membres du Conseil de l’Europe, des États non membres du Conseil de l’Europe qui ont participé à son élaboration (Argentine, Australie, Canada, Costa Rica, Saint-Siège, Israël, Japon, Mexique, Pérou, États-Unis et Uruguay), et de l’Union européenne. Une fois la Convention-cadre entrée en vigueur conformément au paragraphe 3, d’autres États non membres non couverts par cette disposition pourront être invités à adhérer à la Convention-cadre conformément à l’article 31, paragraphe 1.
157. Le paragraphe 2 dispose que le Secrétaire Général ou la Secrétaire Générale du Conseil de l'Europe est le dépositaire des instruments de ratification, d'acceptation ou approbation de cette Convention-cadre.
158. Le paragraphe 3 fixe à cinq le nombre des ratifications, acceptations ou approbations nécessaires à l'entrée en vigueur de la Convention-cadre. Au moins 3 d’entre eux doivent être membres du Conseil de l'Europe, conformément à la pratique conventionnelle de l'Organisation.
159. Après l’entrée en vigueur de la présente Convention-cadre, le Comité des Ministres du Conseil de l’Europe peut, après consultation des Parties à la présente Convention-cadre et en avoir obtenu l'assentiment unanime, inviter tout État non membre du Conseil de l’Europe qui n'a pas participé à l'élaboration de la Convention-cadre à adhérer à celle-ci par une décision prise à la majorité, comme le prévoit l’article 20.d du Statut du Conseil de l’Europe, et être votée à l’unanimité par les Parties ayant le droit de siéger au Comité des Ministres.
160. Le paragraphe 1 est une clause relative à l’application territoriale similaire à celles souvent utilisées dans la pratique conventionnelle internationale, y compris dans les Conventions du Conseil de l’Europe. Toute Partie peut spécifier le ou les territoires auxquels s'applique la Convention-cadre. Il est bien entendu qu'il serait incompatible avec l'objet et le but de la Convention-cadre que toute Partie exclue certaines parties de son territoire de l'application de la Convention-cadre sans raisons valables (par exemple l’existence de statuts juridiques différents ou de systèmes juridiques différents applicables aux questions visées par la Convention-cadre).
161. Le paragraphe 2 concerne l'extension de l'application de la Convention-cadre aux territoires dont les Parties assurent les relations internationales ou au nom desquels elles sont autorisées à prendre des engagements.
162. Conformément à l'objectif consistant à permettre à un nombre d'États aussi important que possible de devenir Parties à la Convention-cadre, l'article 33 prévoit une réserve destinée à tenir compte des difficultés auxquelles les États fédéraux peuvent être confrontés en raison de la répartition des pouvoirs entre autorités centrales et régionales qui les caractérise et du fait que, dans certains systèmes, les gouvernements fédéraux d'un pays donné peuvent ne pas être constitutionnellement compétents pour s'acquitter des obligations découlant du traité. Il existe des précédents de déclarations ou de réserves fédérales à d'autres accords internationauxNoteNoteNoteNote, notamment, dans le cadre du Conseil de l'Europe, la Convention sur la cybercriminalité relative au renforcement de la coopération et à la divulgation des preuves électroniques du 23 novembre 2001, article 41.
163. A cet égard, l'article 33 reconnaît que certaines variations du champ d'application peuvent résulter du droit et de la pratique internes bien établis d'une Partie qui est un État fédéral. Ces variations doivent être fondées sur sa Constitution ou sur d'autres principes et pratiques fondamentaux concernant la répartition des compétences dans les matières couvertes par la Convention-cadre entre le gouvernement central et les États constitutifs ou les entités territoriales d'un État fédéral.
164. Certains articles de la Convention-cadre contiennent des obligations d'adopter ou de maintenir des mesures législatives, administratives ou autres qu'un État fédéral peut ne pas être en mesure d'exiger de ses États constitutifs ou d'autres entités territoriales similaires qu'ils adoptent ou maintiennent.
165. En outre, le paragraphe 2 de l'article 33 prévoit que, pour les dispositions dont la mise en œuvre relève de la compétence législative des États constituants ou d'autres entités territoriales similaires, le gouvernement fédéral renvoie ces dispositions aux autorités de ces entités avec un avis favorable, en les encourageant à prendre les mesures appropriées pour leur donner effet.
166. L’article 34 précise qu’un État peut utiliser la réserve prévue à l’article 33, paragraphe 1, soit au moment de la signature ou au moment du dépôt de son instrument de ratification, d'acceptation, d'approbation ou d'adhésion.
167. Le paragraphe 2 précise qu'aucune réserve ne peut être formulée à l'égard d'une disposition de la présente Convention-cadre, à l’exception de celles prévues au paragraphe 1 de cet article.
168. Conformément à la Convention de Vienne des Nations Unies sur le droit des traités, l'article 35 prévoit la possibilité pour une Partie de dénoncer la Convention-cadre à tout moment. Seule condition, la dénonciation doit être notifiée au Secrétaire Général ou à la Secrétaire Générale du Conseil de l'Europe, qui agit en sa qualité de dépositaire de la Convention-cadre.
169. Cette dénonciation prend effet trois mois après la date de réception par le Secrétaire Général ou la Secrétaire Générale du Conseil de l'Europe.
170. L’article 36 énumère les notifications que le Secrétaire Général ou la Secrétaire Générale du Conseil de l'Europe est tenu de faire, en qualité de dépositaire de la Convention-cadre, de même qu'il définit les destinataires de ces notifications (les États et l’Union européenne)