Logo Assembly Logo Hemicycle

La convergence technologique, l’intelligence artificielle et les droits de l’homme

Recommandation 2102 (2017)

Auteur(s) :
Assemblée parlementaire
Origine
Discussion par l’Assemblée le 28 avril 2017 (18e séance) (voir Doc. 14288, rapport de la commission de la culture, de la science, de l'éducation et des médias, rapporteur: M. Jean-Yves Le Déaut; et Doc. 14303, avis de la commission des questions juridiques et des droits de l'homme, rapporteur: M. Boriss Cilevičs). Texte adopté par l’Assemblée le 28 avril 2017 (18e séance).
1. La convergence entre les nanotechnologies, les biotechnologies, les technologies de l’information et les sciences cognitives, et la vitesse à laquelle les applications des nouvelles technologies sont mises sur le marché ont des incidences non seulement sur les droits de l’homme et la façon dont ils peuvent être exercés, mais aussi sur la notion fondamentale de ce qui caractérise l’être humain.
2. L’omniprésence des nouvelles technologies et de leurs applications estompe la distinction entre l’homme et la machine, entre les activités en ligne et hors ligne, entre le monde physique et le monde virtuel, entre le naturel et l’artificiel, entre la réalité et la virtualité. L’homme augmente ses capacités en les dopant grâce aux apports de machines, de robots, de logiciels. On sait aujourd’hui créer des interfaces cerveau/ordinateur fonctionnelles. De l’homme «soigné» à l’homme «réparé», un changement s’est opéré et, aujourd’hui, se profile à l’horizon l’homme «augmenté».
3. L’Assemblée parlementaire note avec préoccupation que le législateur a de plus en plus de mal à s’adapter à l’évolution de la science et des technologies, et à élaborer les textes réglementaires et les normes qui s’imposent; elle est fermement convaincue que la préservation de la dignité humaine au XXIe siècle suppose le développement de nouvelles formes de gouvernance et de débat public ouvert, éclairé et contradictoire, de nouveaux mécanismes législatifs et surtout l’instauration d’une coopération internationale permettant de relever ces nouveaux défis de la manière la plus efficace.
4. L’Assemblée rappelle le principe consacré à l’article 2 de la Convention pour la protection des droits de l'homme et de la dignité de l'être humain à l'égard des applications de la biologie et de la médecine: Convention sur les droits de l'homme et la biomédecine (STE no 164, «Convention d’Oviedo»), qui affirme la primauté de l’être humain, en déclarant que «l'intérêt et le bien de l'être humain doivent prévaloir sur le seul intérêt de la société ou de la science».
5. À ce sujet, l’Assemblée se félicite de l’initiative du Comité de bioéthique du Conseil de l’Europe qui organise en octobre 2017, à l’occasion du 20e anniversaire de la Convention du Conseil de l'Europe sur les droits de l’homme et la biomédecine, une conférence internationale pour examiner l’émergence de ces nouvelles technologies et leurs conséquences sur les droits de l’homme, en vue d’élaborer un plan d’action stratégique au cours du prochain biennium 2018‑2019.
6. Par ailleurs, l’Assemblée considère qu’il est nécessaire de mettre en œuvre une véritable gouvernance mondiale de l’internet qui ne dépende pas de groupes d’intérêts privés ni de quelques États.
7. L’Assemblée invite le Comité des Ministres:
7.1 à achever sans plus tarder la modernisation de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE no 108) afin d’avoir de nouvelles dispositions permettant la mise en place rapide d’une protection mieux adaptée;
7.2 à définir le cadre de l’utilisation de robots de soins et de technologies d’assistance dans la Stratégie du Conseil de l'Europe sur le handicap 2017‑2023 dont l’un des objectifs est d’assurer aux personnes handicapées l’égalité, la dignité et l’égalité des chances.
8. Compte tenu de ce qui précède, l’Assemblée invite instamment le Comité des Ministres à charger les organes compétents du Conseil de l'Europe d’examiner la manière dont les produits intelligents et/ou les objets connectés, et plus généralement la convergence technologique, et ses conséquences sociales et éthiques dans les domaines de la génétique et de la génomique, des neurosciences et des mégadonnées (big data) remettent en question les différentes dimensions des droits de l’homme.
9. Par ailleurs, l’Assemblée propose que des lignes directrices soient développées sur les questions suivantes:
9.1 le renforcement de la transparence, de la réglementation des pouvoirs publics et de la responsabilité des opérateurs concernant:
9.1.1 le fait que la responsabilité d’un acte et l’obligation de rendre des comptes à son sujet incombent à un être humain, indépendamment des circonstances dans lesquelles cet acte a été commis. La mention d’une prise de décision indépendante par des systèmes d’intelligence artificielle ne saurait exonérer les créateurs, les propriétaires et les gestionnaires de ces systèmes de leur obligation de rendre des comptes pour les violations des droits de l’homme commises lors de l’utilisation de ces systèmes, même lorsque l’acte qui a causé le préjudice n’a pas été directement ordonné par un opérateur humain responsable;
9.1.2 les opérations de traitements automatisés visant à collecter, à traiter et à utiliser les données à caractère personnel;
9.1.3 l’information du public sur la valeur des données qu’ils produisent, le consentement sur leur utilisation et la fixation de la durée de conservation de ces données;
9.1.4 l’information de toute personne sur le traitement de données personnelles dont elle est la source ainsi que sur les modèles mathématiques et statistiques qui permettent le profilage;
9.1.5 la conception et l’utilisation de logiciels persuasifs et de technologies de l’information et de la communication (TIC) ou d’algorithmes d’intelligence artificielle respectant pleinement la dignité et les droits fondamentaux de tous les utilisateurs, en particulier les plus vulnérables, dont les personnes âgées et les personnes handicapées;
9.2 un cadre commun de normes à respecter lorsqu’une juridiction a recours à l’intelligence artificielle;
9.3 la nécessité pour toute machine, tout robot ou tout produit doté d’intelligence artificielle de rester sous le contrôle de l’homme; dans la mesure où toute machine n’est intelligente que grâce à son logiciel, tout pouvoir qui lui a été donné doit pouvoir lui être retiré;
9.4 la reconnaissance de nouveaux droits concernant le respect de la vie privée et familiale, le pouvoir de refuser de faire l’objet de profilage, d’être géolocalisé, d’être manipulé ou influencé par un «coach» et d’avoir la possibilité, dans le cadre des soins et de l’assistance octroyés aux personnes âgées et aux personnes handicapées, de choisir le contact humain plutôt que le robot.
10. L’Assemblée réitère l’appel qu’elle avait lancé dans la Résolution 2051 (2015) «Drones et exécutions ciblées: la nécessité de veiller au respect des droits de l’homme et du droit international» à l’ensemble des États membres et des États observateurs, ainsi qu’aux États dont les parlements jouissent du statut d’observateur auprès de l’Assemblée, pour qu’ils s’abstiennent de recourir à toute procédure automatique (robotique) visant à choisir des personnes pour procéder à leur exécution ciblée ou leur causer quelque dommage que ce soit sur la base de leurs modes de communication ou d’autres données collectées par des techniques de surveillance de masse. Cela vaut non seulement pour les drones, mais également pour les autres types de matériel de combat doté de systèmes d’intelligence artificielle, ainsi que pour les autres formes de matériel et/ou de logiciels susceptibles de causer un préjudice aux personnes, aux biens et aux bases de données qui comportent des données à caractère personnel ou des informations, ou de constituer une ingérence dans le droit au respect de la vie privée, le droit à la liberté d’expression ou le droit à l’égalité et à l’absence de discrimination.
11. L’Assemblée préconise une coopération étroite avec les institutions de l’Union européenne et l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO) pour garantir un cadre juridique cohérent et des mécanismes de supervision efficaces au niveau international.