La convergence technologique, l’intelligence artificielle et les droits de l’homme

Doc. 14288 : recueil des amendements écrits | Doc. 14288 | 27/04/2017 | Version finale

Index du compendium

Amendement 1 Amendement 2 Amendement 3 Amendement 4

Légende : AdoptéRejetéRetiréPas de votes électroniques

AProjet de recommandation

1Les convergences entre les nanotechnologies, les biotechnologies, les technologies de l’information et les sciences cognitives et la vitesse à laquelle les applications des nouvelles technologies sont mises sur le marché ont des incidences non seulement sur les droits de l’homme et la façon dont ils peuvent être exercés, mais aussi sur la définition de la notion fondamentale de ce qui caractérise l’être humain.

2L’omniprésence des nouvelles technologies et de leurs applications estompe la distinction entre l’homme et la machine, entre les activités en ligne et hors ligne, entre le monde physique et le monde virtuel, le naturel et l’artificiel, entre la réalité et la virtualité. L’homme augmente ses capacités en les dopant grâce aux apports de machines, de robots, de logiciels. On sait aujourd’hui créer des interfaces cerveau/ordinateur fonctionnelles. De l’homme «soigné», on est passé à l’homme «réparé» et se profile aujourd’hui à l’horizon l’homme «augmenté».

3L’Assemblée parlementaire note avec préoccupation que le législateur a de plus en plus de mal à s’adapter à l’évolution de la science et des technologies et à élaborer les textes réglementaires et normatifs qui s’imposent; elle est fermement convaincue que la préservation de la dignité humaine au XXIe siècle suppose le développement de nouvelles formes de gouvernance et de débat public ouvert, éclairé et contradictoire, de nouveaux mécanismes législatifs et surtout l’instauration d’une coopération internationale permettant de relever ces nouveaux défis de la manière la plus efficace.

• Amendement 1

jeudi 27 avril 2017

Déposé par la Commission des questions juridiques et des droits de l'homme

Dans le projet de recommandation, après le paragraphe 3, insérer le paragraphe suivant:

«L’Assemblée rappelle le principe consacré à l’article 2 de la Convention sur les Droits de l'Homme et la biomédecine (STE n° 164, également appelée «Convention d’Oviedo»), qui affirme la primauté de l’être humain, en déclarant que «l'intérêt et le bien de l'être humain doivent prévaloir sur le seul intérêt de la société ou de la science.»»

4A ce sujet, l’Assemblée se félicite de l’initiative du Comité de bioéthique du Conseil de l’Europe d’organiser, en octobre 2017 à l’occasion du 20e anniversaire de la Convention du Conseil de l'Europe sur les droits de l’homme et la biomédecine (STE no 164, «Convention d’Oviedo»), une conférence internationale pour examiner les perspectives de l’émergence de ces nouvelles technologies et leurs conséquences sur les droits de l’homme, en vue d’élaborer un plan d’action stratégique au cours du prochain biennium 2018‑2019.

5Par ailleurs, l’Assemblée considère qu’il est nécessaire de mettre en œuvre une véritable gouvernance mondiale de l’internet qui ne dépende pas de groupes d’intérêts privés ni de quelques États.

6L’Assemblée invite le Comité des Ministres:

6.1à achever la modernisation de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE no 108) afin d’avoir de nouvelles dispositions permettant la mise en place rapide d’une protection mieux adaptée;

• Amendement 2

jeudi 27 avril 2017

Déposé par la Commission des questions juridiques et des droits de l'homme

Dans le projet de recommandation, paragraphe 6.1, après le mot «achever», insérer les mots suivants: «sans plus tarder».

6.2à définir le cadre de l’utilisation de robots de soins et de technologies d’assistance dans la Stratégie du Conseil de l'Europe sur le Handicap 2017‑2023 dont l’un des objectifs est d’assurer aux personnes handicapées l’égalité, la dignité et l’égalité des chances.

7Compte tenu de ce qui précède, l’Assemblée invite instamment le Comité des Ministres à charger les organes compétents du Conseil de l'Europe d’examiner la manière dont les produits intelligents et/ou les objets connectés et plus généralement la convergence technologique et ses conséquences sociales et éthiques dans les domaines de la génétique et de la génomique, des neurosciences et des mégadonnées (big data) remettent en question les différentes dimensions des droits de l’homme.

8Par ailleurs, l’Assemblée propose que de lignes directrices soient développées sur les questions suivantes:

8.1le renforcement de la transparence, de la réglementation des pouvoirs publics et de la responsabilité des opérateurs concernant:

8.1.1les opérations de traitements automatisés visant à collecter, manier et utiliser les données à caractère personnel;

• Amendement 3

jeudi 27 avril 2017

Déposé par la Commission des questions juridiques et des droits de l'homme

Dans le projet de recommandation, avant le paragraphe 8.1.1, insérer le paragraphe suivant:

«le fait que la responsabilité d’un acte et l’obligation de rendre des comptes à son sujet incombent à un être humain, indépendamment des circonstances dans lesquelles il a été commis. La mention d’une prise de décision «indépendante» par des systèmes d’intelligence artificielle ne saurait exonérer les créateurs, propriétaires et gérants de ces systèmes de leur obligation de rendre des comptes pour les violations des droits de l’homme commises en utilisant ces systèmes, même lorsque l’acte qui a causé le préjudice n’a pas été directement ordonné par un commandant ou opérateur humain responsable;»

8.1.2l’information du public sur la valeur des données qu’il produit, le consentement sur leur utilisation et la fixation de la durée de conservation de ces données;

8.1.3l’information de toute personne sur le traitement de données personnelles dont elle est la source ainsi que sur les modèles mathématiques et statistiques qui permettent le profilage;

8.1.4la conception et l’utilisation de logiciels persuasifs et d’algorithmes des technologies de l’information et de la communication (TIC) ou de l’intelligence artificielle respectant pleinement la dignité et les droits fondamentaux de tous les utilisateurs, en particulier les plus vulnérables, dont les personnes âgées et les personnes handicapées;

8.2un cadre commun de normes à respecter lorsqu’une juridiction a recours à l’intelligence artificielle;

8.3la nécessité pour toute machine, tout robot ou tout produit doté d’intelligence artificielle de rester sous le contrôle de l’homme; dans la mesure où toute machine n’est intelligente que par son logiciel, tout pouvoir qui lui a été donné doit pouvoir lui être retiré;

8.4la reconnaissance de nouveaux droits concernant le respect de la vie privée et familiale, pouvoir refuser de faire l’objet de profilage, d’être géolocalisé, d’être manipulé ou sous l’influence d’un «coach» et d’avoir la possibilité, dans le cadre des soins et de l’assistance octroyés aux personnes âgées et aux personnes handicapées, de choisir le contact humain plutôt que le robot.

9L’Assemblée préconise une coopération étroite avec les institutions de l’Union européenne et l’Organisation des Nations Unies pour l’éducation, la science et la culture (Unesco) pour garantir un cadre juridique cohérent et des mécanismes de supervision efficaces au niveau international.

• Amendement 4

jeudi 27 avril 2017

Déposé par la Commission des questions juridiques et des droits de l'homme

Dans le projet de recommandation, avant le paragraphe 9, insérer le paragraphe suivant:

«L’Assemblée réitère l’appel qu’elle avait lancé dans la Résolution 2051 (2015) à l’ensemble des États membres et des États observateurs, ainsi qu’aux États dont les parlements jouissent du statut d’observateur auprès de l’Assemblée, pour qu’ils s’abstiennent de recourir à toute procédure automatique (robotique) visant à choisir des personnes pour procéder à leur exécution ciblée ou leur causer quelque dommage que ce soit sur la base de modes de communication ou d’autres données collectées par des techniques de surveillance de masse. Cela vaut non seulement pour les drones, mais également pour les autres types de matériel de combat doté de systèmes d’intelligence artificielle, ainsi que pour les autres formes de matériel et/ou de logiciels susceptibles de causer un préjudice aux personnes, aux biens et aux bases de données qui comportent des données à caractère personnel ou des informations ou de constituer une ingérence dans le droit au respect de la vie privée, le droit à la liberté d’expression ou le droit à l’égalité et à l’absence de discrimination.»