La convergence technologique, l’intelligence artificielle et les droits de l’homme

Réponse à Recommandation | Doc. 14432 | 19 octobre 2017

Auteur(s) :

Comité des Ministres

Origine

Adoptée à la 1297e réunion des Délégués des Ministres (17 octobre 2017). 2018 - Première partie de session

Réponse à Recommandation

: Recommandation 2102 (2017)

1. Le Comité des Ministres a examiné attentivement la Recommandation 2102 (2017) de l’Assemblée parlementaire intitulée «La convergence technologique, l’intelligence artificielle et les droits de l’homme». Le Comité des Ministres estime que la convergence technologique et l’intelligence artificielle ont apporté des bienfaits sans précédent à nos sociétés et qu’il faut saisir cette opportunité. Il rappelle à quel point les progrès scientifiques et technologiques dans les domaines de la biologie et de la médecine contribuent à améliorer la santé humaine et la qualité de la vie. Cela s’accompagne toutefois de nouvelles possibilités d’influencer et de contrôler la vie humaine, et les implications pour les êtres humains d’un détournement de telles connaissances et techniques doivent également être soulignées. Dans ce domaine, il est donc essentiel de veiller au plein respect des droits et libertés fondamentaux garantis à chacun. Par conséquent, le Comité des Ministres souscrit pleinement à l’objectif général de la recommandation et salue la vigilance et l’attention qu’elle préconise dans ce domaine.

2. Dans le contexte du Conseil de l’Europe, plusieurs domaines d’activité sont particulièrement pertinents pour cette recommandation. Le Comité de bioéthique (DH-BIO) réalise un travail considérable afin de protéger la dignité humaine et les droits individuels dans le domaine de la biomédecine, notamment en lien avec les nouveaux progrès scientifiques et technologiques. À cet égard, et sous réserve de la décision du Comité des Ministres sur son mandat pour le prochain biennium, le DH-BIO envisage l’élaboration du plan d’action stratégique évoqué au paragraphe 5 de la recommandation de l’Assemblée.

3. Ce plan d’action stratégique s’appuierait sur les conclusions de la Conférence qui sera organisée en octobre 2017 à l’occasion du 20e anniversaire de la Convention sur les droits de l’homme et la biomédecine (Convention d’Oviedo), sous les auspices de la Présidence tchèque du Comité des Ministres. Ce plan d’action stratégique visera notamment à garantir: (1) une meilleure protection des droits de l’homme des groupes particulièrement vulnérables; (2) la résolution des défis en matière de droits de l’homme engendrés par les nouvelles technologies, notamment dans les domaines de la génétique et de la génomique et (3) les moyens de faciliter l’organisation d’une éducation et d’une formation appropriées des professionnels concernés.

4. La conférence examinera les défis des droits de l'homme soulevés par les progrès dans les domaines de la génétique et de la génomique, des technologies appliquées au cerveau et des mégadonnées (big data) dans le secteur de la santé. Elle bénéficiera en particulier des informations de deux études sur les problèmes du point de vue des droits de l’enfant résultant des évolutions de la biologie et de la médecine, ainsi que des conclusions du séminaire à haut niveau sur la jurisprudence internationale en matière de bioéthique, organisé à la Cour européenne des droits de l'homme en décembre 2016 sous les auspices de la Présidence chypriote du Comité des Ministres. Le Comité des Ministres considère que cette conférence offrira une occasion de débattre des difficultés auxquelles se heurte le législateur, comme le souligne l’Assemblée parlementaire, en vue de contribuer, sous l’angle des droits de l’homme, aux progrès de la science et de la technologie.

5. Le Comité des Ministres est d’accord avec l’Assemblée sur l’important besoin d’un débat public dans ce domaine, comme le recommande également l’article 28 de la Convention d’Oviedo [(1) La Convention d’Oviedo appelle les Parties à veiller «à ce que les questions fondamentales posées par les développements de la biologie et de la médecine fassent l’objet d’un débat public approprié à la lumière, en particulier, des implications médicales, sociales, économiques, éthiques et juridiques pertinentes, et que leurs possibles applications fassent l’objet de consultations appropriées.»]. À cet égard, dans le cadre de ses initiatives pour répondre aux problèmes en matière de droits de l'homme engendrés par les technologies émergentes, le DH-BIO élaborera des orientations sur la manière d’encourager le débat public et la consultation de celui-ci sur les questions fondamentales soulevées par les avancées biologiques et médicales.

6. Le Comité des Ministres a pris note de l’invitation de l’Assemblée (paragraphe 7.1) à achever sans plus tarder la modernisation de la Convention pour la protection des personnes à l'égard du traitement automatisé des données à caractère personnel (STE n° 108, ci-après la «Convention 108»). À ce propos, il rappelle qu’il a communiqué pour avis le projet de Protocole d’amendement à l’Assemblée le 5 juillet 2017 même si les négociations se poursuivent au sein du Comité des Ministres. Le Comité est bien conscient de l’urgence. Les propositions de modernisation ont été minutieusement rédigées pour répondre aux nouveaux défis en matière de protection des données et aideront les législateurs à s’adapter à la vitesse des évolutions scientifiques et technologiques évoquées dans la recommandation. D’autres informations sur les amendements proposés pour moderniser la Convention figurent en Annexe à cette réponse.

7. En réponse au paragraphe 7.2 de la recommandation, le Comité des Ministres rappelle l’objectif de la nouvelle Stratégie du Conseil de l’Europe sur le handicap lancée à Nicosie, Chypre (27-28 mars 2017): la réalisation de l’égalité, de la dignité et de l’égalité des chances pour les personnes handicapées. Cela exige de leur garantir l’autonomie, la liberté de choix, la participation pleine et effective à la vie de la société. Le Comité des Ministres tient à souligner que de nouveaux travaux dans ce domaine, en particulier sur l’accessibilité et la conception universelle, pourraient être menés de manière à fournir des orientations sur la manière d’offrir aux personnes handicapées l’accès aux progrès de l'utilisation de robots de soins et des technologies d'assistance et la pleine jouissance de ceux-ci, sans discrimination et sur un pied d’égalité avec les autres.

8. Concernant le paragraphe 8, le Comité des Ministres note l’évocation des «conséquences sociales et éthiques» de la convergence technologique. Les lignes directrices sur les mégadonnées [(2) Lignes directrices sur la protection des personnes à l'égard du traitement des données à caractère personnel à l'ère des mégadonnées, adoptées le 23 janvier 2017.] (big data) adoptées par le Comité consultatif de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (T-PD) fournissent une illustration concrète de solutions novatrices et adaptatives à ces problèmes. Les lignes directrices soulignent en effet la nécessité de veiller à une «Utilisation des données soucieuse des incidences éthiques et sociales».

9. S’agissant du paragraphe 9, qui appelle à un renforcement de la transparence et de la responsabilité des opérateurs, le Comité des Ministres fait observer qu’il s’agit d’une autre caractéristique essentielle de la modernisation de la Convention 108 qui prévoit, entre autres, un nouvel article sur la «transparence du traitement», précisant les obligations du responsable de cette opération, qui doit veiller à garantir un traitement loyal et transparent des données à caractère personnel. Le Comité des Ministres rappelle également sa Recommandation CM/Rec(2010)13 sur la protection des personnes à l'égard du traitement automatisé des données à caractère personnel dans le cadre du profilage et sa Recommandation CM/Rec(2016)3 sur les droits de l’homme et les entreprises, qui traite de la responsabilité sociale des entreprises et des acteurs privés sous l’angle de l’exercice des droits et libertés fondamentaux. Le Comité des Ministres informe enfin l’Assemblée que le T-PD ciblera davantage les implications de l’intelligence artifielle pour la protection des données dans son programme pour le biennium 2018-2019.

10. Le Comité des Ministres a noté les différentes propositions visant à élaborer des lignes directrices dans des domaines très divers, y compris la vie privée et familiale, le profilage, la géolocalisation ou l’assistance aux personnes âgées. Certains de ces points feront l’objet des activités susmentionnées. Concernant la dernière question, il invite son Comité directeur pour les droits de l'homme à prendre en compte les préoccupations exprimées par l’Assemblée quand il examinera, en 2018, la Recommandation CM(2014)2 sur la promotion des droits de l'homme des personnes âgées, adoptée en 2014 par le Comité des Ministres.

11. Pour terminer, le Comité des Ministres s’accorde avec l’Assemblée sur la nécessité de maintenir une collaboration étroite avec les autres organisations internationales et d’autres parties prenantes afin d’échanger des bonnes pratiques et de faire en sorte que le cadre juridique international soit aussi cohérent que possible.

Annexe

Commentaires du Comité consultatif de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (T-PD)

1. Les Délégués des Ministres sont convenus lors de leur 1286e réunion (10-11 mai 2017) de communiquer la Recommandation 2102 (2017) de l’Assemblée parlementaire du Conseil de l’Europe portant sur «La convergence technologique, l’intelligence artificielle et droits de l’Homme» au Comité consultatif de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel, pour information et commentaires éventuels.

2. Le Bureau du Comité consultatif salue l’adoption de la Recommandation 2102 (2017) et souligne l’importance de répondre aux défis pour les droits de l’homme qui émergent dans le contexte de la convergence technologique et de l’intelligence artificielle.

3. Les opportunités sans précédent offertes par la convergence technologique et l’intelligence artificielle doivent être saisies dans le plein respect des droits et libertés fondamentales garantis à toute personne. La vigilance et la prise de conscience auxquelles appelle l’Assemblée parlementaire dans sa recommandation sont saluées et doivent ouvrir la voie à un travail ultérieur approfondi portant sur ces défis, en particulier au regard du droit à la protection des données.

4. Le Bureau du Comité consultatif félicite avant toute autre chose l’appel de l’Assemblée parlementaire (paragraphe 7.1) à finaliser sans plus attendre, la modernisation de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (ETS n° 108, ci-après «Convention 108»), et regrette que six ans après le début de ce travail crucial, la modernisation n’ait toujours pas abouti.

5. La difficulté, soulignée dans la recommandation, pour le législateur de s’adapter à la vitesse de l’évolution de la science et des technologies, est réelle. Les propositions de modernisation ont été rédigées avec le soin particulier de résister à l’épreuve du temps et ont pour but de répondre aux défis émergents en matière de protection des données.

6. Le Bureau du Comité consultatif partage pleinement l’avis de l’Assemblée parlementaire concernant l’importance de garantir la dignité humaine, et ce que cela implique, au 21e siècle. La dignité humaine constitue le principe de base sur lequel sont fondés les droits de l’homme et la volonté d’en assurer le respect à l’ère numérique était au cœur du travail de modernisation de la Convention 108. Le projet de préambule énonce clairement qu’ «[…] il est nécessaire de garantir la dignité humaine ainsi que la protection des droits de l’homme et des libertés fondamentales de toute personne et, eu égard à la diversification, à l’intensification et à l’internationalisation des traitements des données et des flux de données à caractère personnel, l’autonomie personnelle, fondée sur le droit de la personne de contrôler ses propres données à caractère personnel et le traitement qu’il en est fait».

7. S’agissant du paragraphe 8, le Bureau du Comité consultatif relève la référence importante aux «conséquences sociales et éthiques» de la convergence technologique. L’hyper connectivité et le volume de données à caractère personnel impliqués par la convergence technologique sont préoccupants et les principes de protection des données devront continuer à évoluer et à s’adapter aux nouveaux défis. Les lignes directrices «mégadonnées» (big data) [(3) Lignes directrices sur la protection des personnes à l'égard du traitement des données à caractère personnel à l'ère des métadonnées, adoptées le 23 janvier 2017.] adoptées par le Comité consultatif sont une illustration concrète d’une réponse novatrice et qui sait s’adapter à ces défis. Les lignes directrices soulignent précisément le besoin de garantir une «utilisation des données soucieuse des incidences éthiques et sociales». Cette directive générale devra être complétée par des dispositions sectorielles adaptées à des contextes spécifiques et ce sera un des objectifs du Comité dans les années à venir.

8. Le Bureau du Comité consultatif se réfère également à l’introduction des concepts de «privacy by design» et de «privacy by default», ainsi qu’aux études d’impact sur la vie privée et aux nouvelles obligations de sécurité dans le projet de modernisation de la Convention 108, comme une autre réponse importante aux défis soulignés par l’Assemblée parlementaire dans sa recommandation.

9. Au regard de l’appel spécifique de l’Assemblée parlementaire de répondre «aux conséquences sociales et éthiques dans les domaines de la génétique et la génomique», le Bureau du Comité consultatif souligne son excellente et durable coopération avec le Comité de Bioéthique ainsi que la volonté des deux comités de continuer de travailler ensemble sur des défis communs dans ces domaines particuliers.

10. S’agissant du paragraphe 9, le Bureau du Comité consultatif soutient pleinement l’appel à renforcer la transparence et la responsabilité des opérateurs. Cela constitue un autre élément clé de la modernisation de la Convention 108 avec un nouvel article sur «la transparence du traitement» qui détaille les obligations du responsable du traitement, visant à garantir un traitement loyal et transparent des données à caractère personnel. En outre, l’article proposé sur «les obligations complémentaires» recommande que toutes les mesures appropriées pour se conformer aux dispositions de la Convention soient prises et met en exergue la nécessité d’être en mesure de pouvoir démontrer une telle conformité. Deux autres aspects particuliers des propositions de modernisation apportent un élément de réponse complémentaire à l’appel de l’Assemblée parlementaire et sont d’une pertinence particulière dans un contexte de convergence technologique et d’intelligence artificielle. Le premier est le droit de la personne concernée de ne pas être soumise à une décision l’affectant de manière significative qui serait prise uniquement sur le fondement d’un traitement automatisé de données, sans que son point de vue soit pris en compte. La seconde nouveauté est le droit pour la personne concernée d’être informé, à sa demande, du raisonnement qui sous-tend le traitement de données, lorsque les résultats de ce traitement lui sont appliqués. Le Bureau du Comité consultatif rappelle également la recommandation adoptée par le Comité des Ministres sur la protection des personnes à l’égard du traitement automatisé des données à caractère personnel dans le cadre du profilage [(4) Recommandation CM/Rec(2010)13 sur la protection des personnes à l’égard du traitement automatisé des données à caractère personnel dans le cadre du profilage.].

11. La protection des personnes à l’égard du traitement des données à caractère personnel requerra que le dispositif protecteur d’ensemble établi par la Convention modernisée soit respecté, à commencer par la base légale du traitement et l’importance d’assurer aux personnes concernées, là où le consentement constitue cette base légale, les conditions nécessaires à l’expression d’un consentement libre, spécifique, éclairé et non-équivoque.

12. En conséquence, le Bureau du Comité consultatif souligne une fois encore le besoin d’une adoption rapide de la Convention modernisée de protection des données, qui dans ses propositions contient plusieurs réponses à certains des défis posés par la convergence technologique et l’intelligence artificielle. Le Comité de la Convention 108 continuera de traiter de tels défis et propose dans son programme de travail pour 2018-2019 de tout particulièrement se concentrer sur les incidences de l’intelligence artificielle sur la protection des données.

13. Enfin, le Bureau du Comité consultatif salue l’appel à une étroite coopération avec d’autres institutions, organisations et acteurs et assure qu’il poursuivra son engagement actif avec d’autres acteurs clés dans la promotion et le développement des normes de protection des données en réponse aux nouveaux défis.