Intelligence artificielle et santé: défis médicaux, juridiques et éthiques à venir
Recommandation 2185
(2020)
- Auteur(s) :
- Assemblée parlementaire
- Origine
- Texte
adopté par la Commission permanente, agissant au nom
de l’Assemblée, le 22 octobre 2020 (voir Doc. 15154, rapport de la commission des questions sociales, de
la santé et du développement durable, rapporteure: Mme Selin
Sayek Böke).
1. La bonne santé est une condition
préalable à une vie personnelle épanouie et au progrès de la société dans
son ensemble. L’intelligence artificielle (IA) est l’innovation
technologique la plus récente impactant rapidement les systèmes
de santé. À l’instar de nombreuses innovations technologiques dans
le domaine de la santé, elle recèle un potentiel considérable d’amélioration
de la santé individuelle et publique, mais elle présente aussi des
risques pour les droits des personnes et pour la santé publique.
En outre, la vitesse du développement et du déploiement de ces avancées
technologiques est beaucoup plus rapide que celle du cadre juridique
qui les régit, ce qui nécessite une attention particulière des décideurs
politiques et des élus.
2. Les applications de l’IA dans le secteur des soins de santé
témoignent du changement de paradigme qui s’y opère de façon générale,
l’accent n’étant plus mis sur la maladie et la thérapie, mais sur
la santé/le bien-être/la prévention autogérés, et les protocoles
thérapeutiques uniformisés étant progressivement abandonnés au profit
d’une médecine de précision adaptée au patient. Dans cet environnement
en mutation, le plein respect des droits humains, notamment des
droits sociaux, doit servir de fondement à l’élaboration des politiques
publiques en matière de soins de santé et guider les avancées technologiques.
Cela est essentiel pour que des mécanismes reposant sur l’IA plus
matures puissent être déployés en toute sécurité du point de vue
des droits humains et que les avantages apportés par l’innovation
soient répartis dans la société de manière juste et équitable.
3. L’Assemblée parlementaire note que la communauté scientifique
a instamment demandé un débat public sur les incidences du recours
à l’IA dans le domaine de la santé et qu’elle a souligné la nécessité
de renforcer la responsabilité de toutes les parties prenantes.
Les décideurs politiques, y compris les parlementaires, aux niveaux
national, européen et international, doivent mieux comprendre les
risques variés, les impacts socio-économiques et les possibilités
intrinsèques de la conception, du développement et du déploiement
des technologies d’IA dans le domaine de la santé, afin de rechercher
des améliorations pragmatiques et de proposer des options adéquates
en matière de réglementation garantissant le plein respect de la
dignité humaine et des droits humains par la mise en place de cadres
éthiques et juridiques ayant, autant que possible, une portée mondiale.
Pour déterminer les risques et les défis que pose l’IA pour les
soins de santé, il est nécessaire de suivre une démarche collaborative
et pluridisciplinaire.
4. La flambée épidémique de covid-19 a attiré l’attention sur
le rôle que l’IA peut jouer en facilitant la surveillance, l’évaluation
et la gestion en temps réel des données sur la maladie. Elle a aussi
ravivé le débat indispensable sur la reconnaissance du fait que
le droit à la santé est un droit humain fondamental qui devrait être
garanti par des instruments juridiques et des systèmes de santé
adaptés, publics et accessibles par tous.
5. L’Assemblée note avec inquiétude la mise en garde de l’Organisation
mondiale de la santé (OMS), selon laquelle la fracture numérique
et les inégalités actuelles (au sein des pays et entre eux, mais
aussi dans et entre les groupes sociaux), conjuguées à la progression
de l’IA, pourraient exacerber la répartition inégale des soins de
santé et les problèmes d’un accès effectif aux soins, entraîner
une raréfaction des professionnels de santé et une diminution de
leurs compétences, accentuer les préjugés et accroître les «interactions
cliniques irrespectueuses», entraînant ainsi de fait un creusement
des inégalités en matière de soins et une dégradation des résultats
thérapeutiques. L’Assemblée rappelle qu’il existe un large consensus
international autour des principes éthiques essentiels de l’IA.
Elle soutient fermement les travaux de l’OMS sur l’élaboration de recommandations
éthiques sur l’IA dans le domaine de la santé sur la base des avis
partagés par diverses parties prenantes, notamment le Conseil de
l’Europe et son Assemblée.
6. Étant donné que le secteur privé a jusqu’à présent assuré
l’essentiel de la recherche-développement sur les applications de
l’IA au domaine de la santé, les autorités publiques nationales
responsables de la santé devraient adopter une approche stratégique
pour coordonner les politiques de numérisation, la recherche et l’investissement,
ainsi que la gestion et l’exploitation des données à caractère personnel,
afin d’assurer une protection complète des droits fondamentaux et
de trouver un bon équilibre entre l’intérêt des personnes, l’intérêt
des entreprises et l’intérêt général. Dans ce contexte, l’Assemblée
réitère l’appel qu’elle a fait dans sa
Recommandation 2166 (2019) «Droits
de l’homme et entreprises: quelles suites donner à la Recommandation CM/Rec(2016)3
du Comité des Ministres?» pour tenir compte des défis modernes et
des obligations incombant aux États membres en vertu de la Charte
sociale européenne (STE nos 35 et 163),
notamment le droit à la santé.
7. L’Assemblée souligne la pertinence des instruments juridiques
existants du Conseil de l’Europe, en particulier la Convention européenne
des droits de l’homme (STE no 5), la
Convention sur les droits de l’homme et la biomédecine (STE no 164,
«Convention d’Oviedo»), et la Convention pour la protection des personnes
à l’égard du traitement automatisé des données à caractère personnel
(STE no 108) et son Protocole d’amendement
(STCE no 223, «Convention 108+»), s’agissant
des transformations des soins au patient induites par l’IA. Cela
étant, elle est convaincue que l’étendue et la profondeur de ces
transformations, et l’incidence indéniable de la technologie d’IA
sur la dignité humaine et sur les droits fondamentaux sont telles que
le Conseil de l’Europe devrait, en tant que gardien des droits humains,
élaborer un instrument juridique spécifique sur l’IA. L’Assemblée
soutient donc vivement les travaux entrepris par le Comité ad hoc
sur l’intelligence artificielle (CAHAI) en vue d’élaborer un tel
instrument juridique spécifique.
8. L’Assemblée note que le respect de la vie privée, la confidentialité
des données à caractère personnel et le consentement éclairé sont
les pierres angulaires des droits des patients partout dans le monde.
D’un autre côté, certaines restrictions dans l’utilisation des données
de santé à caractère personnel peuvent empêcher d’établir des rapprochements
essentiels entre les données et causer des distorsions, voire des
erreurs, dans les analyses reposant sur l’IA. L’anonymisation ou
la pseudonymisation des données de santé à caractère personnel sont
des solutions envisageables, mais discutables.
9. L’Assemblée se réjouit de voir que le Comité de bioéthique
du Conseil de l’Europe (DH-BIO) a l’intention de travailler sur
les questions de confiance, de sécurité et de transparence dans
l’application de l’IA aux soins de santé. Elle encourage le comité
à adopter une approche globale, à lancer ces travaux de manière
prioritaire et à rechercher des synergies avec d’autres organes
du Conseil de l’Europe actifs dans ce domaine.
10. De plus, l’Assemblée considère que les exigences en matière
de cybersécurité applicables aux dispositifs médicaux utilisant
l’IA (notamment les dispositifs de santé implantables et portables)
devraient être étudiées plus avant dans le cadre de la Convention
sur la cybercriminalité (STE no 185),
tandis que le Comité d’experts sur la dimension droits de l’homme
des traitements automatisés de données et différentes formes d’intelligence
artificielle (MSI-AUT) pourrait compléter les travaux du DH-BIO
en aidant à définir la responsabilité des différents acteurs – des
développeurs aux autorités de réglementations, et des intermédiaires
aux utilisateurs (notamment les pouvoirs publics, les professionnels
de santé, les patients et le grand public) – en ce qui concerne
le développement, la maintenance et l’utilisation des applications
médicales de l’IA, et tout préjudice causé par ces applications.
11. En conséquence, l’Assemblée recommande au Comité des Ministres:
11.1 de charger le CAHAI d’élaborer
un instrument juridique spécifique sur l’IA, de préférence un instrument
contraignant de portée mondiale, par exemple une convention ouverte
aux États non membres, en mettant l’accent sur les incidences de
l’IA sur les droits humains en général et sur le droit à la santé
en particulier;
11.2 d’associer d’autres organes pertinents du Conseil de l’Europe
aux travaux du CAHAI, dans le but de couvrir de façon adéquate les
problèmes relatifs à la santé, notamment en ce qui concerne le respect de
la vie privée, la confidentialité et la cybersécurité des données
de santé sensibles à caractère personnel, le consentement éclairé
et la responsabilité des parties prenantes;
11.3 de charger le DH-BIO et le Comité consultatif de la Convention
pour la protection des personnes à l’égard du traitement automatisé
des données à caractère personnel de rechercher des synergies dans
leurs activités visant à guider les États membres vers une bonne
gouvernance des données de santé, dans le but de prévenir toute
utilisation souveraine ou commerciale abusive de données à caractère
personnel par des applications médicales de l’IA;
11.4 de réviser la Recommandation CM/Rec(2016)3 sur les droits
de l’homme et les entreprises afin de prendre en compte les défis
actuels et les obligations des États membres envers la Charte sociale européenne
(STE nos 35 et 163), y compris le droit
à la santé.
12. L’Assemblée recommande également au Comité des Ministres d’encourager
les États membres:
12.1 à construire
une approche nationale holistique, impliquant les parlements nationaux,
afin d’utiliser la technologie d’IA dans les services de soins de
santé fondés sur l’implication et la responsabilité multipartite,
ainsi que l’évaluation adéquate des impacts socio-économiques et
sur les droits humains, en vue de consolider l’accès complet de
leur population aux services de santé publique et de donner effet
au droit de chacun à la santé comme énoncé dans la Charte sociale
européenne;
12.2 à prendre une part plus active au développement et au
déploiement des applications de l’IA pour les services de santé
au niveau national, et à prévoir une évaluation et une étude préalable
souveraines de ces applications par des institutions indépendantes,
ainsi qu’une procédure d’autorisation exhaustive pour leur mise
en place, en particulier dans les services de santé publique, afin
de parer aux risques de voir menacés les droits individuels et la
santé publique, conformément au principe de précaution;
12.3 à examiner les solutions juridiques et techniques de certification
et de validation des applications de l’IA pour la santé développées
tant par des entités publiques que commerciales (couvrant le produit final
et chaque étape du processus de conception de l’IA) aux niveaux
national et européen;
12.4 à renforcer, pour toute utilisation de l’IA en rapport
avec la santé, leur cadre national d’analyse d’impact sur les droits
humains;
12.5 à garantir que les applications de santé reposant sur
l’IA ne remplacent pas complètement le jugement humain et, donc,
que les décisions prises avec l’IA dans le cadre des soins de santé professionnels
sont toujours validées par des professionnels de santé dûment formés;
12.6 à élaborer un cadre juridique pour clarifier la responsabilité
des parties prenantes dans la conception, le déploiement, l’entretien
et l’utilisation des applications de l’IA en rapport avec la santé
(y compris pour les dispositifs médicaux implantables et portables)
dans les contextes national et paneuropéen; à redéfinir la responsabilité
des acteurs pour les risques et préjudices émanant de ces applications,
et à assurer que les structures de gouvernance et des mécanismes
d’application de la loi sont en place pour garantir la mise en œuvre
de ce cadre juridique;
12.7 à réfléchir à la façon de concilier, d’une part, l’exigence
d'une protection forte des données à caractère personnel et, d’autre
part, la nécessité d’utiliser certains types de données de santé
à caractère personnel pour le bien commun dans le contexte des améliorations
apportées par l’IA dans le domaine de la santé publique, et ce dans
le respect des droits humains, y compris en ce qui concerne une
meilleure préparation des structures de gouvernance pour anticiper
et gérer la réponse à une pandémie;
12.8 à accélérer leur adhésion, s’ils ne l’ont pas encore fait,
à la Convention d’Oviedo et à ses protocoles, ainsi qu’au Protocole
d’amendement à la Convention pour la protection des personnes à l’égard
du traitement automatisé des données à caractère personnel;
12.9 à adapter leurs systèmes d’éducation et de formation pour
que soit intégrée l’éducation à l’IA dans les programmes scolaires
et les programmes de formation dans les institutions de médecine,
en mettant l’accent sur les principes éthiques de l’IA et sur les
usages responsables des applications de cette technologie;
12.10 à appuyer les investissements visant à construire l’infrastructure
numérique nécessaire pour surmonter les fractures numériques actuelles
et garantir que les innovations menées par l’IA n’exacerbent pas
les inégalités en soins de santé existantes;
12.11 à lancer un débat national sur l’IA appliquée à la santé
afin de sensibiliser l’opinion publique et les professionnels de
santé aux risques et aux avantages inhérents à l’utilisation des
applications de l’IA pour le bien-être et les soins de santé, en
particulier celles développées à des fins commerciales qui, profitant
des vides juridiques actuels, sont déjà sur le marché;
12.12 à examiner les différentes possibilités d’harmoniser l’interconnectivité
des réseaux et des bases de données de santé nationaux pour permettre
des rapprochements de données compatibles avec les droits humains
aux fins de l’analyse fondée sur l’IA et pour bâtir des «systèmes
de santé apprenants».
