Logo Assembly Logo Hemicycle

Intelligence artificielle et santé: défis médicaux, juridiques et éthiques à venir

Recommandation 2185 (2020)

Auteur(s) :
Assemblée parlementaire
Origine
Texte adopté par la Commission permanente, agissant au nom de l’Assemblée, le 22 octobre 2020 (voir Doc. 15154, rapport de la commission des questions sociales, de la santé et du développement durable, rapporteure: Mme Selin Sayek Böke).
1. La bonne santé est une condition préalable à une vie personnelle épanouie et au progrès de la société dans son ensemble. L’intelligence artificielle (IA) est l’innovation technologique la plus récente impactant rapidement les systèmes de santé. À l’instar de nombreuses innovations technologiques dans le domaine de la santé, elle recèle un potentiel considérable d’amélioration de la santé individuelle et publique, mais elle présente aussi des risques pour les droits des personnes et pour la santé publique. En outre, la vitesse du développement et du déploiement de ces avancées technologiques est beaucoup plus rapide que celle du cadre juridique qui les régit, ce qui nécessite une attention particulière des décideurs politiques et des élus.
2. Les applications de l’IA dans le secteur des soins de santé témoignent du changement de paradigme qui s’y opère de façon générale, l’accent n’étant plus mis sur la maladie et la thérapie, mais sur la santé/le bien-être/la prévention autogérés, et les protocoles thérapeutiques uniformisés étant progressivement abandonnés au profit d’une médecine de précision adaptée au patient. Dans cet environnement en mutation, le plein respect des droits humains, notamment des droits sociaux, doit servir de fondement à l’élaboration des politiques publiques en matière de soins de santé et guider les avancées technologiques. Cela est essentiel pour que des mécanismes reposant sur l’IA plus matures puissent être déployés en toute sécurité du point de vue des droits humains et que les avantages apportés par l’innovation soient répartis dans la société de manière juste et équitable.
3. L’Assemblée parlementaire note que la communauté scientifique a instamment demandé un débat public sur les incidences du recours à l’IA dans le domaine de la santé et qu’elle a souligné la nécessité de renforcer la responsabilité de toutes les parties prenantes. Les décideurs politiques, y compris les parlementaires, aux niveaux national, européen et international, doivent mieux comprendre les risques variés, les impacts socio-économiques et les possibilités intrinsèques de la conception, du développement et du déploiement des technologies d’IA dans le domaine de la santé, afin de rechercher des améliorations pragmatiques et de proposer des options adéquates en matière de réglementation garantissant le plein respect de la dignité humaine et des droits humains par la mise en place de cadres éthiques et juridiques ayant, autant que possible, une portée mondiale. Pour déterminer les risques et les défis que pose l’IA pour les soins de santé, il est nécessaire de suivre une démarche collaborative et pluridisciplinaire.
4. La flambée épidémique de covid-19 a attiré l’attention sur le rôle que l’IA peut jouer en facilitant la surveillance, l’évaluation et la gestion en temps réel des données sur la maladie. Elle a aussi ravivé le débat indispensable sur la reconnaissance du fait que le droit à la santé est un droit humain fondamental qui devrait être garanti par des instruments juridiques et des systèmes de santé adaptés, publics et accessibles par tous.
5. L’Assemblée note avec inquiétude la mise en garde de l’Organisation mondiale de la santé (OMS), selon laquelle la fracture numérique et les inégalités actuelles (au sein des pays et entre eux, mais aussi dans et entre les groupes sociaux), conjuguées à la progression de l’IA, pourraient exacerber la répartition inégale des soins de santé et les problèmes d’un accès effectif aux soins, entraîner une raréfaction des professionnels de santé et une diminution de leurs compétences, accentuer les préjugés et accroître les «interactions cliniques irrespectueuses», entraînant ainsi de fait un creusement des inégalités en matière de soins et une dégradation des résultats thérapeutiques. L’Assemblée rappelle qu’il existe un large consensus international autour des principes éthiques essentiels de l’IA. Elle soutient fermement les travaux de l’OMS sur l’élaboration de recommandations éthiques sur l’IA dans le domaine de la santé sur la base des avis partagés par diverses parties prenantes, notamment le Conseil de l’Europe et son Assemblée.
6. Étant donné que le secteur privé a jusqu’à présent assuré l’essentiel de la recherche-développement sur les applications de l’IA au domaine de la santé, les autorités publiques nationales responsables de la santé devraient adopter une approche stratégique pour coordonner les politiques de numérisation, la recherche et l’investissement, ainsi que la gestion et l’exploitation des données à caractère personnel, afin d’assurer une protection complète des droits fondamentaux et de trouver un bon équilibre entre l’intérêt des personnes, l’intérêt des entreprises et l’intérêt général. Dans ce contexte, l’Assemblée réitère l’appel qu’elle a fait dans sa Recommandation 2166 (2019) «Droits de l’homme et entreprises: quelles suites donner à la Recommandation CM/Rec(2016)3 du Comité des Ministres?» pour tenir compte des défis modernes et des obligations incombant aux États membres en vertu de la Charte sociale européenne (STE nos 35 et 163), notamment le droit à la santé.
7. L’Assemblée souligne la pertinence des instruments juridiques existants du Conseil de l’Europe, en particulier la Convention européenne des droits de l’homme (STE no 5), la Convention sur les droits de l’homme et la biomédecine (STE no 164, «Convention d’Oviedo»), et la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE no 108) et son Protocole d’amendement (STCE no 223, «Convention 108+»), s’agissant des transformations des soins au patient induites par l’IA. Cela étant, elle est convaincue que l’étendue et la profondeur de ces transformations, et l’incidence indéniable de la technologie d’IA sur la dignité humaine et sur les droits fondamentaux sont telles que le Conseil de l’Europe devrait, en tant que gardien des droits humains, élaborer un instrument juridique spécifique sur l’IA. L’Assemblée soutient donc vivement les travaux entrepris par le Comité ad hoc sur l’intelligence artificielle (CAHAI) en vue d’élaborer un tel instrument juridique spécifique.
8. L’Assemblée note que le respect de la vie privée, la confidentialité des données à caractère personnel et le consentement éclairé sont les pierres angulaires des droits des patients partout dans le monde. D’un autre côté, certaines restrictions dans l’utilisation des données de santé à caractère personnel peuvent empêcher d’établir des rapprochements essentiels entre les données et causer des distorsions, voire des erreurs, dans les analyses reposant sur l’IA. L’anonymisation ou la pseudonymisation des données de santé à caractère personnel sont des solutions envisageables, mais discutables.
9. L’Assemblée se réjouit de voir que le Comité de bioéthique du Conseil de l’Europe (DH-BIO) a l’intention de travailler sur les questions de confiance, de sécurité et de transparence dans l’application de l’IA aux soins de santé. Elle encourage le comité à adopter une approche globale, à lancer ces travaux de manière prioritaire et à rechercher des synergies avec d’autres organes du Conseil de l’Europe actifs dans ce domaine.
10. De plus, l’Assemblée considère que les exigences en matière de cybersécurité applicables aux dispositifs médicaux utilisant l’IA (notamment les dispositifs de santé implantables et portables) devraient être étudiées plus avant dans le cadre de la Convention sur la cybercriminalité (STE no 185), tandis que le Comité d’experts sur la dimension droits de l’homme des traitements automatisés de données et différentes formes d’intelligence artificielle (MSI-AUT) pourrait compléter les travaux du DH-BIO en aidant à définir la responsabilité des différents acteurs – des développeurs aux autorités de réglementations, et des intermédiaires aux utilisateurs (notamment les pouvoirs publics, les professionnels de santé, les patients et le grand public) – en ce qui concerne le développement, la maintenance et l’utilisation des applications médicales de l’IA, et tout préjudice causé par ces applications.
11. En conséquence, l’Assemblée recommande au Comité des Ministres:
11.1 de charger le CAHAI d’élaborer un instrument juridique spécifique sur l’IA, de préférence un instrument contraignant de portée mondiale, par exemple une convention ouverte aux États non membres, en mettant l’accent sur les incidences de l’IA sur les droits humains en général et sur le droit à la santé en particulier;
11.2 d’associer d’autres organes pertinents du Conseil de l’Europe aux travaux du CAHAI, dans le but de couvrir de façon adéquate les problèmes relatifs à la santé, notamment en ce qui concerne le respect de la vie privée, la confidentialité et la cybersécurité des données de santé sensibles à caractère personnel, le consentement éclairé et la responsabilité des parties prenantes;
11.3 de charger le DH-BIO et le Comité consultatif de la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel de rechercher des synergies dans leurs activités visant à guider les États membres vers une bonne gouvernance des données de santé, dans le but de prévenir toute utilisation souveraine ou commerciale abusive de données à caractère personnel par des applications médicales de l’IA;
11.4 de réviser la Recommandation CM/Rec(2016)3 sur les droits de l’homme et les entreprises afin de prendre en compte les défis actuels et les obligations des États membres envers la Charte sociale européenne (STE nos 35 et 163), y compris le droit à la santé.
12. L’Assemblée recommande également au Comité des Ministres d’encourager les États membres:
12.1 à construire une approche nationale holistique, impliquant les parlements nationaux, afin d’utiliser la technologie d’IA dans les services de soins de santé fondés sur l’implication et la responsabilité multipartite, ainsi que l’évaluation adéquate des impacts socio-économiques et sur les droits humains, en vue de consolider l’accès complet de leur population aux services de santé publique et de donner effet au droit de chacun à la santé comme énoncé dans la Charte sociale européenne;
12.2 à prendre une part plus active au développement et au déploiement des applications de l’IA pour les services de santé au niveau national, et à prévoir une évaluation et une étude préalable souveraines de ces applications par des institutions indépendantes, ainsi qu’une procédure d’autorisation exhaustive pour leur mise en place, en particulier dans les services de santé publique, afin de parer aux risques de voir menacés les droits individuels et la santé publique, conformément au principe de précaution;
12.3 à examiner les solutions juridiques et techniques de certification et de validation des applications de l’IA pour la santé développées tant par des entités publiques que commerciales (couvrant le produit final et chaque étape du processus de conception de l’IA) aux niveaux national et européen;
12.4 à renforcer, pour toute utilisation de l’IA en rapport avec la santé, leur cadre national d’analyse d’impact sur les droits humains;
12.5 à garantir que les applications de santé reposant sur l’IA ne remplacent pas complètement le jugement humain et, donc, que les décisions prises avec l’IA dans le cadre des soins de santé professionnels sont toujours validées par des professionnels de santé dûment formés;
12.6 à élaborer un cadre juridique pour clarifier la responsabilité des parties prenantes dans la conception, le déploiement, l’entretien et l’utilisation des applications de l’IA en rapport avec la santé (y compris pour les dispositifs médicaux implantables et portables) dans les contextes national et paneuropéen; à redéfinir la responsabilité des acteurs pour les risques et préjudices émanant de ces applications, et à assurer que les structures de gouvernance et des mécanismes d’application de la loi sont en place pour garantir la mise en œuvre de ce cadre juridique;
12.7 à réfléchir à la façon de concilier, d’une part, l’exigence d'une protection forte des données à caractère personnel et, d’autre part, la nécessité d’utiliser certains types de données de santé à caractère personnel pour le bien commun dans le contexte des améliorations apportées par l’IA dans le domaine de la santé publique, et ce dans le respect des droits humains, y compris en ce qui concerne une meilleure préparation des structures de gouvernance pour anticiper et gérer la réponse à une pandémie;
12.8 à accélérer leur adhésion, s’ils ne l’ont pas encore fait, à la Convention d’Oviedo et à ses protocoles, ainsi qu’au Protocole d’amendement à la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel;
12.9 à adapter leurs systèmes d’éducation et de formation pour que soit intégrée l’éducation à l’IA dans les programmes scolaires et les programmes de formation dans les institutions de médecine, en mettant l’accent sur les principes éthiques de l’IA et sur les usages responsables des applications de cette technologie;
12.10 à appuyer les investissements visant à construire l’infrastructure numérique nécessaire pour surmonter les fractures numériques actuelles et garantir que les innovations menées par l’IA n’exacerbent pas les inégalités en soins de santé existantes;
12.11 à lancer un débat national sur l’IA appliquée à la santé afin de sensibiliser l’opinion publique et les professionnels de santé aux risques et aux avantages inhérents à l’utilisation des applications de l’IA pour le bien-être et les soins de santé, en particulier celles développées à des fins commerciales qui, profitant des vides juridiques actuels, sont déjà sur le marché;
12.12 à examiner les différentes possibilités d’harmoniser l’interconnectivité des réseaux et des bases de données de santé nationaux pour permettre des rapprochements de données compatibles avec les droits humains aux fins de l’analyse fondée sur l’IA et pour bâtir des «systèmes de santé apprenants».