C Exposé des motifs
par M. Stefan Schennach, rapporteur
1 Introduction
1. En décembre 2018, la commission
des questions juridiques et des droits de l’homme («la commission») a
examiné les possibilités et les défis que la propagation des technologies
d’intelligence artificielle (IA) pouvait amener dans nos vies et
dans nos façons de travailler. Elle a décidé ensuite de poursuivre
la réflexion sur le sujet et a présenté une proposition de résolution
(
Doc. 14778). Cette proposition met en évidence les aspects déterminants
des technologies d’IA qui peuvent «présenter de nombreux avantages
pour beaucoup de gens», mais qui peuvent également «considérablement
perturber les modèles de travail» et «affecter les droits des travailleurs».
En tant que décideurs politiques à l’échelle nationale et européenne,
nous devons étudier sous l’angle stratégique les défis émergents
et proposer des options adéquates en matière de réglementation. Lorsque
la proposition a été renvoyée à la commission pour rapport, j’ai
été nommé rapporteur, le 9 avril 2019.
2. La commission a ensuite tenu un échange de vues le 14 mai 2019
avec Mme Judith Pühringer, directrice générale
du réseau Arbeit plus (Autriche), puis le 3 décembre 2019 avec Mme Corinna
Engelhardt-Nowitzki, directrice du département de génie industriel
de l’Université des sciences appliquées de Vienne
Note.
J’ai aussi participé à la réunion du Réseau parlementaire mondial
de l’OCDE les 10 et 11 octobre 2019 et effectué une visite d’information,
aux côtés de la rapporteure de la commission sur le thème «Intelligence
artificielle et santé: défis médicaux, juridiques et éthiques à
venir», à l’Organisation internationale du travail (OIT) et à l’Organisation
mondiale de la santé (OMS) les 16 et 17 janvier 2020 à Genève.
3. Ce rapport vise à donner un aperçu des possibilités et des
défis émergents liés à l’IA dans le monde du travail et à examiner
les implications stratégiques sous l’angle du Conseil de l’Europe.
Il examine les options possibles pour structurer le travail homme-machine
et donne des exemples de pratiques actuelles de ce type afin de
tirer des enseignements et de formuler des recommandations à l’intention
des décideurs nationaux et européens, l’objectif étant de faciliter
la transition vers un monde du travail différent et de réduire autant
que possible les perturbations dans la société. Le rapport examinera
par ailleurs quelles lignes rouges il ne faut pas dépasser si l’on
veut préserver les droits fondamentaux des travailleurs et comment
traiter ou prévenir les inégalités, préjugés et stéréotypes potentiels
dans un tel contexte.
2 Qu’est-ce que l’IA?
4. Comme l’indique la Commissaire
aux droits de l’homme du Conseil de l’Europe dans sa recommandation
«Décoder l’intelligence artificielle: 10 mesures pour protéger les
droits de l’homme» (mai 2019)
Note, il n’existe pas de définition
officielle de l’IA. Le terme est habituellement employé pour décrire
les techniques de traitement de données automatisé qui améliorent
nettement la capacité des machines à réaliser des tâches nécessitant
de l’intelligence, ce qui, jusque-là, a presque toujours été l’apanage
des humains. Les machines et robots modernes, dotés d’algorithmes,
peuvent en effet «apprendre» de nouvelles choses, changer leur manière
d’effectuer des tâches et prendre leurs propres décisions sans aucune
intervention humaine. L’annexe au présent rapport contient une ébauche
de définition de l’IA et des concepts de «apprentissage automatique»
et de «apprentissage en profondeur», ainsi qu’un aperçu des grands
principes éthiques pour une IA fiable, sous l’angle du Conseil de
l’Europe.
5. L’Organisation de coopération et de développement économiques
(OCDE) et la Conférence des Nations unies sur le commerce et le
développement (CNUCED) décrivent l’IA comme «la capacité des machines
et systèmes à acquérir et appliquer des connaissances et à avoir
des comportements intelligents». Cette définition montre que l’IA
englobe un large panel de technologies capables de manipuler des
objets et d’effectuer des tâches cognitives (comme détecter, raisonner,
apprendre ou prendre des décisions). Dans sa note d’information
sur un marché unique du numérique, la Commission européenne définit
l’IA comme l’ensemble des systèmes manifestant un comportement intelligent et
qui, en analysant leur environnement, peuvent réaliser diverses
tâches avec un certain degré d’autonomie pour atteindre des buts
spécifiques
Note. Plus récemment, l’Union européenne
a décrit l’IA simplement comme un ensemble de technologies combinant données,
algorithmes et capacité de traitement informatique
Note. Il est indiqué en outre
dans une étude de l’OIT que l’IA est amenée à remplacer les humains
pour l’exécution de tâches difficiles mentalement, plutôt que physiquement,
comme ce fut le cas lors des précédentes vagues d’automatisation
et de robotisation
Note.
3 Aspects
éthiques de l’IA en règle générale et en lien avec le travail humain
6. Les technologies d’IA et leurs
applications concrètes se développent rapidement: elles ne relèvent
plus de la science-fiction et nous les rencontrons de plus en plus
au quotidien, parfois même sans nous en rendre compte. Des entités
commerciales et publiques utilisent déjà l’IA pour analyser, anticiper,
renforcer et même contrôler les comportements humains par des techniques
de surveillance
Note. Ces systèmes peuvent nous aider dans
notre travail, le faciliter et le rendre plus efficient, mais ils
peuvent aussi manipuler nos décisions ou des décisions qui nous
concernent en matière d’emploi.
7. Préoccupé par les aspects juridiques et éthiques de l’IA par
rapport au cadre existant des droits humains, le Conseil de l’Europe
a chargé son Comité ad hoc sur l’intelligence artificielle (CAHAI)
Note d’entreprendre une cartographie
complète en vue d’examiner la faisabilité d’un instrument normatif,
qui pourrait prendre la forme d’une convention. Parmi les instruments
figurant dans cet inventaire, citons la première Charte éthique
européenne d’utilisation de l’intelligence artificielle dans les
systèmes judiciaires, les Lignes directrices sur l’intelligence
artificielle et la protection des données, la Déclaration du Comité
des Ministres sur les capacités de manipulation des processus algorithmiques,
l’Étude sur les dimensions de droits de l’homme dans les techniques
de traitement automatisé des données, la recommandation susmentionnée de
la Commissaire aux droits de l’homme et la recommandation CM/Rec(2020)1
du Comité des Ministres adressée récemment aux États membres sur
les impacts des systèmes algorithmiques sur les droits de l’homme.
La recommandation de la Commissaire aux droits de l’homme évoque
la nécessité de surveiller les effets négatifs potentiels de l’IA
sur le droit au travail et de prévoir des moyens d’atténuer ces
effets, y compris par l’éducation. Le panorama des études internationales
sur les principes éthiques de l’IA, réalisé par le Conseil de l’Europe,
a permis de dégager des principes essentiels (voir l’annexe), que
sont notamment la transparence, la justice et l’équité, la responsabilité,
la sûreté et la sécurité et le respect de la vie privée.
8. La Commission européenne, estimant que l’IA est une technologie
stratégique susceptible de profiter à la société comme à l’économie,
a publié une Stratégie européenne (avril 2018), un Plan coordonné
(décembre 2018) et une Communication (avril 2019)
Note mettant l’accent
sur un développement de l’IA centré sur l’humain et dont la finalité
est d’améliorer le bien-être des personnes. Le groupe d’experts
à haut niveau de la Commission chargé des questions d’IA a publié
des lignes directrices pour une IA fiable, qui mettent l’accent sur
les sept grands principes que les applications d’IA doivent respecter:
contrôle par l’humain, sécurité technique, gouvernance des données
à caractère personnel, transparence, diversité et non-discrimination, bien-être
sociétal (et environnemental) et responsabilisation.
9. À partir de juin 2019, ces lignes directrices ont été testées
et évaluées par plusieurs parties prenantes, notamment par des personnes
à titre individuel des secteurs public et privé, et un livre blanc
a été publié en février 2020. Ce livre blanc cible la question de
l’égalité de l’emploi pour tous les secteurs et souligne que l’utilisation
de l’IA aux fins de recrutement et dans des situations qui touchent
aux droits des travailleurs devrait toujours être considérée comme
à «haut risque» et soumise dès lors à des exigences réglementaires
plus strictes. En juillet 2020, le Groupe d’experts de haut niveau
a lancé une grille d’évaluation pour une IA digne de confiance (ALTAI)
en vue d’aider les développeurs et utilisateurs à contrôler les
applications d’IA à l’aune de critères de fiabilité. L’Union européenne
préconise l’élaboration de lignes directrices internationales en matière
d’éthique pour l’IA, y compris par le biais de forums multilatéraux
tels que le G7 ou le G20. Ce dernier a adopté des «Principes pour
une IA centrée sur l’humain» en juin 2019.
10. Le rapport prospectif de l’Institut syndical européen (ETUI)
Note intitulé «Labour in the age
of AI» («Le travail à l’ère de l’IA») met en garde contre les violations
potentielles de la dignité humaine causées par les technologies
de surveillance sur le lieu de travail reposant sur l’IA, ce qui
illustre la nécessité de mieux protéger le droit au respect de la
vie privée et à la protection des données à caractère personnel,
conformément aux exigences de la Convention pour la protection des
personnes à l'égard du traitement automatisé des données à caractère
personnel du Conseil de l’Europe (STE no 108)
et son Protocole d’amendement (STCE no 223, «Convention
108+») et du Règlement général sur la protection des données (RGPD).
L’ETUI appelle en outre les pays européens à garantir le droit à
l’explication des décisions prises par l’IA, puisque les décisions algorithmiques
se fondent sur de vastes ensembles de données pouvant refléter des
aprioris et préjugés humains et risquent par conséquent de les intégrer
et de produire des décisions discriminatoires. Il convient de rappeler
que l’article 12 du RGPD garantit le droit d’obtenir des informations
compréhensibles, utiles et exploitables, et que l’article 9.1.a.
de la Convention 108+ insiste sur le droit de toute personne «de
ne pas être soumise à une décision l’affectant de manière significative,
qui serait prise uniquement sur le fondement d’un traitement automatisé
de données, sans que son point de vue soit pris en compte».
11. De son côté, l’OCDE a adopté, le 22 mai 2019, les premières
orientations stratégiques intergouvernementales sur l’IA visant
à faire respecter des principes internationaux pour l’élaboration
et le fonctionnement de systèmes d’IA à la fois robustes, sûrs,
équitables et fiables qui soient des plus bénéfiques pour tous.
Les principes de l’OCDE sur l’IA ont le soutien de la Commission
européenne et font écho aux directives de cette dernière pour une
IA fiable. Bien qu’ils ne soient pas juridiquement contraignants,
ils ont un très fort potentiel de devenir une référence au niveau
mondial et d’influer sur les systèmes de droit nationaux dans le
monde entier. En ma qualité de rapporteur, je note que l’OCDE recommande
aux gouvernements de doter les gens des compétences nécessaires
en matière d’IA et de soutenir les travailleurs pour assurer une transition
équitable.
12. Dans ce contexte, la Commission mondiale de l’OIT sur l’avenir
du travail a proposé une stratégie centrée sur l’humain pour amortir
les répercussions de l’IA. Elle conseille vivement d’investir dans
les compétences de chacun, dans l’apprentissage tout au long de
la vie (acquisition de compétences, reconversion professionnelle
et amélioration des compétences), dans les instituts de formation
et dans le travail décent et durable. Ces aspects impliquent des
efforts supplémentaires pour garantir que le travail s’accompagne
de liberté, de dignité, de sécurité économique et d’égalité, ce
qui est un défi de taille. Comme il est ressorti de l’échange de
vues auquel la représentante du réseau Arbeit plus a participé,
les premières applications algorithmiques utilisées en Autriche
par des agences d’emplois n’ont pas la confiance de la société civile
ni celle des partenaires sociaux pour ce qui est de la capacité
de ces applications à évaluer correctement le potentiel et la motivation
à travailler d’un être humain, et risquent de perpétuer des préjugés sexistes
et de scléroser des stéréotypes et des inégalités.
13. Plusieurs États, à savoir la France, l’Allemagne, l’Italie,
la Nouvelle-Zélande et les États-Unis, ont déjà publié des stratégies
nationales pour une IA responsable. La stratégie italienne est considérée
comme l’une des plus abouties: elle adopte une approche centrée
sur l’humain, selon laquelle l’IA doit être à notre service et ne
doit pas chercher à nous remplacer, mais doit simplement améliorer
nos capacités et notre qualité de vie. Cette stratégie souligne
en outre la nécessité de directives rigoureuses de l’État et d’une
réglementation du marché du travail qui préserve la qualité de l’emploi,
qui intègre le principe de durabilité (notamment d’inclusivité et
d’égalité des chances) et qui empêche que le chômage atteigne des
niveaux élevés. Elle prône également des changements systémiques
dans le système éducatif en faveur de parcours solides d’apprentissage
tout au long de la vie pour les travailleurs
Note.
4 Précarité
croissante et transformation de l’emploi
14. L’IA cristallise de toute évidence
les craintes quant au risque qu’elle remplace les humains dans plus d’emplois
qu’elle n’en crée et, par conséquent, les incertitudes quant à la
façon dont nous pourrions encore gagner notre vie dans un monde
rempli de robots super-intelligents et d’applications «boîtes noires».
Selon plusieurs études, les inégalités salariales et de richesse
risquent de se creuser du fait de l’automatisation croissante. Il
ressort également de plusieurs rapports qu’au cours des 20 prochaines
années environ, jusqu’à 35 % des travailleurs au Royaume-Uni et
47 % aux États-Unis risquent de perdre leur emploi à cause de l’IA
Note. La
Banque mondiale prévoit un scénario encore plus sombre pour les
pays en développement: 69 % des emplois risquent de disparaitre
en Inde et 77 %, en Chine, où des multinationales pourraient être
tentées de recourir davantage à l’automatisation, malgré l’abondance
de main d’œuvre encore bon marché, mais devenant progressivement
plus chère. Pour autant, les chercheurs ne tirent pas tous la sonnette
d’alarme: certains insistent plutôt sur le déplacement et la transformation
de l’emploi. L’OCDE estime, par exemple, qu’environ 14 % des emplois
dans ses pays membres sont «hautement automatisables», tandis que
32 % des emplois risquent de subir de profonds changements en raison
des technologies de pointe.
15. Il n’est pas surprenant que, d’après les études de l’OIT sur
le sujet, les entreprises aient tendance à adopter des technologies
intelligentes pour des tâches à haute qualification à la place de
travailleurs, si ces changements génèrent des bénéfices et si un
service 24 h sur 24 est nécessaire. Les applications d’IA vont permettre
d’optimiser la performance des travailleurs peu qualifiés en accélérant
le rythme de travail et en réduisant les erreurs. Lorsque le travail
consiste à effectuer plusieurs tâches, l’automatisation de certaines tâches
pourrait entraîner un changement des profils de poste, notamment
l’ajout de nouvelles tâches ou la modification des tâches existantes,
au lieu de faire disparaître totalement le poste (humain). D’après
bon nombre d’observateurs, l’IA a le potentiel d’une nouvelle «technologie
d’application générale» (à l’image de l’électricité, de l’informatique
et d’internet) pouvant imprégner nos vies au moyen d’applications
multiples dans diverses activités et fonctions. L’OIT observe qu’il
n’y a pas suffisamment de preuves concrètes à ce stade de déplacements
nets d’emplois ou de destruction d’emploi effective, mais cela ne
devrait pas empêcher les décideurs d’anticiper une incidence profonde,
étendue et pluridimensionnelle de l’IA sur l’emploi humain.
16. L’OCDE prévoit une répartition très inégale des applications
d’IA selon les pays, les secteurs et les emplois. Les systèmes d’IA
les plus avancés semblent avoir encore un champ d’application très
pointu dans la mesure où ils sont conçus pour effectuer des tâches
spécifiques de résolution de problèmes ou de raisonnement. Cela
n’est pas pour rassurer les traducteurs, dont le métier est de plus
en plus menacé par des applications de traduction d’une grande précision,
quasi-instantanées et peu coûteuses, si ce n’est gratuites, telles
que Google Translate (applicable à plus de 130 langues), DeepL,
Dict Box, Microsoft Translator, Day Translations, Waygo et iTranslate,
pour ne citer que les plus utilisées dans le monde. S’il est peu
probable que ces applications rendent le métier de traducteur complètement
obsolète, elles pourraient progressivement en faire un métier de
post-édition, au moins dans certains cas, consistant à s’assurer
que des éléments importants ne se perdent pas avec la traduction
automatique.
17. D’après une étude sur l’éthique de l’intelligence artificielle
réalisée par l’Unité de prospective scientifique (Panel STOA) du
Parlement européen
Note,
l’IA et l’automatisation risquent de creuser les inégalités sociales
et économiques existantes et d’avoir des répercussions disproportionnées
sur les jeunes possédant peu d’expérience technique qui arrivent
sur le marché du travail et sur les membres de minorités dont les
niveaux de qualification sont peu élevés.
18. Cette tendance au remplacement d’emplois est flagrante dans
les pharmacies européennes équipées de robots pour la préparation
de produits pharmaceutiques, sachant qu’aux États-Unis, la tendance
est déjà bien avancée et que le marché des robots pharmaceutiques
pèsera, selon les estimations, plus de 430 millions USD d’ici 2025.
Les machines de l’industrie pharmaceutique les plus performantes
peuvent désormais produire environ 225 types de médicaments; elles
feraient aussi moins d’erreurs que les humains et coûteraient environ
12 USD par heure contre environ 18 USD par heure pour un pharmacien
humain aux États-Unis. Les robots pharmaceutiques sont entraînés
également pour aider à reconnaître les médicaments contrefaits ou
frauduleux, outre qu’ils permettent de réduire les risques de contamination
de médicaments conditionnés localement et sont disponibles pour
servir les clients 24 heures sur 24. Le risque est que l’on dévalorise
les compétences humaines et que l’on accorde moins d’importance
à la responsabilité, au contrôle et à l’avis humains, qui jouent
pourtant un rôle majeur dans le secteur médical
Note.
19. Si les précédentes vagues d’automatisation menaçaient surtout
les emplois peu qualifiés, les machines à IA auront une incidence
également sur les emplois non manuels à haut niveau de compétences.
Comme l’a expliqué un expert lors du récent échange de vues de notre
commission
Note, techniquement parlant, les machines
ne sont pas vraiment créatives pour l’instant: elles imitent simplement
les humains et leur capacité de raisonnement. Dans certains secteurs,
les applications d’IA plus avancées fournissent déjà une base relativement
satisfaisante pour la prise de décision même si elles restent limitées
par la nature probabiliste des algorithmes et les biais potentiels
basés sur l’analyse des modèles comportementaux passés ou actuels.
En effet, les machines et les algorithmes d’IA n’ont pas cette capacité
à provoquer une rupture et à induire un changement positif qui supprime
les biais ou les erreurs. Dans certains secteurs cependant, tels
que la médecine, le recours des professionnels à l’IA pourrait même
être dangereux (en raison d’un manque de compréhension des limites
des machines et des données) et mener progressivement à une déqualification
des professionnels. Je pense qu’au lieu de permettre aux machines
intelligentes de prendre totalement la main sur les décisions humaines,
nous devrions plutôt réfléchir à la façon d’optimiser la synergie
homme-machine pour faciliter le travail humain et améliorer la qualité
du résultat final.
20. Si l’on considère que l’IA pourrait potentiellement stimuler
la productivité du travail jusqu’à 40 % d’ici 2035 dans les pays
développés, les entreprises du secteur privé ne sont pas les seules
à se presser pour exploiter le potentiel de l’IA. Les agences du
secteur public, en Europe également, testent des applications d’IA pour
la prestation de services à la population. En Italie, par exemple,
le ministère de l’Économie et des Finances a mis en place un service
d’assistance basé sur l’IA pour gérer les appels des particuliers
et a vu la satisfaction des usagers augmenter de 85 %. Au Royaume-Uni,
le ministère britannique du Travail et des Pensions a commencé à
utiliser l’IA pour traiter la correspondance entrante
Note. De plus
en plus de responsables considèrent l’IA comme un atout pour travailler
différemment, c’est-à-dire mieux et en utilisant de nouvelles méthodes.
21. Les changements démographiques observés en Europe peuvent
également conduire à la nécessité d’adopter plus largement des solutions
basées sur l’IA. D’une part, la population européenne vieillit et
l’on voit déjà une pénurie de main-d’œuvre dans le secteur social
et médical, notamment l’aide aux personnes handicapées; d’autre
part, de nombreux jeunes et chômeurs de longue durée peinent à trouver
un emploi, car leurs compétences ne correspondent pas nécessairement
aux besoins des employeurs et de la société. L’IA peut faciliter
les emplois d’aide aux personnes en soulageant les humains de tâches
physiquement éprouvantes et en leur laissant alors plus de temps
pour l’interaction et la résolution de problèmes, qui demandent
plus d’intelligence émotionnelle que celle que les machines dites
«intelligentes» peuvent offrir actuellement. Cela signifie que la
société européenne aura besoin de beaucoup de nouveaux travailleurs
dotés de compétences permettant une utilisation à la fois professionnelle
et responsable des options d’IA. Dans le même temps, je me dois
de mettre en garde les États contre le déploiement massif de technologies fonctionnelles
d’IA si cela se fait au détriment des services d’aide traditionnelle
et si cela prive les personnes ayant des besoins spéciaux d’un réel
choix de soins abordables et accessibles
Note.
5 Maîtriser
les perturbations induites par l’IA grâce à des innovations en matière
de politique sociale: protéger les personnes, pas l’emploi?
22. Alors que l’avenir du travail
se construit au fil des vagues successives de numérisation de données, d’informatisation
des processus et de gestion du big data, puis d’automatisation,
de robotisation et de raisonnement intelligent de machines, la nature
du travail humain mute rapidement et certains parlent même de «fin
du travail»; cela ne concerne peut-être pas tous les emplois, mais
un nombre croissant de types d’emplois. Certains chercheurs soutiennent
que nous devrions chercher à mieux protéger les personnes et les travailleurs,
pas les emplois
Note.
Contrairement aux machines, nous faisons preuve de plus de créativité
au travail, nous recherchons et établissons des contacts sociaux,
nous avons de l’empathie et l’esprit critique et nous veillons à
éviter la discrimination. En revanche, nous nous fatiguons et il
nous arrive de projeter nos stéréotypes sur les autres et de commettre
des erreurs. Nous défendons notre droit au travail, car le travail
est synonyme d’accomplissement personnel et de source de revenu.
Il a une valeur sociale majeure que nous voulons préserver pour
les générations actuelles et futures d’Européens. Pour reprendre
les propos d’un observateur, nous avons le choix entre une société
qui «travaille pour vivre» et une société qui «vit pour travailler»;
c’est ce qui rend l’humanité remarquable dans le second cas et nécessite
de «préserver le rôle social du travail»
Note.
23. L’innovation en IA s’accompagne de nouvelles possibilités
d’optimiser et d’organiser notre travail, nous amenant à diversifier
nos compétences et à être plus souples, mais aussi à partager certaines
tâches avec des machines ou d’autres humains (pour réduire les heures
ou la charge de travail, par exemple). Cette tendance se conjugue
à une mondialisation économique continue qui a déjà provoqué la
délocalisation de tant d’emplois «européens» vers des pays en développement
et la précarité croissante des emplois restant en Europe en raison
d’un nivellement par le bas des normes de «travail décent» et d’une
féroce concurrence mondiale. Dans certains pays, les travailleurs
qui ont un emploi de type non conventionnel (y compris les travailleurs
de plateformes) ont 40 à 50 % moins de chances d’obtenir des prestations
sociales lorsqu’ils perdent leur emploi que ceux qui ont un travail
«conventionnel»
Note. La cadence du changement induit par le
déploiement de machines intelligentes s’est tant accélérée que les
décideurs doivent adapter les cadres juridiques et les systèmes
sociaux existants sans avoir une vision globale de tous les défis
qui se profilent.
24. Nous avons traversé une profonde crise économique et financière
mondiale causée par des produits financiers dérivés que les utilisateurs
ne comprenaient pas vraiment et par des transactions à haute fréquence que
nous ne maîtrisions pas. Nous sommes maintenant confrontés à la
«boîte noire» des applications algorithmiques, qui peut donner les
meilleurs comme les pires résultats. Contrairement à la génération précédente
de machines numériques fonctionnant par champs d’action linéaires,
la technologie d’IA peut produire des résultats imprévisibles, aggraver
et perpétuer les biais et la discrimination existants sur les marchés
du travail, mais elle peut être aussi plus neutre que certains humains
et aider en fait à corriger ou prévenir les biais, la discrimination
et les inégalités. La qualité des données et des algorithmes est
essentielle: dans une perspective de droits de l’homme, nous devons
nous assurer au moyen des politiques publiques que des garanties
fondamentales de nature éthique, juridique et sociale sont en place.
Les décideurs devraient clarifier des points de référence pour les
différentes sources d’informations à caractère personnel à utiliser
par les systèmes algorithmiques pour la prise de décisions, en particulier
dans les domaines sujets à discrimination (les processus de recrutement,
par exemple).
25. À l’échelle mondiale, plusieurs grands pays dominent actuellement
le développement d’applications et de brevets d’IA (États-Unis,
Chine, Russie), tandis que les pays européens avancent à vitesse
variable. Il convient de noter que l’investissement total (public
et privé) en Europe dans la recherche et l’innovation est bien inférieur
à celui d’autres régions du monde: environ €3,2 milliards ont été
investis dans l’IA en Europe en 2016 contre €12,1 milliards en Amérique
du Nord et €6,5 milliards en Asie
Note.
Ces trois dernières années, le financement de l’Union européenne
pour la recherche et le développement en lien avec l’IA a nettement augmenté,
de 70 %, atteignant €1,5 milliard. Cet effort s’appuie sur un «plan
coordonné pour l’IA»
Note afin de mobiliser environ €20 milliards
d’investissements par an dans l’IA lors de la prochaine décennie
dans toute l’Union européenne.
26. Dans ce cadre, le Livre blanc de l’Union européenne sur l’
Intelligence artificielle – Une approche européenne
axée sur l’excellence et la confiance appelle à l’adoption
d’une approche européenne commune en matière d’IA. Il préconise
notamment une approche axée sur la régulation et l’investissement
(par un «écosystème d’excellence et de confiance») qui poursuit
le double objectif de promouvoir le recours à l’IA et de tenir compte
des risques inhérents à l’utilisation de cette technologie, et insiste
sur le fait que l’Europe peut devenir un leader mondial dans le
domaine
Note.
27. Les incertitudes quant à l’avenir de l’emploi humain et des
moyens de subsistance face à l’ampleur que prend l’IA nous amènent
à jeter un regard neuf sur l’idée d’un revenu de base. Cette idée
n’est plus considérée comme une utopie et gagne du terrain parmi
les experts
Note, les chefs d’entreprise
Note et les personnalités politiques
comme système alternatif de répartition des revenus. Les expériences
passées d’un revenu de base à échelle limitée ont fait amplement
la démonstration de leurs effets positifs sur le bien-être des personnes. L’analyse
de l’expérience la plus récente de revenu de base en Finlande sur
la période 2017-2018, publiée en juin 2020, confirme l’amélioration
du bien-être et de la sécurité économique des personnes concernées.
Il convient de rappeler à cet égard la
Résolution 2197 (2018) «Un revenu de citoyenneté de base, une idée qui se
défend» dans laquelle l’Assemblée estimait que «l’instauration d’un
revenu de base pourrait garantir l’égalité des chances de tous plus
efficacement que l’actuelle mosaïque de prestations, services et programmes
sociaux» et recommandait vivement aux États membres d’étudier «les
modalités d’un tel revenu permanent garanti et les moyens de le
financer dans le cadre d’un nouveau contrat social entre les citoyens
et l’État».
28. Une autre option pour atténuer l’incidence de l’automatisation
sur les travailleurs humains
Note est celle de l’imposition d’une
taxe dite «taxe robots». Le fait de taxer la robotisation soulève
toutefois des interrogations quant à l’absence de définition reconnue
du terme «robot». Xavier Oberson
Note, chercheur à l’OCDE, s’appuyant sur
la définition d’une résolution du Parlement européen de février
2017 (2015/2103(INL))
Note, suggère d’adopter une approche
neutre du terme «robot» dans le contexte de la taxation, qui inclurait
non seulement les robots et les machines intelligentes «physiques»
mais aussi les assistants virtuels. L’utilisation de robots pourrait
alors être taxée en calculant un salaire hypothétique correspondant
à ce qu’un être humain aurait perçu pour un travail équivalent ou
en appliquant un taux basé sur la capacité contributive des robots,
en fonction de leur nombre, aux revenus de l’entreprise. Les études
menées par l’OIT proposent d’examiner d’autres solutions prometteuses,
telles que les taxes carbones, qui favoriseraient l’innovation favorable
à l’économie de ressources plutôt qu’à l’économie de main-d’œuvre.
Cela permettrait de lutter simultanément contre les effets du changement
climatique et contre les inégalités (qui se creuseraient avec la
polarisation induite par l’IA entre, d’une part, l’emploi sûr et
bien rémunéré et, d’autre part, l’emploi précaire et moins bien rémunéré)
Note.
29. Il convient de noter quelques propositions d’experts pour
des cadres réglementaires, étant donné que la technologie d’IA fera
disparaître certains emplois et modifiera nettement l’organisation
et la structuration du travail autour du binôme homme-machine. Conformément
aux exigences énoncées dans la Charte sociale européenne (STE n° 35
et 163), les décideurs devraient tenir compte en particulier des
priorités réglementaires suivantes pour les systèmes d’IA en lien
avec le travail humain:
- les
algorithmes doivent être explicables, transparents, éthiques, sensibles
à la dimension du genre et, dans la mesure du possible, certifiés
au niveau européen, seuls les algorithmes matures étant autorisés pour
une utilisation dans la sphère publique;
- les applications d’IA devraient s’inscrire en complément
du travail humain et ne pas être autorisées à remplacer complètement
les humains dans la prise de décisions;
- les utilisateurs devraient être avertis chaque fois qu’ils
sont en contact avec des applications d’IA et avoir le choix par
conséquent de les utiliser ou non; toute utilisation de techniques
de surveillance sur le lieu de travail doit être soumise à des précautions
particulières en matière de consentement et de protection de la
vie privée;
- les États devraient contrôler les développements d’algorithmes
pour s’assurer du respect des normes et principes juridiques en
vigueur par les développeurs et les utilisateurs d’IA et pour éviter
une emprise réglementaire de la part de certaines grandes entreprises
d’IA;
- les systèmes d’éducation et de formation devraient mettre
l’accent sur les différences entre l’intelligence humaine et l’intelligence
artificielle et veiller à développer plus d’expertise dans le domaineNote.
6 Des
systèmes d’apprentissage répondant aux besoins du marché du travail
et mettant l’accent sur la formation et le savoir-faire
30. Alors que les entreprises commerciales
manifestent un intérêt pour l’IA comme moyen d’accroître la productivité,
la compétitivité économique et les bénéfices, les institutions publiques
peuvent utiliser l’IA pour fournir des services publics et économiser
des ressources en étant plus efficientes. La vague actuelle d’automatisation
entraînée par l’IA est inédite et impossible à enrayer; elle fait
apparaître de nombreux gagnants, mais aussi des perdants, notamment
dans les secteurs d’emploi où les compétences des travailleurs ne
sont pas en adéquation avec les besoins du marché du travail. Pour
réduire ce décalage et exploiter pleinement le potentiel humain,
les systèmes nationaux d’éducation et de formation doivent intégrer des
connaissances générales de base sur la technologie d’IA et les implications
éthiques pour toutes les générations et s’y adapter. Ils doivent
contribuer à cultiver la créativité et l’intelligence sociale, éléments
les plus susceptibles de préserver l’employabilité de chacun dans
cette nouvelle ère technologique. Des quantités d’outils pédagogiques
sur l’IA et utilisant l’IA sont en fait déjà disponibles
Note.
31. Nul doute que les pays européens doivent accorder plus d’importance
à l’information sur l’IA par des programmes d’éducation au numérique
pour les jeunes et des systèmes d’apprentissage et de formation
tout au long de la vie pour tous. À l’heure où les emplois de toute
une vie se font de plus en plus rares, bon nombre de personnes devront
passer d’un emploi à un autre au cours de leur carrière et consacrer
plus de temps et de ressources pour adapter leurs aptitudes et leurs
compétences. Les politiques publiques doivent tenir compte de cette
réalité à plusieurs niveaux de gouvernance et associer le secteur
privé plus activement aux parcours de formation et de reconversion.
32. Certains pays, à l’instar de la France, ont adopté un système
de comptes personnels de formation pour tous les travailleurs, qui
comporte notamment l’obligation positive pour tous les employeurs
de mettre en place des plans de développement des compétences ou
de formation
Note.
Les partenaires sociaux d’autres pays pourraient reprendre ce modèle
pour gérer le changement technologique avec l’IA et faciliter la
transition vers des carrières plus fragmentées. De plus, les systèmes
éducatifs et de formation devraient être mieux adaptés pour «répondre
aux besoins d’une société vieillissante marquée par une évolution
(rapide) des technologies»
Note et à une concentration accrue sur
un large éventail de compétences plutôt que d’aptitudes. Selon la
recommandation de l’OIT, d’un point de vue réglementaire, il importe
de veiller à la certification et à une plus grande portabilité des
compétences, mais aussi d’assouplir certaines exigences en matière
de licences professionnelles qui nuisent à la mobilité intersectorielle
des professionnels.
33. Les analystes de l’OCDE soulignent en outre que nos systèmes
éducatifs ont besoin d’une vaste refonte pour assurer le développement
de capacités que les machines ne maîtrisent pas. Si l’approche traditionnelle généralisée
tendait à mettre l’accent sur la mémorisation des faits, des règles,
des équations, des formules et autres, il nous faut désormais cultiver
plutôt des valeurs humaines telles que la créativité, la curiosité, l’empathie,
la négociation, l’interaction sociale, l’esprit d’équipe et la pensée
critique. Les gens doivent se préparer à «des emplois qui n’ont
pas encore été créés, à utiliser des technologies qui n’ont pas
encore été inventées et à résoudre des problèmes sociaux dont nous
n’avons pas encore idée […] parmi les bouleversements imprévisibles»
Note.
7 Notre
ambition pour l’avenir: une complémentarité homme-machine
34. Des États et surtout des entreprises
se sont lancés dans une course effrénée à l’innovation passant par l’IA,
qui transformera la façon dont nous vivons, travaillons et interagissons.
Ce qui est bon pour les entreprises et la compétitivité économique
ne profite pas nécessairement aux travailleurs et risque même de
nuire à leur bien-être s’ils sont évincés du marché du travail ou
s’ils ne peuvent y entrer. Si nous ne disposons pas encore de preuves
tangibles des impacts potentiels de l’IA sur les marchés du travail,
il est clair en revanche que beaucoup d’emplois humains vont changer,
car ils impliqueront un travail réalisé en équipe et en complémentarité
avec des machines intelligentes. Les gens doivent se préparer à
des carrières plus fragmentées et à une adaptation permanente de
leurs compétences, mais ils ne devront jamais laisser l’IA assumer
totalement la prise de décisions.
35. Bon nombre d’experts s’accordent sur le fait que les décideurs
doivent s’interroger à un stade précoce sur les stratégies économiques
liées à l’IA, la requalification continue des travailleurs et le
rééquilibrage des systèmes de protection sociale afin de surmonter
les difficultés qui se posent pour les cadres juridiques et la population
active, tout en tirant parti des avantages potentiels de l’IA dans
notre vie. Les Européens devraient avoir pour priorité collective
de mener la course à l’innovation technologique, tout en réfléchissant continuellement
à la façon dont l’IA risque de nuire aux droits de l’homme et au
travail humain et en s’efforçant de trouver des solutions face à
ces risques.
36. Dans ce contexte, il convient de rappeler le message contenu
dans la Recommandation CM/Rec(2020)1 du Comité des Ministres aux
États membres sur les impacts des systèmes algorithmiques: «conformément
aux Principes directeurs des Nations Unies relatifs aux entreprises
et aux droits de l’homme, les acteurs du secteur privé sont tenus,
du fait de la responsabilité des entreprises, de respecter les droits
de l’homme de leurs clients et de toutes les parties affectées».
Le fait de comprendre les droits sociaux liés au travail comme des
droits fondamentaux implique l’obligation pour les États comme pour
les entreprises d’adopter des «modèles de gouvernance souples» pour
veiller à ce que «la responsabilité et l’obligation de rendre compte
[…] soient effectivement et clairement établies tout au long du
processus, dès le stade de la proposition en passant par l’identification
des tâches, la sélection, la collecte et l’analyse des données,
la modélisation et la conception des systèmes, jusqu’au déploiement
en cours, à la révision et aux exigences en matière de notification».
À titre de mesure complémentaire, nous devrions rappeler que le
Comité des Ministres a accepté la proposition de l’Assemblée d’étudier
«la faisabilité et l’opportunité de la révision de la Recommandation
CM/Rec(2016)3» sur les droits de l’homme et les entreprises, y compris
pour ce qui concerne les défis liés au déploiement de l’IA.
37. Le présent rapport décrit plusieurs options stratégiques pour
structurer le travail homme-machine. En ma qualité de rapporteur,
je tiens à insister sur la nécessité de placer l’humain au cœur
du développement et du déploiement de l’IA afin de protéger la dignité
humaine, les droits fondamentaux et la valeur sociale du travail.
Nous ne devrions pas sous-estimer les dégâts potentiels pour les
individus comme pour la société dans son ensemble du déploiement
massif et sans souci de l’éthique d’algorithmes au fonctionnement
opaque, d’une part, et de la prévalence d’intérêts commerciaux particuliers
sur l’intérêt public, d’autre part. Dès lors, on voit que les décideurs
et les États ont une responsabilité considérable pour ce qui est
de mieux anticiper les effets transformationnels de l’IA sur le
travail humain et de concevoir des stratégies nationales ambitieuses
qui accompagnent la transition vers une plus grande complémentarité
homme-machine où l’IA respectueuse des droits devient un atout pour
travailler différemment, c’est-à-dire avec plus de souplesse et
en utilisant de nouvelles méthodes, et insuffle une dynamique positive.
Pour faire face aux incertitudes concernant la place de l’IA dans
nos vies futures, nous avons besoin de politiques publiques qui
exploitent pleinement le potentiel humain, qui garantissent un contrôle
humain substantiel de la prise de décision basée sur l’IA, qui aident
à mieux faire correspondre les besoins du marché du travail et les
qualifications des travailleurs, et qui cultivent des valeurs éthiques
essentielles, notamment d’inclusivité et de durabilité. Il me semble,
par conséquent, que le moment est venu pour le Conseil de l’Europe
d’entreprendre l’élaboration d’un instrument normatif complet sur
l’IA, sous forme de convention ouverte aux États non-membres, qui
puisera dans notre sagesse collective et s’inspirera de la vision
du futur que nous voulons.
