Il suffit de lire les articles de la 100è newsletter de Gynéco-Online pour en être convaincu : dans un futur proche, la place de l’Intelligence Artificielle (IA) va immarcesciblement se développer dans le dépistage, le diagnostic et dans l’aide au traitement médical ou chirurgical. En médecine, en droit et dans les autres secteurs de notre société moderne (pour réduire la consommation d’énergie, permettre aux agriculteurs d’utiliser plus efficacement l’eau et les ressources naturelles, améliorer la gestion de risques financiers, etc.), l’utilisation de cette technologie s’avère en plein essor et présente sa cohorte de défis nouveaux. Comme toujours à l’aube d’une évolution scientifique, on rencontre des professionnels et des consommateurs farouchement opposés, à côté des pragmatiques et en face des fanatiques de la mise en œuvre d’algorithmes capables d’analyser et de condenser un nombre bientôt illimité de données cliniques, biologiques, génétiques ou d’imagerie médicale aux fins de les utiliser stratégiquement dans l’intérêt supérieur du patient, évidemment.
Parmi les défis unanimement identifiés, il convient de définir un cadre éthique et juridique approprié.
Voyons à ce titre sommairement quelques éléments d’actualité en droit de l’Intelligence Artificielle, du côté européen et franco-français :
- après la communication de la Commission au Parlement Européen du 8 avril 2019, la Proposition de résolution rendue publique le 6 février 2020,
- après le vote par l’Assemblée Nationale du projet de loi relatif à la bioéthique, le texte adopté en première lecture par le Sénat le 4 février dernier.
Droit européen :
Les mots, le sens des mots, toujours le poids des mots, pourquoi nos technocrates et nos élus politiques au Parlement européen ne s’entendent-ils pas sur un vocabulaire qui provoquerait l’unanimité s’ils n’annonçaient pas dans le titre même des propositions de résolutions qu’ils publient la source d’oppositions légitimes sur un concept sinon acceptable par tous :
Une Résolution du Parlement européen du 12 février 2019 « sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique » avait rappelé :
- qu’une approche coordonnée au niveau européen est instamment nécessaire afin que l’Union soit en mesure de rivaliser avec les investissements de masse effectués par des pays tiers, notamment les États-Unis et la Chine ;
- que le cadre européen pour l’IA doit être élaboré dans le plein respect des droits définis par la charte des droits fondamentaux de l’Union et notamment des principes de protection des données, de la vie privée et de la sécurité ;
- que les évolutions dans le domaine de l’intelligence artificielle peuvent et devraient être conçues de façon à préserver la dignité, l’autonomie et l’autodétermination des individus ;
et souligné :
- que la recherche en matière d’IA doit investir non seulement dans la technologie et l’innovation mais aussi dans les domaines sociaux, éthiques et de la responsabilité liés à l’IA ; que tout modèle d’IA déployé doit être éthique dès sa conception ;
- que, si elles favorisent le progrès au bénéfice de la société et de l’environnement, la recherche en matière d’IA et les activités connexes devraient être menées conformément au principe de précaution et aux droits fondamentaux et que toutes les personnes participant au développement, à l’application, à la diffusion et à l’utilisation de l’intelligence artificielle devraient apprécier à leur juste valeur et respecter la dignité humaine ainsi que l’autodétermination et le bien-être, physique comme psychologique, des individus et de la société dans son ensemble, prévoir les conséquences potentielles en matière de sécurité et prendre les précautions nécessaires eu égard au niveau de protection souhaité, y compris par la communication rapide des facteurs qui risquent de mettre les personnes ou l’environnement en péril ;
la Résolution contenant un article 3.1.2. Santé, ainsi rédigé :
« 70. souligne que le contact humain constitue un aspect essentiel des soins de santé ;
71. fait observer que l’IA et la robotique peuvent présenter des avantages dans le secteur des soins de santé au fur et à mesure que l’espérance de vie augmente, par exemple en aidant les médecins et les infirmières à consacrer davantage de temps à des activités plus importantes (comme la relation avec le patient) ;
72. note l’incidence que l’IA a déjà eue sur le bien-être, la prévention, les diagnostics, la recherche ainsi que son potentiel considérable en matière de conception de soins personnalisés ; estime que cela contribuera finalement à créer un écosystème de soins de santé plus durable, plus efficace et davantage axé sur les résultats ;
73. fait observer que lorsque l’IA est combinée avec un diagnostic humain, le taux d’erreur est souvent inférieur à celui des diagnostics réalisés par les seuls médecins ;
74. souligne que l’utilisation de données dans le secteur de la santé doit faire l’objet d’une surveillance particulière du point de vue éthique et qu’elle ne doit en aucune manière entraver l’accès à la protection sociale ou à l’assurance ;
75. estime que lorsqu’un dispositif médical implanté a recours à l’intelligence artificielle, le porteur doit avoir le droit de contrôler et de modifier le code source utilisé par le dispositif ;
76. estime qu’une attention particulière devrait être accordée à l’utilisation des mégadonnées dans le domaine de la santé, dans l’objectif de tirer le meilleur parti des possibilités qu’elles offrent, telles que l’amélioration de la santé des patients et des performances des systèmes de santé publique des États membres, sans abaisser les normes éthiques et sans porter atteinte à la vie privée ni à la sécurité des citoyens ;
77. souligne toutefois que le système actuel d’approbation des dispositifs médicaux pourrait ne pas être adapté aux technologies de l’IA; invite la Commission à suivre de près l’évolution de ces technologies et à proposer des modifications au cadre réglementaire, le cas échéant, en vue de clarifier le cadre relatif à la répartition de la responsabilité entre l’utilisateur (médecin/professionnel), le producteur de la solution technologique et l’établissement de soins proposant le traitement ; souligne l’importance particulière que revêt le problème de la responsabilité juridique pour les dommages dans le secteur de la santé en ce qui concerne l’utilisation de l’IA ; met donc l’accent sur la nécessité d’éviter que l’utilisateur soit amené à céder systématiquement à la solution de diagnostic ou au traitement proposé par l’instrument technologique par crainte de subir des mesures de responsabilité civile lorsque le jugement professionnel et éclairé l’amène à tirer des conclusions pouvant être en partie divergentes ;
78. demande aux États membres et à la Commission d’accroître le financement des technologies de l’IA liées à la santé dans les secteurs public et privé ; salue, dans ce contexte, la déclaration de coopération signée par 24 États membres de l’Union et la Norvège en vue de renforcer l’impact des investissements dans l’IA au niveau européen ; demande aux États membres et à la Commission de déterminer si les programmes de formation du personnel médical et de santé doivent être actualisés et harmonisés au niveau européen pour assurer des niveaux élevés de compétence et des conditions égales dans les différents États membres en ce qui concerne la connaissance et l’utilisation des instruments technologiques les plus avancés en matière de chirurgie robotique, de biomédecine et d’imagerie biomédicale fondée sur l’IA ;
79. invite la Commission à élaborer des stratégies et des politiques permettant à l’Union d’occuper la première place mondiale dans le secteur en pleine croissance de la technologie des soins de santé, tout en garantissant aux patients un accès à des soins médicaux homogènes et efficaces ;
80. reconnaît que de meilleurs moyens de diagnostic pourraient permettre de sauver des millions de vies, étant donné que, selon l’Organisation mondiale de la santé, 89 % des décès prématurés dans l’ensemble de l’Europe sont causés par des maladies non transmissibles ;
81. met en avant la contribution apportée par l’IA et la robotique à l’innovation des pratiques et des techniques cliniques, de prévention et de réadaptation dans le domaine de la santé, notamment au regard des avantages offerts aux patients handicapés ;
82. reconnaît que l’utilisation accrue de capteurs dans le domaine de la robotique a élargi le champ d’application des soins et permet aux patients de bénéficier d’un traitement et de services plus personnalisés et de recevoir des soins à distance à partir de leur propre domicile, tout en générant des données plus significatives ;
83. reconnaît que, selon l’enquête Eurobaromètre de mai 2017, à l’heure actuelle, les citoyens de l’Union se sentent encore mal à l’aise avec l’idée que des robots soient utilisés dans les soins de santé de tous les jours ; demande à la Commission et aux États membres de mettre au point des stratégies et des campagnes de communication visant à sensibiliser la population aux avantages de l’utilisation des robots dans la vie quotidienne ; prend acte notamment de l’ambition de la stratégie du Japon en matière de robotique ; »
Le 8 avril 2019, la Commission européenne s’est engagée à proposer une approche européenne de l’intelligence artificielle en élaborant un projet de lignes directrices dans le domaine de l’intelligence artificielle, en coopération avec des parties prenantes dans le cadre d’une Alliance européenne pour l’IA, un groupe d’experts dans le domaine de l’intelligence artificielle, afin de promouvoir les applications qui font appel à l’IA et les entreprises qui l’utilisent en Europe et à élaborer un rapport sur les défis liés à l’IA pour les cadres applicables en matière de sécurité et de responsabilité ainsi qu’un document d’orientation sur la mise en œuvre de la directive sur la responsabilité du fait des produits.
Tout s’annonçait relativement bien, jusqu’à cette proposition de Résolution publiée par le Parlement européen le 6 février 2020 malencontreusement intitulée : « Proposition de Résolution sur les processus de prise de décision automatisés » (automated decision-making processes), et non proposition de résolution sur « l’intelligence artificielle ». Evidemment les observateurs déduisent de cette rédaction que la résolution exclurait les cas majoritaires d’aide à la décision, dans lesquels un humain, assisté dans son raisonnement par une intelligence artificielle, décide seul, in fine (cf. Union européenne et intelligence artificielle : état des propositions, par Cécile Crichton, Dalloz.actualité, 10 février 2020), ce qui renforce un débat qui pourrait être évité entre les partisans et les opposants à l’IA.
Heureusement, il ne s’agit que d’un vote en commission et la résolution devrait faire l’objet d’un vote en plénière avant d’être transmise aux Etats membres et à la Commission, laquelle élabore actuellement son Livre blanc sur l’intelligence artificielle dont un premier projet a été publié le 17 janvier 2020 sur le site web Euractiv.com.
A suivre de près…
Droit français :
Le projet de loi relatif à la bioéthique présenté par le Gouvernement français contenait, en son article 11, un projet d’article L. 4001-3 à insérer dans le code de la santé publique ainsi rédigé :
« I. Lorsque pour des actes à visée préventive, diagnostique ou thérapeutique est utilisé un traitement algorithmique de données massives, le professionnel de santé qui communique les résultats de ces actes informe la personne de cette utilisation et des modalités d’action de ce traitement.
« II. L’adaptation des paramètres d’un traitement mentionné au I pour des actions à visée préventive, diagnostique ou thérapeutique concernant une personne est réalisée avec l’intervention d’un professionnel de santé et peut être modifiée par celui-ci.
« III. La traçabilité des actions d’un traitement mentionné au I et des données ayant été utilisées par celui-ci est assurée et les informations qui en résultent sont accessibles aux professionnels de santé concernés. »
Le Sénat vient de modifier, en première lecture, ce projet de loi, adopté par l’Assemblée nationale en première lecture après engagement de la procédure accélérée. L’article L. 4001-3 est devenu :
« Lorsque, pour des actes à visée préventive, diagnostique ou thérapeutique, le professionnel de santé envisage de recourir à un traitement algorithmique, il en informe préalablement le patient et lui explique sous une forme intelligible la manière dont ce traitement serait mis en œuvre à son égard. Seules l’urgence et l’impossibilité d’informer peuvent y faire obstacle.
« La saisie d’informations relatives au patient dans le traitement algorithmique se fait sous le contrôle du professionnel de santé qui a recours audit traitement.
« Aucune décision médicale ne peut être prise sur le seul fondement d’un traitement algorithmique.
« Les concepteurs d’un traitement algorithmique mentionné au premier alinéa s’assurent de la transparence du fonctionnement de l’outil pour ses utilisateurs.
« Un décret en Conseil d’Etat, pris après avis motivé et publié de la Commission nationale de l’informatique et des libertés, précise les modalités d’application du présent article, notamment la mise en œuvre de l’information du patient, les conditions d’utilisation du traitement algorithmique par les professionnels de santé et celles dans lesquelles la transparence du fonctionnement dudit traitement est assurée par son concepteur. »
Deux projets différents avec néanmoins un point commun : l’obligation pour le professionnel d’informer le patient sur « l’utilisation du traitement algorithmique ». Là encore l’avenir réserve bien des débats sur la qualité et la quantité d’informations à communiquer à des patients qui n’ont pas toujours les capacités de comprendre des professionnels qui, en routine, auront certainement un peu de mal à expliquer dans un temps contraint « sous une forme intelligible la manière dont ce traitement serait mis en œuvre à leur égard ».
En revanche, ce projet ne fait absolument pas évoluer le droit sur des sujets essentiels tels que les responsabilités encourues dans l’hypothèse d’erreurs du système, notamment en cas d’incidents ou de piratage, d’utilisation de fausses données pour entrainer un algorithme, de stockage, de dispositions utiles à assurer la cybersécurité, sur les limites à l’obligation de partage des données non personnelles, sur l’évaluation nouvelle du bénéfice/risque, sur le respect des droits fondamentaux, les règles éthiques et la transparence qui doivent présider à la conception et la mise en œuvre des applications de l’IA.
Que d’intéressantes perspectives et expertises à intervenir ! Le droit de la santé sera nécessairement impacté. Les professionnels de santé et les avocats des professionnels de santé aussi, dans un avenir tout proche.
