IA : révolution des cas d'usage et impact sur la responsabilité médicale

Le 22.02.2021 par David GRUSON
Partager sur Facebook Partager sur Twitter Partager sur LinkedIn
Représentation de plusieurs formes d'IA en santé

Le contexte de crise sanitaire Covid-19 est caractérisé par une accélération de la transformation digitale de notre système de santé. Ce mouvement avait été, en réalité, initié antérieurement avec, en particulier, la véritable révolution des cas d’usage constatée dans le domaine du recours à l’intelligence artificielle en santé.

Un focus sur le domaine de la prise en charge du cancer permet de la comprendre concrètement. Pour autant, cette transformation profonde peut, à ce stade, être appréhendée dans le cadre de régimes juridiques de responsabilité plutôt stables.

Ce constat d’ensemble n’empêche pas de mettre en exergue le besoin d’une adaptation prospective au regard des effets distorsifs pour ces régimes de responsabilité, causé par la diffusion de nouvelles solutions d’intelligences artificielles auto-apprenantes.

Sommaire

L'intelligence artificielle en santé : une révolution des cas d'usage >
IA et responsabilité médicale : entre stabilité globale et besoin d'adaptation prospective >

L'intelligence artificielle en santé : une révolution des cas d'usage

Les perspectives susceptibles d’être ouvertes par la vague actuelle de diffusion de l’IA et de la robotisation en santé sont absolument vertigineuses.

Le rapport Villani sur l’intelligence artificielle de 20181 fait ainsi valoir que :

"L’intelligence artificielle en santé ouvre des perspectives très prometteuses pour améliorer la qualité des soins au bénéfice du patient et réduire leur coût – à travers une prise en charge plus personnalisée et prédictive – mais également leur sécurité – grâce à un appui renforcé à la décision médicale et une meilleure traçabilité. Elle peut également contribuer à améliorer l’accès aux soins des citoyens, grâce à des dispositifs de prédiagnostic médical ou d’aide à l’orientation dans le parcours de soins."

L’exemple de la prise en charge du cancer permet de mesurer concrètement cette véritable révolution des cas d’usage.

Les possibilités de progrès dans le domaine de la prise en charge du cancer ouvertes par l’intelligence artificielle sont, en effet, tout à fait considérables.

En 2016, Microsoft a ainsi annoncé l’engagement de plusieurs programmes d’IA visant à assister les cancérologues. Ces programmes portent sur le traitement des données de recherche disponibles ou mettent en jeu des dispositifs plus opérationnels comme l’analyse massive des clichés de tumeurs.

Radiothérapie

L'entreprise britannique DeepMind, spécialisée dans l'intelligence artificielle, souhaite, quant à elle, utiliser l’IA pour diminuer le temps nécessaire à la préparation des traitements par radiothérapie, en ciblant de façon plus précise la zone à traiter.

Cancer du sein

Des chercheurs du MIT (Massachusetts Institute of Technology) se sont concentrés, quant à eux, sur la conception d’une IA capable d’identifier les métastases dans les ganglions lymphatiques susceptibles d’évoluer en cancer du sein.

Les algorithmes ont permis de diagnostiquer correctement 97 % des cancers nécessitant une intervention avec à la clé une réduction de 30 % du nombre d’opérations.

Dans ce même domaine du cancer du sein, une étude récemment publiée par le Journal of American Medical Association2 montre bien les perspectives ouvertes dans le cadre d’un essai clinique. Les chercheurs ont apprécié la performance de l’IA pour détecter les métastases dans les ganglions lymphatiques de patientes. Puis, ils ont mis en perspective ces résultats avec les diagnostics réalisés par onze médecins. Au total, l’IA a, dans certaines situations, obtenu de meilleurs résultats que les intervenants humains.

La France est également très présente dans ce champ. La société française Therapixel s’est ainsi distinguée lors de plusieurs concours internationaux avec notamment une première place au Digital Mammography Challenge.

Sa solution permet de repérer précocement les zones à risques tumoraux à partir d’un traitement massif par IA de clichés d’imagerie médicale. Therapixel choisit alors de se lancer avec des projets concrets, en postulant à deux concours internationaux.

Enjeu de santé publique majeur, le dépistage du cancer du sein est handicapé par l’existence de nombreux faux positifs que l’intelligence artificielle est en mesure de réduire, améliorant sensiblement la fiabilité des résultats, le coût de l’examen et l’efficacité de la prise en charge.

Immunothérapie

Une étude publiée dans la prestigieuse revue médicale Lancet à partir des travaux de chercheurs de l’Institut Gustave Roussy, de l’Inserm, de l’Université Paris-Sud et de la start-up TheraPanacea a montré les avancées possibles dans le domaine de l’immunothérapie.

Ces chercheurs ont, en effet, entraîné une intelligence artificielle à prédéterminer les chances de ce traitement contre le cancer à partir d’une analyse massive d’images de scanner.

Cette technique permettrait notamment, dans certains cas, d’éviter le recours – qui peut être à risques – à la biopsie3.

Cancer de l'intestin

Au Japon, l’équipe du Pr Yuichi Mori, spécialiste de la coloscopie, a mis au point un logiciel capable de détecter le cancer de l’intestin en moins d’une seconde.

L’algorithme associe une base de 30 000 images de cellules précancéreuses et cancéreuses avec une image d’un polype (tumeur bénigne sur les muqueuses) grossie 500 fois pour lui permettre d’observer ses différentes variations.

Les premiers résultats sont significatifs : sur 306 polypes, le diagnostic posé par l’IA a atteint un niveau de précision de 86 %.

Cancer de la peau

Des chercheurs de l’université Stanford se sont, quant à eux, focalisés sur le cancer de la peau. Les résultats de l’IA ont pu être comparés avec ceux obtenus par 21 dermatologues.

L’IA a atteint un taux de repérage de 96 % contre 95 % pour les tumeurs malignes et de 90 % contre 76 % pour les masses bénignes.

Cancer du poumon

La start-up française Optellum élabore une intelligence artificielle destinée à diagnostiquer le cancer du poumon à partir d’une analyse des amas de cellules sur des images de scanners.

L’ambition affichée est le repérage de 4 000 cancers du poumon par an, avant même tout regard médical.

Mélanome

Le renforcement de l’efficacité du diagnostic du mélanome constitue également un champ majeur de développement de l’intelligence artificielle en santé.

En 2017, une équipe américaine avait déjà communiqué des résultats très importants à ce sujet dans Nature4. Une publication germano-franco-américaine très récente dans Annals of Oncology5 confirme l’ampleur des progrès susceptibles d’être réalisés.

Les chercheurs ont entraîné un algorithme d’IA pour distinguer lésions de la peau et grains de beauté, à partir d’une banque de 100 000 images, puis les résultats obtenus ont été comparés à ceux de diagnostiqueurs humains.

En moyenne, les dermatologues ont pu correctement diagnostiquer 87 % des mélanomes. Avec des images agrandies et des renseignements plus détaillés (âge et sexe du patient, position de la lésion cutanée…), le taux de bon diagnostic humain atteignait 89 %.

L’IA est, quant à elle, parvenue à détecter 95 % des mélanomes à partir de la première série d’images et sans précisions complémentaires6.

IA et responsabilité médicale : entre stabilité globale et besoin d'adaptation prospective

L'homme ou la machine : à qui la faute ?

La question de l’impact de l’intelligence artificielle sur les régimes de responsabilité des professionnels fait actuellement l’objet de tous les fantasmes.

Pour répondre à la révolution technologique, il faudrait d’urgence mettre en place un cadre autonome de responsabilité des robots ou de l’intelligence artificielle. Sur cette question comme sur d’autres enjeux associés à l’intelligence artificielle en santé, il me semble surtout urgent de prendre un peu de recul pour mesurer la portée exacte des évolutions en cours.

À ce stade, les risques de déstabilisation des régimes de responsabilité et des conditions d’exercice des professionnels de santé associés à une surcréativité juridique surpassent nettement l’intérêt de répondre à un "vide" juridique aujourd’hui encore théorique.

En réalité, l’appréhension par le droit de l’impact de l’action des machines – et même des robots – sur notre santé ne constitue pas réellement une question juridique nouvelle.

Ce n’est pas le lieu de revenir sur les origines de la responsabilité du fait des choses et son passage à une échelle de traitement beaucoup plus large avec le développement du machinisme dans la deuxième partie du XIXe siècle. Mais on peut rappeler très rapidement le cadre général posé par la Cour de cassation avec l’arrêt Jand’heur7 :

  • La responsabilité est rattachée à la garde de la chose et non à la chose elle-même.
  • Le gardien est soumis à une présomption de responsabilité.
    Dans ces conditions, ce dernier peut s’exonérer en prouvant qu’il n’a pas commis de faute personnelle et seule la cause étrangère peut exercer cet effet exonératoire.

Ces règles générales, qui trouveront leur ancrage dans le Code civil à l’ancien article 1384 (aujourd'hui article 1242), se complètent de régimes spéciaux de responsabilité dont celui relatif aux produits défectueux, issu d’une directive communautaire du 25 juillet 1985 transposée – tardivement – dans notre droit par une loi du 19 mai 1998.

Nous savons que l’acception retenue pour les "produits" est particulièrement large, ce qui permet d’intégrer des productions robotiques ou algorithmiques.

L'émergence des nouvelles générations d'IA

Ce système de responsabilité est largement utilisé dans la jurisprudence relative à la responsabilité du fait des robots.

Ces principes juridiques peuvent continuer à s’appliquer pertinemment, y compris s’agissant des derniers développements de la mécatronique, qui a connu des avancées majeures depuis le début des années 2000.

La robotisation autorise des interventions chirurgicales en reproduisant les étapes d’une opération classique mais de manière moins invasive pour le patient. Le plus développé des systèmes a longtemps été le robot Da Vinci.

De nouvelles générations à base d’intelligence artificielle sont en train d’émerger, avec une autonomisation accrue par rapport au chirurgien. C’est le cas de Star (pour Smart Tissue Autonomous Robot), un robot qui ne se substitue pas complètement aux chirurgiens spécialisés mais met à leur disposition un outil capable d’une plus grande précision dans la réalisation de certains gestes comme les sutures8.

Même pour ces robots de dernière génération, le "gardien de la chose" ne change pas et les régimes classiques de responsabilité peuvent donc trouver à s’appliquer.

Les dispositifs de la "vieille" responsabilité du fait des choses et de la responsabilité du fait des produits défectueux sont donc largement restés fonctionnels pour absorber le contentieux associé à la rupture technologique de la robotisation9.

L’émergence d’une nouvelle génération d’IA et de robots fait apparaître une nouvelle dimension à cette problématique dans le domaine de la santé.

Les caractéristiques de la nouvelle génération d’intelligences artificielles perturbent le régime juridique applicable à la réparation des dommages.

Deux évolutions majeures sont à mettre en exergue à cet égard.

Les intelligences artificielles "apprenantes"

Tout d’abord, l’apparition d’IA "apprenantes" peut conduire à rendre inopérant le régime de responsabilité des produits défectueux.

En effet, la notion de risque de développement constitue un motif d’exonération de responsabilité. Il s’agit d’un risque découlant de produits défectueux que l’on ne pouvait déterminer, au moment de la conception du produit, au vu de l’état des connaissances scientifiques et techniques10.

Nous pourrions tout à fait être dans cette situation dans le cas de dommages causés par des développements "autogénérés" par l’IA au-delà de sa programmation initiale, à partir d’un raisonnement par inférence. Les premières applications pratiques d’IA dans le domaine de la santé ont montré que ces possibilités de dommages n’étaient pas du tout théoriques et sans doute appelées à se développer significativement.

La notion de "garde" de la chose

Elle apparaît de plus en plus évanescente s’agissant de l’IA.

Jusqu’ici, nous pouvions penser que les robots et l’IA n’agissaient sur nos corps, dans le domaine sanitaire et médico-social, que sous la direction, sous la "garde", d’un être humain.

Le rapport est actuellement en phase d’inversion : les IA peuvent devenir plus efficaces que les humains pour assurer la santé de nos corps.

Cette rupture d’efficacité va sans doute jusqu’à brouiller les approches classiques permettant de distinguer l’Homme de la Machine.

Répartition des dommages : une réflexion nécessaire

Une réflexion générale sur l’organisation des régimes de responsabilité des professionnels peut être engagée compte tenu de l’évolution engagée sur la période récente et tenant à l’émergence de régimes laissant une place de plus en plus réduite à la notion de faute des équipes médicales et paramédicales.

Le déploiement de l’objet IA peut donc trouver un "crantage" dans cette organisation générale en faisant apparaître une nouvelle catégorie de régimes d’indemnisation de dommages ne procédant pas directement de l’action des professionnels eux-mêmes.

Il ne s’agirait donc pas d’une véritable novation juridique mais plutôt de l’achèvement d’un processus conduisant à une progressive mise à l’écart de la notion de faute des professionnels dans les régimes de responsabilité médicale et paramédicale.

En faisant un peu de "jurisprudence-fiction", on peut tout à fait imaginer que la Cour de cassation finisse par procéder, en la matière, comme elle l’avait fait avec l’arrêt Desmares11 en matière d’accident de la circulation : rendre un arrêt méconnaissant jusqu’à l’absurde la nécessité de réparation d’un dommage causé par une IA en santé pour susciter une intervention du législateur visant à instituer un régime no fault.

Se poserait alors lourdement la question de l’assise d’un tel régime de réparation des dommages causés aux corps du fait de l’IA. Il est permis de penser, vu l’ampleur possible du sujet, que la seule solidarité nationale n’y suffirait pas. Des schémas de mutualisation plus large, au niveau européen et peut-être international, seraient sans doute à envisager. Un travail de concertation en ce sens est d’ailleurs déjà en cours à l’initiative des instances communautaires.

Pour aller plus loin
> Consulter notre dossier "Tout savoir sur l'e-santé : innovation, objets connectés, Intelligence Artificielle (IA)"

Notes

1- Rapport remis par le député Cédric VILLANI chargé d’une mission sur l’intelligence artificielle en santé à la demande du Gouvernement / https://www.enseignementsup-recherche.gouv.fr/cid128577/rapport-de-cedric-villani-donner-un-sens-a-l-intelligence-artificielle-ia.html.
2- Babak Ehteshami Bejnordi et alii, "Diagnostic Assessment of Deep Learning Algorithms for Detection of Lymph Node Metastases in Women With Breast Cancer", 12 décembre 2017.
3- R. SUN et alii, "A radiomics approach to assess tumour-infiltrating CD8 cells and response to anti-PD-L1 immunotherapy : an imaging biomarker, retrospective multicohort study", Lancet, vol 19, issue 19, September 01, 2018.
4- Andre Esteva et alii, "Dermatologist-Level Classification of Skin Cancer With Deep Neural Networks", Nature, vol. 542, 2 février 2017.
5- Holger Haenssle et alii, "Man Against Machine : Diagnostic Performance of a Deep Learning Convolutional Neural Network for Dermoscopic Melanoma Recognition in Comparison to 58 Dermatologists", Annals of Oncology, 28 mai 2018.
6-"Une intelligence artificielle capable de reconnaître le mélanome avec 95 % d’efficacité", Sciences et avenir et AFP, 29 mai 2018.
7- Cass., Ch. réunies, 13 février 1930.
8- Azad Shademan, Ryan S. Decker, Justin D. Opfermann, Simon Leonard, Axel Krieger et Peter C. W. Kim, "Supervised Autonomous Robotic Soft Tissue Surgery", Science Translational Medicine, 8(137), 4 mai 2016.
9- Grégoire Loiseau et Matthieu Bourgeois, "Du robot en droit à un droit des robots", JCP G, 2014, dotr., 1231/Julie Prost, "Quelle responsabilité pour les robots demain ?", www.village-justice.com, 25 avril 2017.
10- Pascal Oudot, "Le Risque de développement", Éditions universitaires de Dijon, 2005.
11- Civ. 2e, 21 juillet 1982.

Bibliographie de l'auteur

David Gruson est l’auteur de "S.A.R.R.A. une intelligence artificielle", premier polar bioéthique sur l’IA en santé paru en juin 2018 aux Éditions Beta Publisher et dont la suite "S.A.R.R.A. une conscience artificielle" vient de paraître. Il a également écrit "La Machine, le Médecin et Moi", ouvrage de synthèse sur le développement de l’IA en santé paru en novembre 2018 aux Éditions de l’Observatoire et est co-auteur de "La Révolution du pilotage des données de santé" paru en mai 2019 aux Éditions Les Études Hospitalières.

Partager sur Facebook Partager sur Twitter Partager sur LinkedIn
David Gruson
L’auteur

David GRUSON

Ancien élève de l’École nationale d’administration et de L’École des hautes études en santé publique, David GRUSON est Directeur du Programme Santé du Groupe Jouve, spécialisé sur la transformation digitale. Il a exercé plusieurs postes à responsabilité dans les domaines des politiques publiques et de la santé. Il a, en particulier, été conseiller du Premier ministre chargé de la santé et de l’autonomie (2010-2012) et directeur général du Centre hospitalier universitaire de La Réunion (2012-2016).

Professeur à la Chaire santé de Sciences Po Paris, il est le fondateur d’Ethik-IA dont les propositions sur l’IA en santé ont inspiré le volet intelligence artificielle de la révision de la loi de la bioéthique qui vient d’être votée au Parlement.

Les solutions MACSF
RCP-PJ

Indispensable pour vous défendre en cas de mise en cause, le contrat RCP-PJ facilite le règlement de vos litiges d'ordre privé ou professionnel.

Aide à la prescription Synapse

Aide offerte durant toute la durée de l'internat : Synapse est une plateforme de Médication Intelligence pour sécuriser les prescriptions en quelques clics.

À lire aussi

Tout savoir sur l’e-santé : innovation, objets connectés, IA (intelligence artificielle)

Les objets connectés, les innovations technologiques, l'introduction de l'IA en santé ont bouleversé les pratiques des professionnels qui doivent...

La communauté MACSF

Un forum avec des professionnels de santé prêts à échanger sur vos pratiques professionnelles, votre mode d’exercice ou votre matériel…

Solliciter la communauté

L'application MACSF

Accédez à votre espace personnel et toutes ses fonctionnalités sur votre mobile !

Les newsletters

Recevez toute l’actualité sur votre profession/spécialité ainsi que nos offres dédiées.

S'abonner