Éthique et protection des données dans l’e-santé

Le 16.02.2021 par MACSF
Partager sur Facebook Partager sur Twitter Partager sur LinkedIn
Les données avec lesquelles ont été alimentés les dispositifs d’IA doivent faire l’objet d’une attention particulière.

Bracelets connectés, piluliers intelligents, applications de suivi de pathologies… Pas un jour sans que vous entendiez parler d’intelligence artificielle dans le domaine de la santé ? Si l’intérêt de l’intégration de l’IA dans le monde médical n’est plus à prouver, comment envisager l’éthique et la protection des données face à cette nouvelle donne ? Éléments de réponse.

Sommaire

Concilier intelligence artificielle et respect de l’éthique
E-santé : le risque d’utilisation malveillante des données patients

Concilier intelligence artificielle et respect de l’éthique

Les avancées de l’IA créent de nouvelles opportunités pour le monde médical, un secteur pour lequel les questions morales et juridiques sont très complexes. Il est donc plus que nécessaire d’encadrer son utilisation et de s’assurer que les considérations déontologiques ont bien été intégrées et respectées, de la conception de l’IA jusqu’à son utilisation.

L’IA face à l’égalité des soins

L’utilisation de l’IA en santé est-elle compatible avec la notion d’égalité et l’optimisation des soins pour tous ? Cette question se pose face au caractère technique et coûteux des dispositifs médicaux et les biais possibles des algorithmes. 

Les solutions intégrant l’IA sont généralement utilisées :

  • dans de grands centres hospitaliers ou des cabinets de ville 
  • par des médecins plutôt jeunes et formés au numérique

Ces deux facteurs peuvent rapidement engendrer une inégalité dans l’accès aux soins notamment auprès des personnes âgées, des personnes vivant à la campagne ou dans des zones de déserts médicaux et qui ne pourront pas se déplacer vers les grands hôpitaux de ville. 

En outre, les informations avec lesquelles ont été alimentés les dispositifs d’IA doivent faire l’objet d’une attention particulière. En effet, il peut exister un problème de représentativité en fonction de la provenance des données. 

L’intelligence artificielle puise, par exemple, régulièrement ses data dans les études cliniques qui sont bien souvent réalisées sur un seul et même type de patient. Les résultats ne sont alors pas forcément extrapolables à la population générale.

La responsabilité en cas de dysfonctionnement de l’IA

Déléguer les compétences médicales aux algorithmes revient donc à remettre totalement en cause la responsabilité médicale telle qu’on la connaît aujourd’hui. 

Est-ce que les médecins pourraient se voir relégués au rang de simples exécutants et le rôle de décideur confié à la machine ? Cela irait totalement à l’encontre de l’article R 4127-5 du code de déontologie médical, d’autant plus que les algorithmes ne sont pas totalement infaillibles.

Mais alors, qui serait responsable en cas d’erreur de diagnostic ? Le professionnel de santé ? L’algorithme ? Et par conséquent, son concepteur ? 

Le Comité Consultatif National d’Éthique (CCNE) estime qu’il n’est pas encore judicieux de créer un nouveau régime de responsabilité qui intègrerait l’intelligence artificielle en tant que personnalité juridique. Le Conseil d’État, quant à lui, pense que l’humain reste responsable, étant lui-même à l’origine de la programmation de l’algorithme.

 Le rapport d’information sur la révision de la loi relative à la bioéthique propose :

  • “De maintenir le principe d’une responsabilité du médecin, qui, en l’absence de défaut établi de l’algorithme, ne peut être engagée qu’en cas de faute de sa part” 
  • “De préciser qu’une faute ne peut être établie du seul fait que le praticien n’aurait pas suivi les recommandations d’un algorithme, quand bien même celles-ci se révéleraient exactes”

E-santé : le risque d’utilisation malveillante des données patients

Applications mobiles et objets connectés

En ce qui concerne les applications mobiles et objets connectés, les données de santé à caractère personnel sont enregistrées lors de l’utilisation de ces appareils. Elles bénéficient d’un régime juridique de protection renforcée, qui fait partie du règlement général sur la protection des données, loi Informatique et Liberté

Le responsable du traitement de ces data doit donc s’assurer que la confidentialité et la sécurité des informations recueillies sont optimales et garantir que seuls les éléments nécessaires à la finalité de l’application seront étudiés.

Les données collectées par l’IA

L’IA se nourrit d’une multitude de données sur le patient qu’elle centralise sur un serveur ou une machine : celles-ci peuvent provenir de différentes sources comme les applications mobiles ou encore des bases de données nationales comme le SNIRAM

Plus les données stockées sont importantes, plus l’intelligence artificielle est en mesure de s’adapter à son environnement et de prendre des décisions similaires à celles d’un soignant. 

Cependant, il est nécessaire de bien encadrer l’utilisation de ces données, car même si elles sont anonymisées et soumises au consentement du patient pour être utilisées, elles courent le risque d’être ré-identifiées par des algorithmes et être éventuellement exploitées à d’autres fins, y compris malveillantes.

Cette menace pourrait également exister en cas de faille du système d’intelligence artificielle qui permettrait alors un piratage des informations patients.  C’est un sujet qui sera donc au coeur des réflexions futures concernant l’encadrement de l’utilisation de la data par l’IA et la responsabilité médicale.

>En savoir plus : Big data et santé : quels nouveaux outils pour la médecine de demain ?

Sources :
https://www.assemblee-nationale.fr/dyn/15/rapports/bioethique/l15b1572_rapport-information.pdf 
https://imtech.wp.imt.fr/2019/01/15/algorithmes-ethique-sante/ 
https://www.cnil.fr/fr/applications-mobiles-en-sante-et-protection-des-donnees-personnelles-les-questions-se-poser

Partager sur Facebook Partager sur Twitter Partager sur LinkedIn
Solutions
RCP-PJ

Indispensable pour vous défendre en cas de mise en cause, le contrat RCP-PJ facilite le règlement de vos litiges d'ordre privé ou professionnel.

La communauté MACSF

Un forum avec des professionnels de santé prêts à échanger sur vos pratiques professionnelles, votre mode d’exercice ou votre matériel…

Solliciter la communauté

L'application MACSF

Accédez à votre espace personnel et toutes ses fonctionnalités sur votre mobile !

Les newsletters

Recevez toute l’actualité sur votre profession/spécialité ainsi que nos offres dédiées.

S'abonner