Éthique et protection des données dans l’e-santé

SOMMAIRE
Concilier intelligence artificielle et respect de l’éthique
E-santé : le risque d’utilisation malveillante des données patients

Santé : concilier intelligence artificielle et respect de l’éthique

Les avancées de l’IA créent de nouvelles opportunités pour le monde médical, un secteur pour lequel les questions morales et juridiques sont très complexes. Il est donc plus que nécessaire d’encadrer son utilisation et de s’assurer que les considérations déontologiques ont bien été intégrées et respectées, de la conception de l’IA jusqu’à son utilisation dans la prise en charge de patients.

L’IA face à l’égalité des soins

L’utilisation de l’IA en santé est-elle compatible avec la notion d’égalité et l’optimisation de l’accès aux soins pour tous ? Cette question se pose face au caractère technique et coûteux des dispositifs médicaux et les biais possibles des algorithmes. 

Les solutions intégrant l’IA sont généralement utilisées :

• dans de grands centres hospitaliers ou des cabinets de ville 
• par des professionnels de santé plutôt jeunes et formés au numérique

Ces deux facteurs peuvent rapidement engendrer une inégalité dans l’accès aux soins notamment auprès des personnes âgées, des personnes vivant à la campagne ou dans des zones de déserts médicaux et qui ne pourront pas se déplacer vers les grands hôpitaux de ville. 

En outre, les informations avec lesquelles ont été alimentés les dispositifs d’IA doivent faire l’objet d’une attention particulière. En effet, il peut exister un problème de représentativité en fonction de la provenance des données médicales. 

La responsabilité en cas de dysfonctionnement de l’IA spécialisée dans la santé

Déléguer les compétences médicales aux algorithmes revient donc à remettre totalement en cause la responsabilité médicale telle qu’on la connaît aujourd’hui. 

Est-ce que les professionnels de santé pourraient se voir relégués au rang de simples exécutants et le rôle de décideur confié à la machine ? Cela irait totalement à l’encontre de l’article R 4127-5 du code de déontologie médical, d’autant plus que les algorithmes ne sont pas totalement infaillibles.

Mais alors, qui serait responsable en cas d’erreur de diagnostic ? Le médecin traitant ? L’algorithme ? Et par conséquent, son concepteur ? 

Le Comité Consultatif National d’Éthique (CCNE) estime qu’il n’est pas encore judicieux de créer un nouveau régime de responsabilité qui intègrerait l’intelligence artificielle en tant que personnalité juridique. Le Conseil d’État, quant à lui, pense que l’humain reste responsable, étant lui-même à l’origine de la programmation de l’algorithme.

 Le rapport d’information sur la révision de la loi relative à la bioéthique propose :

• “De maintenir le principe d’une responsabilité du médecin, qui, en l’absence de défaut établi de l’algorithme, ne peut être engagée qu’en cas de faute de sa part” 
• “De préciser qu’une faute ne peut être établie du seul fait que le praticien n’aurait pas suivi les recommandations d’un algorithme, quand bien même celles-ci se révéleraient exactes”

E-santé : le risque d’utilisation malveillante des données patients

Applications mobiles et objets connectés

En ce qui concerne les applications mobiles et objets connectés, les données médicales à caractère personnel sont enregistrées lors de l’utilisation de ces appareils. Elles bénéficient d’un régime juridique de protection renforcée, qui fait partie du règlement général sur la protection des données, loi Informatique et Liberté. 

Les données santé collectées par l’IA

L’IA se nourrit d’une multitude de données sur le patient qu’elle centralise sur un serveur ou une machine : celles-ci peuvent provenir de différentes sources comme les applications mobiles ou encore des bases de données nationales comme le SNIRAM. 

Plus les données stockées sont importantes, plus l’intelligence artificielle est en mesure de s’adapter à son environnement et de prendre des décisions similaires à celles d’un professionnel de santé. 

Cette menace pourrait également exister en cas de faille du système d’intelligence artificielle qui permettrait alors un piratage des informations patients.  C’est un sujet qui sera donc au coeur des réflexions futures concernant l’encadrement de l’utilisation de la data par l’IA et la responsabilité médicale.

>En savoir plus : Big data et santé : quels nouveaux outils pour la médecine de demain ?

Sources :
https://www.assemblee-nationale.fr/dyn/15/rapports/bioethique/l15b1572_rapport-information.pdf 
https://imtech.wp.imt.fr/2019/01/15/algorithmes-ethique-sante/ 
https://www.cnil.fr/fr/applications-mobiles-en-sante-et-protection-des-donnees-personnelles-les-questions-se-poser