Bracelets connectés, piluliers intelligents, applications de suivi de pathologies… Pas un jour sans que vous entendiez parler d’intelligence artificielle dans le domaine de la santé ? Si l’intérêt de l’intégration de l’IA dans le monde médical n’est plus à prouver, comment envisager l’éthique et la protection des données face à cette nouvelle donne ? Éléments de réponse.
Concilier intelligence artificielle et respect de l’éthique
E-santé : le risque d’utilisation malveillante des données patients
Les avancées de l’IA créent de nouvelles opportunités pour le monde médical, un secteur pour lequel les questions morales et juridiques sont très complexes. Il est donc plus que nécessaire d’encadrer son utilisation et de s’assurer que les considérations déontologiques ont bien été intégrées et respectées, de la conception de l’IA jusqu’à son utilisation.
L’utilisation de l’IA en santé est-elle compatible avec la notion d’égalité et l’optimisation des soins pour tous ? Cette question se pose face au caractère technique et coûteux des dispositifs médicaux et les biais possibles des algorithmes.
Les solutions intégrant l’IA sont généralement utilisées :
Ces deux facteurs peuvent rapidement engendrer une inégalité dans l’accès aux soins notamment auprès des personnes âgées, des personnes vivant à la campagne ou dans des zones de déserts médicaux et qui ne pourront pas se déplacer vers les grands hôpitaux de ville.
En outre, les informations avec lesquelles ont été alimentés les dispositifs d’IA doivent faire l’objet d’une attention particulière. En effet, il peut exister un problème de représentativité en fonction de la provenance des données.
| L’intelligence artificielle puise, par exemple, régulièrement ses data dans les études cliniques qui sont bien souvent réalisées sur un seul et même type de patient. Les résultats ne sont alors pas forcément extrapolables à la population générale. |
Déléguer les compétences médicales aux algorithmes revient donc à remettre totalement en cause la responsabilité médicale telle qu’on la connaît aujourd’hui.
Est-ce que les médecins pourraient se voir relégués au rang de simples exécutants et le rôle de décideur confié à la machine ? Cela irait totalement à l’encontre de l’article R 4127-5 du code de déontologie médical, d’autant plus que les algorithmes ne sont pas totalement infaillibles.
Mais alors, qui serait responsable en cas d’erreur de diagnostic ? Le professionnel de santé ? L’algorithme ? Et par conséquent, son concepteur ?
Le Comité Consultatif National d’Éthique (CCNE) estime qu’il n’est pas encore judicieux de créer un nouveau régime de responsabilité qui intègrerait l’intelligence artificielle en tant que personnalité juridique. Le Conseil d’État, quant à lui, pense que l’humain reste responsable, étant lui-même à l’origine de la programmation de l’algorithme.
Le rapport d’information sur la révision de la loi relative à la bioéthique propose :
En ce qui concerne les applications mobiles et objets connectés, les données de santé à caractère personnel sont enregistrées lors de l’utilisation de ces appareils. Elles bénéficient d’un régime juridique de protection renforcée, qui fait partie du règlement général sur la protection des données, loi Informatique et Liberté.
Le responsable du traitement de ces data doit donc s’assurer que la confidentialité et la sécurité des informations recueillies sont optimales et garantir que seuls les éléments nécessaires à la finalité de l’application seront étudiés. |
L’IA se nourrit d’une multitude de données sur le patient qu’elle centralise sur un serveur ou une machine : celles-ci peuvent provenir de différentes sources comme les applications mobiles ou encore des bases de données nationales comme le SNIRAM.
Plus les données stockées sont importantes, plus l’intelligence artificielle est en mesure de s’adapter à son environnement et de prendre des décisions similaires à celles d’un soignant.
| Cependant, il est nécessaire de bien encadrer l’utilisation de ces données, car même si elles sont anonymisées et soumises au consentement du patient pour être utilisées, elles courent le risque d’être ré-identifiées par des algorithmes et être éventuellement exploitées à d’autres fins, y compris malveillantes. |
Cette menace pourrait également exister en cas de faille du système d’intelligence artificielle qui permettrait alors un piratage des informations patients. C’est un sujet qui sera donc au coeur des réflexions futures concernant l’encadrement de l’utilisation de la data par l’IA et la responsabilité médicale.
>En savoir plus : Big data et santé : quels nouveaux outils pour la médecine de demain ?
Sources :
https://www.assemblee-nationale.fr/dyn/15/rapports/bioethique/l15b1572_rapport-information.pdf
https://imtech.wp.imt.fr/2019/01/15/algorithmes-ethique-sante/
https://www.cnil.fr/fr/applications-mobiles-en-sante-et-protection-des-donnees-personnelles-les-questions-se-poser
Indispensable pour vous défendre en cas de mise en cause, le contrat RCP-PJ facilite le règlement de vos litiges d'ordre privé ou professionnel.
Les objets connectés, les innovations technologiques, l'introduction de l'IA en santé ont bouleversé les pratiques des professionnels qui doivent...
