Utilisation de ChatGPT : quels risques pour la sécurité des données et le secret médical ?

IA : des applications possibles pour les professionnels de santé

Le robot conversationnel ChatGPT a été mis à la disposition du grand public fin 2022, et s’est accompagné d’une petite révolution des pratiques : la santé n’a pas fait exception.

Depuis, d’autres IA génératives ont fait leur apparition avec, parmi les plus connues, Bard (Google), Bing Chat (Microsoft) ou encore Bloom, une IA française, en open source, qui offrirait une bonne protection en matière de confidentialité des données.

Utilisant l’intelligence artificielle - et plus particulièrement l’apprentissage automatique - pour générer du texte et « dialoguer » avec ses utilisateurs, ces logiciels ouvrent des perspectives intéressantes aux pros de santé.

Une aide au diagnostic

L’IA générative pourrait à moyen terme constituer une aide à la pratique en permettant au médecin d’affiner son diagnostic. Le robot pourrait, par exemple, analyser les symptômes des patients et les croiser avec des résultats d’examens pour conforter ou préciser un diagnostic. 

C’est en tout cas ce que révèle une étude menée auprès d’un service d’urgence aux Pays-Bas, où ChatGPT a réalisé de bons diagnostics. En étudiant les antécédents des patients, leurs résultats d’examens et les observations des médecins, l’IA devait fournir cinq résultats possibles. Le bon diagnostic figurait dans la liste dans 97 % des cas.

Cette pratique nécessite toutefois de vérifier les réponses et les sources des informations fournies par l’IA, car en cas d’erreur, le praticien reste responsable.

Un relais dans la gestion administrative

Les robots pourraient être également utilisés pour réduire la gestion chronophage des tâches administratives et faire gagner un temps précieux aux soignants. Les applications pour les pros de santé seraient alors diverses :

• Une aide pour la prise de rendez-vous et la gestion de l’agenda en effectuant un premier tri des patients selon leurs symptômes et leurs antécédents ; 
• La rédaction d’ordonnances ; 
• Le suivi et l’organisation des dossiers patients via une aide à la rédaction des comptes rendus ; 
• La rédaction de courriers pour adresser les patients à des confrères.
  
  Par exemple, la start-up française, Nabla a lancé en mars 2023 un assistant médical virtuel, « Nabla Copilot » basé sur le modèle GPT3 d’Open AI. Accessible via un abonnement, cet outil génère automatiquement des comptes rendus pendant les consultations avec vos patients, au cabinet et en téléconsultation, en utilisant le micro de votre ordinateur. Les données (audio et comptes rendus) ne sont pas stockées par l’application, ce qui permet à Nabla de garantir la confidentialité des échanges.

IA : quelles limites en termes de confidentialité ?

L’utilisation de l’IA par les professionnels de santé demande toutefois une grande vigilance, notamment pour la rédaction de comptes-rendus médicaux incluant l’identité des patients.
 
L’IA enregistre en effet toutes les transcriptions de vos « conversations » et les stocke. Cela concerne également les données personnelles, privées ou confidentielles, que vous lui fournissez, telles que les noms et coordonnées de vos patients (ou les vôtres), et toutes les données relatives à leurs pathologies et à leur dossier médical.
 
De nombreux exemples de fuites de données dues à l’utilisation de ChatGPT ont défrayé la chronique ces derniers mois. Parmi les exemples les plus connus, des salariés de Samsung ont involontairement fait fuiter des données sensibles de l’entreprise en utilisant l’IA conversationnelle dans le cadre de leur travail. Depuis, Samsung a interdit l’utilisation de ChatGPT à ses collaborateurs, à l’instar d’autres multinationales telles qu’Amazon ou Apple, par exemple.
 
La confidentialité et la protection des données des patients constituent ainsi les principaux écueils dans l’utilisation de ces logiciels. Vous devez donc adopter une approche responsable en matière de santé afin de garantir le respect du secret médical.

Par exemple, si vous évoquez le cas d’un patient A, pris en charge dans votre hôpital pour une fracture du bras, ces informations ne sont plus privées et peuvent être utilisées par l’IA en réponse à une future requête.
 

Confidentialité des données de santé et IA : quelles bonnes pratiques ?

Malgré ces points de vigilance, certaines bonnes pratiques permettent d’utiliser les robots conversationnels en limitant les risques.

• Évitez de renseigner des éléments permettant d’identifier vos patients ou permettant de vous identifier (nom, coordonnées, numéro de sécurité sociale…). Le fait d’anonymiser les données personnelles reste à ce jour le moyen le plus sûr de les protéger.
• Désactivez « l’historique de chat et formation » du logiciel. Vos conversations ne seront ainsi pas utilisées pour entraîner et améliorer l’IA. Elles peuvent toutefois être conservées par certaines IA, qui peuvent y avoir librement accès. 
• Si vous exercez au sein d’une maison ou d’un centre de santé, veillez également à sensibiliser vos collègues et votre secrétariat à une utilisation responsable de l’IA.
• Au même titre que le piratage et les virus informatiques, la fuite des données fait partie des risques numériques qui peuvent mettre à mal votre activité professionnelle. Vous pouvez vous protéger avec l’assurance cyber-risques de la MACSF.
• Veillez également à préserver votre activité grâce à l’assurance responsabilité civile professionnelle, qui vous protège en cas de mise en cause par un patient.