Lors des récentes Assises de l’eSanté, plusieurs experts ont expliqué les règles qui encadrent l’utilisation de l’intelligence artificielle en santé. Les médecins doivent respecter certains principes. Dans la réalité quotidienne, cela ne semble pas toujours être le cas. Une recommandation simple : se mettre à la place du patient. 

Pour cette 8e édition des Assises de l’eSanté, organisée par Vivalia et la Province du Luxembourg, l’utilisation pratique de l’IA par les patients a été au centre des discussions. Près de 400 participants, en ligne ou en présentiel, ont eu l’occasion de réfléchir à la manière dont ils utilisent l’IA au quotidien.

Le Dr Tatiana Revenco, experte en protection des données dans le secteur de la santé et des sciences de la vie, et Matteo Capriulo, avocat au Bareau de Bruxelles et chercheur à l’UMONS, ont mis en garde les participants contre les 7 pièges concrets à éviter lorsqu’on on utilise l’IA en santé.

1. Utiliser ChatGPT ou un LLM grand public (une intelligence artificielle spécialisée dans la compréhension et la génération de texte, NDLR) avec des données des patients, par exemple, les noms et date de naissance,  

2. Croire que le marquage CE suffit à la conformité avec l’AI Act, 

3. Confondre les règles RGPD et l’AI Act. Ces règlements ne sont pas substituables. Ils s’additionnent, 

4. Signer un compte-rendu automatisé par l’IA sans une réelle relecture,

5. Omettre d’informer le patient de l’usage de l’IA,

6. Laisser les logs (fichiers) hors du contrôle du déployeur (l’organisation (entreprise, organisme public) qui utilise un système d'IA dans un cadre professionnel sous sa propre autorité, NDLR.)

7. Faire de la formation en IA un événement ponctuel et non continu.

Les deux experts ont insisté particulièrement sur les risques liés à l’utilisation de ChatGPT avec des données sensibles, à la non-relecture d’un compte-rendu et au manque de formation en IA. Les soignants et les institutions de soins risquent d’être poursuivies en justice si elles ne respectent pas ces règles de base.

Validation humaine systématique

Le Pr Christian Melot, vice-président francophone de l’Ordre national des médecins, a pointé les limites de l’IA tout en reconnaissant son utilité indéniable (diagnostic, analyse, comparaison…) tant pour les médecins que pour les patients. « Malgré leurs performances, les outils d’Intelligence Artificielle appliqués à la santé présentent plusieurs limites importantes. Les professionnels de santé doivent notamment rester vigilants concernant la confidentialité des données médicales; la conformité au RGPD; l’hébergement des données de santé (HDS); les risques d’erreurs ou d’informations inexactes; la responsabilité médicale; la nécessité d’une validation humaine systématique. Une IA peut produire une réponse cohérente mais incorrecte. Les informations générées doivent toujours être vérifiées par un professionnel qualifié. »   

Le Pr Melot a rappelé qu’un patient peut refuser l’utilisation de l’IA dans sa prise en charge. Ce refus doit être respecté par le praticien. 

Obligation d’informer

Philippe Deleuse, directeur médical du site de Marche de Vivalia, a souligné que son service de radiologie mentionne le recours à l’IA dans les protocoles de radiologie.

Le Dr Tatiana Revenco avance une solution simple : informer les patients via des affiches disposées dans les salles d’attente que l’IA est utilisée dans la prise en charge.  

Pour éviter des malentendus, l’experte conseille également aux patients de poser 5 questions aux médecins: une intelligence artificielle intervient-elle dans ma prise en charge ? ; qui prend la décision, le médecin ou la machine ? ; pouvez-vous m’expliquer ce que fait l’outil IA ?;  que deviennent mes données, sont-elles partagées ou réutilisées et que se passe-t-il si je refuse l’usage de l’IA pour moi ?

Se mettre à la place du patient

Le Dr Revenco invite les soignants à se mettre à la place du patient. « Si j’étais le patient, saurais-je qu’une IA intervient dans ma prise en charge, pourrais-je obtenir une explication compréhensible du rôle de l’IA, accepterais-je que mes données alimentent ce système et ferais-je confiance à la surveillance humaine exercée ? » 

Vous êtes-vous déjà posé ces questions essentielles ? Avez-vous déjà dû répondre à ce type de questions de la part de vos patients ? Il faut sans doute vous préparer à le faire dans un avenir proche.

> Cette édition des Assises de l’eSanté sera bientôt disponible sur notre plateforme www.braintop.be dans un programme accrédité par l’Inami.

Lire aussi : L’IA au cœur des pratiques lors des 8èmes Assises de l’eSanté