Utiliser une IA générative pour comprendre une information de santé est devenu monnaie courante. Mais une réponse claire et convaincante peut être inexacte, voire erronée. Autre écueil : on peut facilement transmettre à l’IA des données confidentielles sans mesurer ce qu’elles deviennent ensuite. Cette facilité d’accès ne dispense donc ni de vérifier ce que l’outil avance, ni de rester prudent avec les données qu’on lui confie.

 

À quoi correspond mon résultat de PSA ? Que veut dire mon compte rendu d’IRM ? Le médicament qu’on m’a prescrit peut-il expliquer cet effet indésirable ? À l’issue d’une consultation, les questions fusent souvent dans la tête du patient. Et l’inquiétude, en l’absence de réponses immédiates, peut rendre l’attente d’un prochain rendez-vous encore plus difficile. L’essor récent de l’IA générative offre désormais des réponses quasi instantanées. En quelques secondes, elle peut expliquer un résultat, éclairer un terme médical et parfois rassurer. « Il y a en effet de plus en plus de patients qui utilisent des outils d’intelligence artificielle pour se renseigner sur leur maladie ou leur traitement », observe le Pr Marie-Aimée Perrouin-Verbe, membre du Comité de neuro-urologie de l’Association française d’urologie.

Cette facilité d’accès a son revers. La clarté de la réponse et l’impression que l’IA s’adresse directement à nous peuvent inciter à lui accorder une confiance excessive. Ses réponses, aussi solides en ont-elles l’air, peuvent être trop générales, inadaptées à une situation particulière, trop catégoriques ou manquer de nuances. Elles peuvent aussi être tout simplement fausses, jusqu’à citer des études qui n’existent pas : c’est ce que l’on appelle une « hallucination ». L’IA générative peut être utile, à condition de ne pas prendre ses réponses pour argent comptant. Ces risques d’erreur tiennent au fonctionnement même de l’outil. Une IA générative produit ses réponses à partir de probabilités, en fonction de la question posée et des données sur lesquelles elle a été entraînée. La Haute Autorité de santé a rappelé au début de l’été, dans une communication destinée au grand public sur le bon usage de l’IA générative, la nécessité de garder ces limites à l’esprit. 

 

Remonter aux sources

Lorsque l’IA cite une étude, une recommandation ou un chiffre pour étayer sa réponse, il est toujours préférable de vérifier directement la source mentionnée. Cela permet de s’assurer qu’elle existe, qu’elle est récente et qu’elle émane d’une source médicale identifiable. Mais seul le médecin peut apprécier la pertinence de cette information pour le patient et ce qu’elle signifie dans sa situation particulière.

Vérifier les sources ne suffit d’ailleurs pas à lever toutes les limites de l’IA. La façon de poser une question influence aussi la réponse obtenue. Une même demande, formulée différemment, peut conduire l’IA à répondre autrement. Cela invite déjà à ne pas prendre une réponse isolée pour acquise.

À cela s’ajoute une autre limite : l’IA ne connaît de la situation du patient que ce qu’on lui indique. Or celui-ci ne sait pas toujours quels éléments sont médicalement déterminants.

 

Des réponses à replacer dans la consultation 

Une IA peut proposer des explications ou des hypothèses à partir de symptômes ou de résultats d’examens. Mais celles-ci ne constituent pas un diagnostic. L’outil ne dispose ni de l’examen clinique ni de l’ensemble des éléments nécessaires pour apprécier une situation individuelle. Une réponse obtenue auprès d’une IA ne permet donc pas, à elle seule, de décider de modifier un traitement, de différer une consultation ou de tirer une conclusion à partir d’un résultat biologique ou d’imagerie.

Le Pr Marie-Aimée Perrouin-Verbe se montre, pour sa part, plus réservée sur le recours à ces outils : « J’explique aux patients qu’il est important de prendre des informations, mais surtout d’en discuter avec nous, car il peut y avoir des sources erronées, mais aussi parfois des raccourcis qui peuvent même conduire à des contresens. Je leur conseille, en général, de ne pas avoir recours à ce type de recherche ou, s’ils le souhaitent absolument, d’en discuter ensuite avec moi en consultation. Je leur remets le plus souvent des documents, notamment de l’Association Française d’Urologie, pour pouvoir appuyer mes arguments. »

La HAS rappelle de son côté que seul un médecin peut établir un diagnostic et prescrire des soins ou un traitement. Les réponses de l’IA peuvent néanmoins fournir un premier niveau d’information et servir de point de départ à l’échange avec lui. Elles peuvent ainsi nourrir le colloque singulier entre le patient et son médecin, cet échange direct et personnel qu’aucun outil ne peut reproduire.