1. Faire parler les données entre elles

Une prescription ne repose pas uniquement sur le choix d’un médicament.

Le professionnel doit tenir compte de nombreux éléments : traitements déjà suivis, antécédents, résultats biologiques, fonction rénale, grossesse ou comorbidités.

Ces informations sont souvent dispersées entre des ordonnances, des comptes rendus, des PDF, des images et plusieurs logiciels. Elles ne sont pas toujours structurées de la même manière.

« La première chose à réussir, c’est de normaliser les connaissances sur le patient et sur les médicaments, pour faire en sorte que l’ensemble de ces données parlent entre elles. »⁠⁠

C’est l’un des premiers apports concrets de l’IA. Elle peut lire différents documents et comprendre le sens du contenu pour reconnaître une pathologie, un médicament ou un effet secondaire, puis rattacher ces informations à des terminologies médicales communes.

Ce travail est peu visible. Il est pourtant essentiel. Avant de produire une recommandation, encore faut-il avoir compris correctement les données disponibles. L’IA permet de passer du monde syntaxique ; reconnaître des mots clefs par exemple ; au monde sémantique qui analyse le sens du contenu médical et crée des liens logiques entre les termes. 

Ce que je retiens, c’est que la valeur de l’IA commence souvent avant la décision. Elle réside d’abord dans sa capacité à rendre les informations médicales compréhensibles et comparables.

2. Une réponse plausible n’est pas toujours fiable

J’ai ensuite posé à Emmanuel une question assez directe : peut-on faire confiance à l’IA ? Sa réponse l’a été tout autant.

« Est-ce qu’on peut faire confiance à l’IA ? La réponse est non. »

Cette phrase ne signifie pas que l’IA n’a pas sa place dans la prescription médicale. Elle rappelle qu’un modèle d’IA générative fonctionne de manière probabiliste : il produit la réponse ou le contenu qui lui paraît la plus vraisemblable à partir des informations disponibles.

« L’IA est probabiliste. L’algorithme qui vérifie la prescription est déterministe. C’est une différence importante à comprendre. »⁠⁠

Un système probabiliste peut formuler une réponse cohérente même lorsqu’il lui manque une information essentielle. Il ne signale pas toujours qu’il ne dispose pas de suffisamment de contexte pour répondre.

« Dans l’IA, il y a toujours une réponse, quoi qu’il arrive. »

Un système déterministe suit une logique différente. À partir des mêmes données et des mêmes règles, il produit un résultat prévisible et reproductible. Il peut aussi être conçu pour ne pas fournir de recommandation lorsqu’une information nécessaire est absente.

En conclusion, « nous ne pouvons pas faire confiance à l'IA seule et autonome, mais nous pouvons faire confiance à un système médical augmenté par l'IA, à condition que chaque action soit transparente, vérifiable, et que la décision finale reste celle du soignant »⁠.

Dans le fonctionnement présenté par Emmanuel, l’IA intervient en amont pour lire, extraire et structurer les données médicales. La vérification de la prescription repose ensuite sur des composants déterministes, qui appliquent des règles médicales précises. 

Posos propose notamment des API d’aide à la décision clinique certifiées CE de classe IIb. Elles peuvent croiser une prescription avec plusieurs éléments du profil patient, comme l’âge, la fonction rénale, la grossesse, les comorbidités ou les traitements déjà suivis.⁠ Cette architecture relève d’un choix assumé, à rebours d’approches plus simples à mettre en œuvre.

« La facilité, ce serait de brancher un modèle de langage sur une base documentaire pour en faire un chat de réponse aux questions: c’est l’approche dite RAG que de nombreux acteurs du marché proposent pour surfer sur la vague des LLM. Cette approche est sans réelle barrière technologique à l’entrée ; le modèle reste probabiliste : il peut halluciner et donner deux réponses différentes à la même question. Cela ne permet pas de garantir la sécurité des patients. Pour nous, il est hors de question de tomber dans cette facilité ».

L’enjeu n’est donc pas de choisir entre l’IA et les algorithmes traditionnels, mais de les associer selon leurs forces.

L’IA peut lire et structurer. Le système déterministe peut vérifier et signaler. Le professionnel peut ensuite interpréter et décider.

Dans la prescription médicale, une réponse bien formulée ne suffit pas. Elle doit être vérifiable, traçable et fondée sur des règles médicales contrôlées.

3. L’IA assiste, le professionnel décide

L’outil peut repérer une incompatibilité, signaler une contre-indication ou suggérer une adaptation. Mais il ne dispose pas nécessairement de toute la situation clinique ni de toute la connaissance du patient.

« L’IA est particulièrement utile pour des usages qui peuvent être vérifiés par l’humain avant d’être mis en application. »⁠⁠

La décision finale reste donc celle du professionnel de santé.

« L’IA peut automatiser, alerter, guider et donner des idées. Mais c’est le médecin, le pharmacien ou l’infirmier qui décide. »⁠⁠

C’est probablement ce que je retiens le plus de notre échange. L’IA ne fait pas disparaître la responsabilité humaine. Elle oblige au contraire les professionnels à comprendre ce que l’outil analyse, les informations qui peuvent lui manquer et les situations dans lesquelles une vérification reste indispensable.

Cette vigilance concerne aussi les certifications. Elles imposent des exigences en matière de qualité, de documentation, de sécurité et de gestion des risques. Elles ne signifient pas qu’un système ne se trompera jamais.

« Les certifications sont des garde-fous indispensables, mais elles ne garantissent pas que les systèmes d’aide à la décision soient fiables à 100 %. »⁠⁠

La confiance doit donc reposer sur plusieurs éléments : un cadre réglementaire, des données de qualité, des résultats traçables et le jugement du professionnel.

4. Former les soignants à comprendre les limites de l'IA

Les interfaces en langage naturel devraient rendre les outils plus simples à utiliser. Les professionnels auront probablement moins besoin d’apprendre où cliquer ou comment naviguer dans des menus complexes.

Le principal enjeu de formation se situe ailleurs.

«  Il faut former les soignants à comprendre ce qu’on peut attendre de l’IA et ce qu’on ne peut pas en attendre. »⁠⁠

Les soignants doivent pouvoir identifier les limites d’un résultat, comprendre quelles données ont été utilisées et reconnaître les situations dans lesquelles une vérification supplémentaire est nécessaire.

À plus long terme, ce regard critique deviendra encore plus important.

Emmanuel imagine notamment des copilotes multimodaux capables de croiser le texte, le son, l’image, la vidéo et les informations du dossier patient. Il évoque aussi des agents capables de suivre l’évolution des données dans le temps.

Ces systèmes pourraient aider à repérer une dégradation progressive, même lorsque chaque mesure reste encore dans les valeurs considérées comme normales.

« L’IA peut aider à identifier plus tôt les trajectoires qui se dégradent, pour consulter plus tôt, agir plus tôt et soigner plus tôt. »

Ces usages ne supprimeront pas la décision humaine. Ils donneront aux professionnels de nouveaux signaux à interpréter.