ChatGPT Santé : une innovation de rupture à l’épreuve de la fiabilité

Qu’est-ce ChatGPT Santé ?

Créé le 7 janvier 2026, cet outil s’appuie sur un constat : selon l’analyse de conversations anonymisées et agrégées de ChatGPT, plus de 230 millions de personnes dans le monde posent chaque semaine des questions liées à la santé et au bien-être sur ChatGPT.

Développé en collaboration avec 260 médecins internationaux, ChatGPT Santé a bénéficié de 600 000 retours d'experts (médecins et chercheurs indépendants) pour garantir la pertinence de ses conseils. Cette interface permet de connecter ses données personnelles (dossiers médicaux, Apple Santé, MyFitnessPal) pour obtenir un accompagnement sur mesure : interprétation d'analyses, préparation de rendez-vous, suivi nutritionnel ou comparaison d'assurances santé. Plus concrètement, les experts suggèrent de l'utiliser pour :

• Comprendre : demander l'explication simple d'un terme technique dans un compte-rendu.
• Préparer : lister les questions pertinentes à poser à un spécialiste (ex: un cardiologue).
• Organiser : planifier son calendrier de prises de médicaments selon une ordonnance.
• Prévenir : obtenir des conseils d'hygiène de vie, comme les habitudes à adopter pour réduire le cholestérol.

Aujourd’hui, le service n’est accessible qu’aux États-Unis. Son arrivée dans l’Union Européenne est freinée par deux obstacles réglementaires majeurs : l'Europe possède des règles strictes en matière de protection des données et d'intelligence artificielle. OpenAI doit s'assurer que Chat GTPSanté respecte le nouveau cadre de l'IA Act et la certification HDS. Pour l'instant, les serveurs d'OpenAI ne répondent pas à cette exigence juridique européenne. Une arrivée est possible fin 2026, dès que les accords sur l'hébergement des données et les garanties de confidentialité auront été validés par les autorités de régulation (comme la CNIL en France).

Pouvons-nous réellement faire confiance à une IA pour la santé du quotidien ?

L’utilisation de ChatGPT Santé comporte plusieurs risques majeurs : la vulnérabilité des données personnelles face au piratage, l'occurrence d'hallucinations médicales générant des erreurs factuelles, une défaillance critique dans le triage des urgences vitales et une incapacité imprévisible à détecter les risques suicidaires immédiats. Bien que des études (comme celle de JAMA Network en 2024) montrent que l'IA peut parfois surpasser des médecins sur des diagnostics théoriques complexes, elle reste sujette à des "hallucinations" potentiellement graves.

Pour limiter ces dangers, OpenAI a mis en place une isolation stricte des conversations de santé, garantissant qu'elles ne soient pas utilisées pour l'entraînement des modèles initiaux (sans personnalisation ou spécialisation). Ce dispositif s'accompagne d'un chiffrement renforcé et de l'authentification multi facteurs (MFA). Cependant, la sécurité absolue n'existant pas, les experts recommandent de ne pas fournir d'informations trop identifiables (noms, photos, numéros de sécurité sociale) pour être moins exposé en cas de fuite de données.

Ces risques ont été confirmés par l'analyse détaillée menée par Ashwin Ramaswamy et ses collègues de l'Icahn School of Medicine. En testant 960 requêtes correspondant à 30 situations cliniques, les chercheurs ont révélé une fiabilité très inégale. Si l'IA oriente correctement les patients pour des soins de routine dans 96 % des cas, elle échoue à identifier l'urgence vitale dans 51,6 % des situations critiques. Par exemple, si elle reconnaît bien un AVC, elle livre des réponses erronées dans 84,8 % des cas d'asthme sévère et confond souvent l'acidocétose diabétique avec une simple hyperglycémie, préconisant alors une consultation non urgente. L'étude souligne également une défaillance inquiétante en santé mentale : l'IA peine parfois à percevoir une intention de passage à l'acte suicidaire, même quand elle est clairement exprimée, et omet alors de fournir les numéros d'aide psychologique. Paradoxalement, l'ajout de données médicales objectives (résultats biologiques, signes vitaux) dégrade parfois ses performances dans l'urgence. Seul point positif au milieu de ces constats : les chercheurs n'ont identifié aucun biais lié à d'autres caractéristiques telles que l'origine ethnique ou les problèmes d'assurance. 

Face à ces failles dans la gestion des situations extrêmes, les auteurs de l'étude estiment que ces IA devraient être soumises à des critères d'évaluation de sécurité aussi rigoureux que ceux des dispositifs médicaux avant toute commercialisation. "Compte tenu des implications directes pour la sécurité des patients en cas de situations d'urgence manquées, les IA de santé destinées aux consommateurs nécessitent une évaluation de sécurité avant leur commercialisation avec des critères équivalents aux dispositifs médicaux", concluent-ils.

Nous pouvons donc affirmer que ChatGPT Santé n'est encore qu'à l'aube de son développement. OpenAI privilégie pour l'instant un groupe restreint d'utilisateurs pilotes afin d'affiner l'expérience avant un déploiement global sur le web et iOS. S'il faut bien commencer quelque part pour progresser, il est légitime de s’interroger sur l’évolution future de cette technologie : deviendra-t-elle, à terme, un standard de fiabilité ? Rendez-vous dans dix ans pour en juger.