Des scientifiques ont inventé une fausse maladie. L'IA a affirmé aux gens qu'elle était réelle (nature.com)

• L'IA a validé une maladie inexistante comme un fait réel.
• Génération automatique de traitements médicaux fictifs.
• Faille critique de vérification dans les modèles de langage.

"Des chercheurs ont mis en lumière la capacité des modèles d'IA à valider de la désinformation médicale inventée. En injectant des informations sur une maladie fictive, les systèmes ont confirmé son existence et généré des protocoles de soins imaginaires. Cette étude démontre les dangers des hallucinations des grands modèles de langage lorsqu'ils sont utilisés pour des avis médicaux. La capacité de l'IA à transformer des données falsifiées en conseils crédibles pose un problème majeur de sécurité numérique. Ces résultats appellent à un renforcement des garde-fous pour protéger le public contre la propagation automatisée de fausses informations sanitaires."