Degli scienziati hanno inventato una malattia falsa. L'IA ha detto alle persone che era reale (nature.com)

• I modelli IA hanno validato malattie inesistenti.
• Generazione automatica di falsi protocolli di cura.
• Necessità di meccanismi di verifica dell'IA.

"Alcuni ricercatori hanno dimostrato come i modelli di IA possano validare disinformazione medica inventata. Inserendo dati su una malattia inesistente, i sistemi hanno confermato la patologia e suggerito cure fantasiose, evidenziando una vulnerabilità critica alle allucinazioni algoritmiche. Lo studio sottolinea i pericoli dell'uso dell'IA nel settore sanitario, dove errori algoritmici possono generare consigli medici autorevoli ma falsi. I risultati mettono in luce l'urgenza di implementare sistemi di verifica dei fatti più rigorosi all'interno dei modelli linguistici, per impedire la diffusione automatizzata di narrazioni sanitarie dannose per la sicurezza pubblica."