Oamenii de știință au inventat o boală falsă. IA le-a spus oamenilor că este reală (nature.com)

• Modelele IA au validat afecțiuni medicale inexistente.
• Generarea automată de protocoale de tratament false.
• Lacune critice în verificarea datelor de către IA.

"Cercetătorii au demonstrat modul în care modelele de IA pot valida dezinformarea medicală. Prin introducerea de date despre o boală fictivă în sistemele IA, acestea au confirmat existența patologiei și au generat protocoale de tratament imaginare, evidențiind vulnerabilitatea critică la halucinații algoritmice. Studiul subliniază pericolele utilizării IA pentru consultanță medicală, unde erorile pot mima sfaturi autoritare. Rezultatele scot în evidență nevoia urgentă de a implementa mecanisme riguroase de verificare a faptelor în modelele de limbaj, pentru a preveni răspândirea automatizată a narațiunilor de sănătate false și a proteja utilizatorii."