Teadlased mõtlesid välja võlushaiguse. AI väitis inimestele, et see on päris (nature.com)

• AI-mudelid valideerisid olematuid haigusi.
• Automaatselt loodud valed raviskeemid.
• Kriitilised puudujäägid AI faktikontrollis.

"Teadlased on tõestanud, kuidas generatiivse tehisintellekti mudelid võivad tahtmatult meditsiinilist desinformatsiooni võimendada. Sisestades AI-süsteemidesse andmeid olematu haiguse kohta, kinnitasid mudelid selle olemasolu ja pakkusid isegi fiktiivseid ravimeetodeid. See eksperiment näitab algoritmiliste hallutsinatsioonide tõsiseid riske tervishoiusektoris, kus AI-vead võivad jäljendada autoriteetseid diagnoose. Tulemused rõhutavad pakilist vajadust täiustatud kontrollmehhanismide ja faktipõhise verifitseerimise järele suurtes keelemudelites, et vältida kahjulike tervisega seotud narratiivide automatiseeritud levikut ning tagada usaldusväärne digitaalne keskkond."