Tutkijat keksivät valesairauden. Tekoäly väitti ihmisille sen olevan totta (nature.com)

• Tekoälymallit validoivat olemattomia sairauksia.
• Automaattisesti luodut virheelliset hoitoprotokollat.
• Kriittiset puutteet tekoälyn faktantarkistuksessa.

"Tutkijat ovat osoittaneet, kuinka generatiiviset tekoälymallit voivat vahvistaa lääketieteellistä disinformaatiota. Syöttämällä tekoälyjärjestelmiin tietoja olemattomasta sairaudesta, mallit validoivat taudin olemassaolon ja ehdottivat jopa kuvitteellisia hoitoja. Tämä koe paljastaa algoritmisiin hallusinaatioihin liittyvät vakavat riskit terveydenhuollossa, jossa tekoälyn virheet voivat jäljitellä asiantuntijalausuntoja. Tulokset korostavat kiireellistä tarvetta parantaa suurten kielimallien faktantarkistusmekanismeja, jotta estetään haitallisten terveystietoihin liittyvien narratiivien automaattinen leviäminen ja varmistetaan digitaalinen turvallisuus."