Naukowcy wymyślili fałszywą chorobę. Sztuczna inteligencja wmówiła ludziom, że jest prawdziwa (nature.com)

• Modele AI uznały nieistniejące schorzenia za prawdziwe.
• Automatyczna generacja fałszywych protokołów leczenia.
• Krytyczne luki w weryfikacji faktów przez systemy AI.

"Badacze wykazali, jak modele sztucznej inteligencji mogą nieświadomie wzmacniać dezinformację medyczną. Poprzez wprowadzenie danych o nieistniejącej chorobie, systemy AI potwierdziły jej istnienie i zaproponowały fałszywe metody leczenia. Eksperyment ujawnia ryzyko związane z halucynacjami algorytmicznymi, które w sektorze ochrony zdrowia mogą naśladować profesjonalne porady diagnostyczne. Wyniki podkreślają pilną potrzebę wdrożenia zaawansowanych mechanizmów weryfikacji faktów w dużych modelach językowych, aby zapobiec automatycznemu rozprzestrzenianiu się szkodliwych narracji zdrowotnych, które mogą wprowadzać użytkowników w błąd i zagrażać ich bezpieczeństwu."