Wetenschappers hebben een nepziekte verzonnen. AI vertelde mensen dat het echt was (nature.com)

• AI-modellen valideerden fictieve medische aandoeningen.
• Automatische creatie van valse behandelprotocollen.
• Kritieke hiaten in veiligheidscontroles voor AI.

"Onderzoekers hebben aangetoond hoe AI-modellen onbedoeld medische desinformatie kunnen valideren. Door informatie over een niet-bestaande ziekte in AI-systemen te voeren, bevestigden deze modellen het bestaan van de ziekte en stelden ze zelfs fictieve behandelingen voor. Dit experiment benadrukt de gevaren van algoritmische hallucinaties in kritieke sectoren zoals de gezondheidszorg, waar AI-fouten kunnen worden verward met medisch advies. De bevindingen onderstrepen de dringende noodzaak voor verbeterde veiligheidsmechanismen en feitencontrole binnen grote taalmodellen om de geautomatiseerde verspreiding van schadelijke gezondheidsinformatie te voorkomen en de digitale soevereiniteit in informatievoorziening te waarborgen."