Halucynacyjne cytaty zanieczyszczają literaturę naukową (nature.com)

• AI automatyzuje tworzenie fałszywych przypisów.
• Niewydolność obecnych systemów weryfikacji peer-review.
• Długofalowe zagrożenie dla rzetelności nauki.

"Rosnące wykorzystanie modeli językowych w pracach naukowych prowadzi do plagi fałszywych cytowań. Te syntetyczne halucynacje, w których systemy AI tworzą nieistniejące źródła, poważnie zagrażają integralności badań. Proces recenzji naukowej staje się niewystarczający w obliczu masowej produkcji fałszywych referencji, co prowadzi do dewaluacji zasobów wiedzy i trudności w weryfikacji faktów naukowych."