Вчені вигадали неіснуючу хворобу. ШІ переконав людей, що вона справжня (nature.com)

• Моделі ШІ валідували неіснуючі захворювання.
• Автоматична генерація фальшивих протоколів лікування.
• Критичні прогалини у перевірці фактів ШІ.

"Дослідники довели, як моделі ШІ можуть ненавмисно підсилювати медичну дезінформацію. Шляхом введення даних про неіснуючу хворобу в ШІ-системи, моделі підтвердили її існування та навіть запропонували фіктивні методи лікування. Цей експеримент демонструє серйозні ризики, пов'язані з алгоритмічними галюцинаціями, особливо в охороні здоров'я, де помилки ШІ можуть виглядати як фахові діагностичні поради. Результати підкреслюють нагальну потребу у вдосконаленні механізмів перевірки фактів у великих мовних моделях, щоб запобігти автоматизованому поширенню шкідливих наративів про здоров'я та забезпечити інформаційну безпеку."