Дослідник демонструє вразливість ін'єкції промптів в AI YouTube Studio (javoriuski.com)

• AI YouTube Studio можна маніпулювати через коментарі через відсутність розділення між вмістом користувача та системними інструкціями.
• Зловмисник може залишити коментар, який обманює AI для виведення контрольованого тексту, і навіть створювати посилання, що ексфільтрують назви приватних відео.
• Google відхилив звіт як соціальну інженерію; дослідник вважає, що це порушення моделі довіри.

"Дослідник безпеки виявив вразливість ін'єкції промптів в AI-асистенті Ask Studio в YouTube Studio. Залишаючи спеціально створені коментарі, зловмисник може змусити AI виводити контрольований текст, включаючи посилання, які витікають назви приватних відео. Google відхилив звіт як соціальну інженерію, але дослідник стверджує, що це експлуатує довіру до продукту Google. Вразливість залишається невиправленою."