Badacz demonstruje podatność na wstrzykiwanie promptów w AI YouTube Studio (javoriuski.com)

• AI YouTube Studio może być manipulowane poprzez komentarze z powodu braku separacji między treścią użytkownika a instrukcjami systemowymi.
• Atakujący może zostawić komentarz, który oszukuje AI, aby wyświetliło kontrolowany tekst, a nawet skonstruować linki eksfiltrujące tytuły prywatnych filmów.
• Google odrzucił zgłoszenie jako socjotechnikę i odmówił naprawy; badacz uważa, że jest to naruszenie modelu zaufania.

"Badacz bezpieczeństwa odkrył podatność na wstrzykiwanie promptów w asystencie AI Ask Studio w YouTube Studio. Pozostawiając specjalnie spreparowane komentarze, atakujący może sprawić, że AI wyświetli kontrolowany tekst, w tym linki ujawniające tytuły prywatnych filmów. Google odrzucił zgłoszenie jako socjotechnikę, ale badacz twierdzi, że wykorzystuje ono zaufanie do produktu Google. Podatność pozostaje niezałatana."