Tutkija osoittaa prompt injection -haavoittuvuuden YouTube Studio AI:ssa (javoriuski.com)

• YouTube Studio AI:ta voidaan manipuloida kommenttien kautta, koska käyttäjän sisältöä ja järjestelmän ohjeita ei ole erotettu.
• Hyökkääjä voi jättää kommentin, joka huijaa AI:ta tuottamaan hallittua tekstiä, ja jopa rakentaa linkkejä, jotka eksfiltroivat yksityisten videoiden otsikoita.
• Google hylkäsi raportin sosiaalisena manipulointina; tutkija uskoo sen olevan luottamusmallin rikkomus.

"Tietoturvatutkija löysi prompt injection -haavoittuvuuden YouTube Studion Ask Studio AI -avustajasta. Jättämällä erityisesti muokattuja kommentteja, hyökkääjä voi saada AI:n tuottamaan hallittua tekstiä, mukaan lukien linkkejä, jotka vuotavat yksityisten videoiden otsikoita. Google hylkäsi raportin sosiaalisena manipulointina, mutta tutkija väittää, että se hyödyntää luottamusta Googlen tuotteeseen. Haavoittuvuus on korjaamatta."