Teadlane demonstreerib YouTube Studio AI prompt injection nõrkust (javoriuski.com)

• YouTube Studio AI-d saab kommentaaride kaudu manipuleerida, kuna kasutaja sisu ja süsteemi juhised pole eraldatud.
• Ründaja võib jätta kommentaari, mis petab AI-d kontrollitud teksti väljastama, ja isegi luua linke, mis eksfiltreerivad privaatsete videote pealkirju.
• Google lükkas aruande tagasi kui sotsiaalinseneri; teadlane usub, et see on usaldusmudeli rikkumine.

"Turvateadlane avastas YouTube Studio Ask Studio AI abilise prompt injection nõrkuse. Spetsiaalselt loodud kommentaaride jätmisega suudab ründaja panna AI väljastama kontrollitud teksti, sealhulgas linke, mis lekivad privaatsete videote pealkirju. Google lükkas aruande tagasi kui sotsiaalinseneri, kuid teadlane väidab, et see kuritarvitab usaldust Google'i toote vastu. Nõrkus jääb parandamata."