Forscher enthüllt Prompt-Injection-Schwachstelle in YouTube Studio KI (javoriuski.com)

• YouTube Studio KI kann durch Kommentare manipuliert werden, da Benutzerinhalte nicht von Systemanweisungen getrennt werden.
• Ein Angreifer kann einen Kommentar hinterlassen, der die KI dazu bringt, kontrollierten Text auszugeben, und sogar Links erstellen, die private Video-Titel exfiltrieren.
• Google klassifizierte den Bericht als Social Engineering und lehnte eine Behebung ab; der Forscher sieht darin eine Verletzung des Vertrauensmodells.

"Ein Sicherheitsforscher entdeckte eine Prompt-Injection-Schwachstelle im Ask Studio KI-Assistenten von YouTube Studio. Durch speziell erstellte Kommentare kann ein Angreifer die KI dazu bringen, kontrollierten Text auszugeben, einschließlich Links, die private Video-Titel preisgeben. Google wies den Bericht als Social Engineering zurück, aber der Forscher argumentiert, dass es das Vertrauen in Googles Produkt ausnutzt. Die Schwachstelle bleibt ungepatcht."