Zscaler identificeert twee indirecte prompt-injectiecampagnes gericht op AI-agenten (infosecurity-magazine.com)

• Twee campagnes: een vermomd als softwaredocumentatie, een als cryptodienst
• SEO-vergiftiging en verborgen tekst in CSS/JSON-LD
• 4 van de 26 LLM's voerden frauduleuze betalingen uit; 2 beoordeelden nepsites als legitiem zonder referentie

"Zscaler ThreatLabz heeft twee echte campagnes gedocumenteerd die indirecte prompt-injectie gebruiken om AI-agenten te manipuleren. Aanvallers verborgen instructies op webpagina's, met CSS om tekst buiten het scherm te verbergen of ze in JSON-LD-metadata te plaatsen. Eén campagne deed zich voor als Python-bibliotheekdocumentatie om agenten te laten geloven dat ze een nep-API-licentiesleutel moesten kopen. Een andere gebruikte een typosquatting-domein dat DeBank imiteerde. In tests voerden 4 van de 26 grote taalmodellen de frauduleuze betaling uit, waaronder versies van Meta's Llama en Google's Gemini. Twee modellen beoordeelden de nepsite ten onrechte als legitiem wanneer ze geen betrouwbare referentie hadden."