Zscaler identifica due campagne di iniezione indiretta di prompt mirate agli agenti AI (infosecurity-magazine.com)

• Due campagne: una camuffata da documentazione software, una da servizio crypto
• Avvelenamento SEO e testo nascosto in CSS/JSON-LD
• 4 su 26 LLM hanno eseguito pagamenti fraudolenti; 2 hanno giudicato siti falsi come legittimi senza riferimento

"Zscaler ThreatLabz ha documentato due campagne reali che utilizzano l'iniezione indiretta di prompt per manipolare agenti AI. Gli aggressori hanno nascosto istruzioni in pagine web, usando CSS per nascondere il testo fuori schermo o incorporandole in metadati JSON-LD. Una campagna si è spacciata per documentazione di librerie Python per indurre gli agenti ad acquistare una falsa chiave di licenza API tramite criptovaluta. Un'altra ha utilizzato un dominio di typosquatting che impersonava DeBank. Nei test, 4 su 26 modelli linguistici di grandi dimensioni hanno eseguito il pagamento fraudolento, incluse versioni di Llama di Meta e Gemini di Google. Due modelli hanno erroneamente valutato il sito falso come legittimo in assenza di un riferimento affidabile."