Zscaler identifica dos campañas de inyección indirecta de avisos dirigidas a agentes de IA (infosecurity-magazine.com)
- Dos campañas: una disfrazada de documentación de software, otra de servicio cripto
- Envenenamiento SEO y texto oculto en CSS/JSON-LD
- 4 de 26 LLMs ejecutaron pagos fraudulentos; 2 evaluaron sitios falsos como legítimos sin referencia
"Zscaler ThreatLabz ha documentado dos campañas reales que utilizan inyección indirecta de avisos para manipular agentes de IA. Los atacantes ocultaron instrucciones en páginas web, usando CSS para ocultar texto fuera de pantalla o incrustándolas en metadatos JSON-LD. Una campaña se hizo pasar por documentación de la biblioteca Python para engañar a los agentes y que compraran una clave de licencia API falsa mediante criptomonedas. Otra utilizó un dominio de typosquatting que suplantaba al rastreador de carteras de criptomonedas DeBank. En pruebas controladas, 4 de 26 modelos grandes de lenguaje ejecutaron el pago fraudulento, incluidas versiones de Llama de Meta y Gemini de Google. Dos modelos calificaron incorrectamente el sitio falso como legítimo cuando carecían de una referencia confiable."
aún no hay comentarios.