Analice cualquier chatbot LLM en busca de vulnerabilidades. Creado por Mozilla. (github.com)

• Identificación automatizada de vectores de ataque en LLM
• Pruebas específicas para inyección de prompts y privacidad
• Estandarización de protocolos de seguridad en IA

"Mozilla ha lanzado un marco de trabajo de código abierto diseñado para escanear chatbots basados en modelos de lenguaje (LLM) en busca de vulnerabilidades. La herramienta permite a los desarrolladores evaluar riesgos como la inyección de prompts, la fuga de datos y la generación de contenido malicioso, mejorando la seguridad en el despliegue de IA."