Analysez n'importe quel chatbot LLM à la recherche de vulnérabilités. Créé par Mozilla. (github.com)

• Framework pour identifier les vecteurs d'attaque LLM
• Tests ciblés sur les injections de prompts et la confidentialité
• Standardisation de la sécurité IA

"Mozilla a publié un framework open-source destiné à analyser les vulnérabilités des chatbots basés sur les grands modèles de langage (LLM). L'outil aide les développeurs à identifier des menaces critiques comme l'injection de prompts ou les fuites de données, renforçant ainsi la sécurité des déploiements d'IA générative."