Scansiona qualsiasi chatbot LLM alla ricerca di vulnerabilità. Creato da Mozilla. (github.com)

• Framework per l'identificazione dei vettori di attacco
• Test specifici per prompt injection e privacy
• Standardizzazione dei protocolli di sicurezza AI

"Mozilla ha presentato un framework open source progettato per testare la sicurezza dei chatbot basati su modelli linguistici (LLM). Lo strumento permette agli sviluppatori di scansionare i modelli alla ricerca di vulnerabilità critiche come la prompt injection e la fuga di dati, supportando una distribuzione più sicura dell'IA generativa."