Scanați orice chatbot LLM pentru a detecta vulnerabilități. Creat de Mozilla. (github.com)

• Framework pentru identificarea vectorilor de atac LLM
• Testare țintită pentru injecții de prompt-uri și confidențialitate
• Standardizarea protocoalelor de securitate AI

"Mozilla a introdus un cadru open-source conceput pentru a scana chatbot-urile bazate pe modele de limbaj (LLM) în căutarea vulnerabilităților. Instrumentul permite dezvoltatorilor să testeze riscuri comune, precum injecția de prompt-uri și scurgerea de date, îmbunătățind reziliența sistemelor AI generative."