Scannen Sie jeden beliebigen LLM-Chatbot auf Schwachstellen. Entwickelt von Mozilla. (github.com)

• Automatisierte Identifikation von LLM-Schwachstellen
• Fokus auf Prompt-Injection und Datensicherheit
• Open-Source-Ansatz zur Förderung von KI-Transparenz

"Mozilla hat ein neues Open-Source-Tool veröffentlicht, das die Schwachstellen von Sprachmodellen systematisch identifizieren soll. Entwickler können damit LLM-Chatbots auf Sicherheitsrisiken, Prompt-Injection-Anfälligkeiten und Datenleck-Gefahren scannen. Das Projekt zielt darauf ab, die Standardisierung bei der Absicherung generativer KI zu erhöhen."