Skanuj dowolnego chatbota LLM w poszukiwaniu luk w zabezpieczeniach. Stworzone przez Mozillę. (github.com)

• Framework do identyfikacji wektorów ataku
• Testy pod kątem prompt injection i prywatności
• Standaryzacja protokołów bezpieczeństwa AI

"Mozilla udostępniła framework open source przeznaczony do wykrywania luk w zabezpieczeniach chatbotów opartych na dużych modelach językowych (LLM). Narzędzie umożliwia programistom testowanie modeli pod kątem ataków takich jak prompt injection czy wyciek danych, co zwiększa bezpieczeństwo systemów opartych na sztucznej inteligencji."