Скануйте будь-який LLM-чат-бот на наявність вразливостей. Створено Mozilla. (github.com)

• Фреймворк для виявлення векторів атак на LLM
• Цільове тестування на prompt injection та приватність
• Стандартизація протоколів безпеки ШІ

"Mozilla презентувала open-source фреймворк для виявлення вразливостей у чат-ботах на базі великих мовних моделей (LLM). Інструмент дозволяє розробникам перевіряти системи на стійкість до атак типу prompt injection, витоку даних та інших загроз, сприяючи підвищенню безпеки генеративного ШІ."