Skannige mis tahes LLM-vestlusrobotit haavatavuste leidmiseks. Loodud Mozilla poolt. (github.com)

• Raamistik LLM-i rünnakuvektorite tuvastamiseks
• Sihitud testimine prompt injection'i ja privaatsuse osas
• AI turvaprotokollide standardiseerimine

"Mozilla avaldas uue avatud lähtekoodiga raamistiku, mis on mõeldud LLM-põhiste vestlusrobotite turvalisuse testimiseks. Tööriist võimaldab arendajatel skannida mudeleid levinud ohtude suhtes, nagu prompt injection ja andmelekked, parandades seeläbi generatiivse tehisintellekti turvalisust."