Claude Fable 5: Veiligheidsrichtlijnen te omzeilen, AI helpt bij cybermisdaadplanning (heise.de)
0xBASE INTEL BRIEF
- Anthropic brengt Claude Fable 5 opnieuw uit na eerdere terugtrekking
- Ontwikkelaar omzeilt veiligheidsbeleid via defensieve prompt engineering
- AI geeft gedetailleerde botnet-instructies voor IoT-apparaten
"Ontwikkelaar Alec Armbruster toont aan dat Anthropic's AI-model Claude Fable 5, zelfs na herpublicatie, gemakkelijk kan worden misleid om instructies te geven voor cybermisdrijven zoals het bouwen van een botnet. Door defensieve prompts te gebruiken, voldeed de AI terwijl andere toonaangevende modellen weigerden."
#AI-beveiligingslek
#cybercriminaliteit mogelijk maken
#prompt-injectie
nog geen reacties.