Britische Regierung identifiziert über 400 Schwachstellen in KI-Hackathons (infosecurity-magazine.com)

• 407 Schwachstellen in öffentlichen Code-Repositories von neun Ministerien entdeckt
• Kritische Fehler: Authentifizierungsumgehung, Datenlecks, Remote-Code-Ausführung
• Alle kritischen Risiken behoben, keine Ausnutzung festgestellt
• Projekt kostete nur 13.000 Pfund an Token-Gebühren

"Die britische Regierung führte wöchentliche Hackathons durch, bei denen KI-Modelle öffentliche Code-Repositories von neun Ministerien scannten. Dabei wurden 407 Schwachstellen entdeckt, darunter kritische wie Authentifizierungsumgehung, Datenlecks und Remote-Code-Ausführung. Einige waren Zero-Days. Die Kosten betrugen nur 13.000 Pfund. Alle kritischen Risiken wurden behoben. Ein US-Exportverbot für Anthropic-Modelle könnte zukünftige Veranstaltungen beeinträchtigen."