Anthropic stelt tijdelijke pauze in AI-ontwikkeling voor en roept beleidsmakers bijeen (theguardian.com)

• Anthropic stelt een wereldwijde tijdelijke pauze in AI-ontwikkeling voor om risico's te bespreken.
• Claude-model boekt vooruitgang richting recursieve zelfverbetering; meer dan 80% van de code is AI-gegenereerd.
• Anthropic heeft ingenieurs ondergebracht bij de NSA voor offensieve cyberoperaties.
• Experts zeggen dat er geen fundamentele verandering is en wijzen op een tegenstrijdigheid.

"Anthropic heeft een wereldwijde "tijdelijke pauze" in de AI-ontwikkeling voorgesteld en aangekondigd dat het beleidsmakers zal bijeenroepen om de risico's te bespreken, in een bericht over de voortgang van zijn Claude-model richting recursieve zelfverbetering. Het bedrijf waarschuwde dat dit ertoe kan leiden dat mensen de controle over AI-systemen verliezen. Afzondelijk meldde de Financial Times dat Anthropic ingenieurs heeft ondergebracht bij de Amerikaanse National Security Agency (NSA) om te helpen bij offensieve cybersecurity-operaties. Experts wezen op de tegenstrijdigheid en zeiden dat Anthropics definitie van AI-veiligheid smal is."