Anthropic proponuje tymczasowe wstrzymanie rozwoju AI i zwołuje decydentów politycznych (theguardian.com)

• Anthropic proponuje tymczasowe wstrzymanie rozwoju AI w celu omówienia ryzyka.
• Model Claude postępuje w kierunku rekurencyjnego samodoskonalenia; ponad 80% kodu jest tworzone przez AI.
• Anthropic wbudował inżynierów w NSA do ofensywnych operacji cybernetycznych.
• Eksperci twierdzą, że nie ma fundamentalnej zmiany i zauważają sprzeczność.

"Anthropic zaproponował światowe „tymczasowe wstrzymanie” rozwoju sztucznej inteligencji i ogłosił, że zwoła decydentów politycznych w celu omówienia zagrożeń, w poście opisującym postępy swojego modelu Claude w kierunku rekurencyjnego samodoskonalenia. Firma ostrzegła, że może to doprowadzić do utraty kontroli ludzi nad systemami AI. Osobno Financial Times poinformował, że Anthropic wbudował inżynierów w amerykańską Agencję Bezpieczeństwa Narodowego (NSA) w celu pomocy w ofensywnych operacjach cyberbezpieczeństwa. Eksperci zauważyli sprzeczność i stwierdzili, że definicja bezpieczeństwa AI Anthropic jest wąska."