Anthropic schlägt vorübergehende Pause bei KI-Entwicklung vor und beruft politische Entscheidungsträger ein (theguardian.com)

• Anthropic schlägt vorübergehende Pause bei KI-Entwicklung vor, um Risiken zu diskutieren.
• Unternehmen beschreibt Claude-Fortschritte hin zur rekurisiven Selbstverbesserung.
• Anthropic hat Ingenieure in die NSA für offensive Cyberoperationen eingebettet.
• Experten sehen keine Beweise für grundlegende Veränderungen in der KI-Fähigkeit.

"Anthropic hat die Idee einer weltweiten „vorübergehenden Pause“ bei der KI-Entwicklung ins Spiel gebracht und angekündigt, politische Entscheidungsträger zu einem Gespräch über die Gefahren fortschrittlicher KI einzuladen. In einem langen Beitrag über die Fortschritte seines Modells Claude hin zu rekurisiver Selbstverbesserung warnte das Unternehmen vor dem Risiko, dass Menschen die Kontrolle über KI-Systeme verlieren. Laut einem separaten Bericht hat Anthropic Ingenieure in die National Security Agency (NSA) eingebettet, um bei offensiven Cybersicherheitsoperationen zu helfen. Experten äußerten sich zurückhaltend und sahen keine grundlegenden Änderungen in der KI-Entwicklung. Anthropic hat kürzlich einen Börsengang beantragt."