Anthropic propose une pause temporaire dans le développement de l'IA et convoque les décideurs politiques (theguardian.com)

• Anthropic propose une pause temporaire mondiale dans le développement de l'IA.
• Le modèle Claude progresse vers l'auto-amélioration récursive ; plus de 80 % du code est généré par IA.
• Anthropic a intégré des ingénieurs à la NSA pour des cyber-opérations offensives.
• Les experts disent qu'il n'y a pas de changement radical et notent une contradiction.

"Anthropic a proposé une « pause temporaire » mondiale dans le développement de l’IA et annoncé qu’elle convoquerait des décideurs politiques pour discuter des risques, dans un article détaillant les progrès de son modèle Claude vers l’auto-amélioration récursive. L’entreprise a averti que cela pourrait conduire à une perte de contrôle humain sur les systèmes d’IA. Par ailleurs, le Financial Times rapporte qu’Anthropic a intégré des ingénieurs à la National Security Agency (NSA) américaine pour des opérations offensives de cybersécurité. Les experts ont souligné la contradiction et noté que la définition de la sécurité de l’IA d’Anthropic est étroite."