Anthropic пропонує тимчасову паузу в розвитку ШІ та скликає політиків (theguardian.com)

• Anthropic пропонує всесвітню тимчасову паузу в розвитку ШІ для обговорення ризиків.
• Модель Claude прогресує до рекурсивного самовдосконалення; понад 80% коду створюється ШІ.
• Anthropic інтегрував інженерів до NSA для наступальних кібероперацій.
• Експерти кажуть, що фундаментальної зміни немає, і відзначають суперечність.

"Anthropic запропонував всесвітню «тимчасову паузу» в розвитку штучного інтелекту та оголосив, що скличе політиків для обговорення ризиків, у дописі, що деталізує прогрес своєї моделі Claude у напрямку рекурсивного самовдосконалення. Компанія попередила, що це може призвести до втрати контролю людей над системами ШІ. Окремо Financial Times повідомила, що Anthropic інтегрував інженерів до Агентства національної безпеки (NSA) США для допомоги в наступальних операціях кібербезпеки. Експерти відзначили суперечність і заявили, що визначення безпеки ШІ від Anthropic є вузьким."