Anthropic ehdottaa väliaikaista taukoa tekoälyn kehittämisessä ja kutsuu päättäjät koolle (theguardian.com)

• Anthropic ehdottaa väliaikaista taukoa tekoälyn kehittämisessä riskien keskustelemiseksi.
• Claude-malli edistyy kohti rekursiivista itseparannusta; yli 80% koodista on tekoälyn tuottamaa.
• Anthropic on sijoittanut insinöörejä NSA:han hyökkääviin kybertoimintoihin.
• Asiantuntijat sanovat, ettei perustavanlaatuista muutosta ole ja huomauttavat ristiriidasta.

"Anthropic on ehdottanut maailmanlaajuista "väliaikaista taukoa" tekoälyn kehittämisessä ja ilmoittanut kutsuvansa päättäjät keskustelemaan riskeistä, julkaisussa, jossa se kuvailee Claude-mallinsa edistymistä kohti rekursiivista itseparannusta. Yritys varoitti, että tämä voi johtaa ihmisten tekoälyjärjestelmien hallinnan menettämiseen. Eri uutisessa Financial Times kertoi, että Anthropic on sijoittanut insinöörejä Yhdysvaltain kansalliseen turvallisuusvirastoon (NSA) auttamaan hyökkäävissä kyberturvallisuusoperaatioissa. Asiantuntijat huomauttivat ristiriidasta ja sanoivat, että Anthropicin tekoälyturvallisuuden määritelmä on kapea."