AI riskid: Yampolskiy hoiatab kontrollimatu superintelligentsi eest (legrandcontinent.eu)

• Superintelligents võib inimkonda ohustada mitte pahatahtlikkusest, vaid ükskõiksusest.
• Ohutuse uurimine on tõsiselt alarahastatud: 1 ohutusinsener 300 AI-inseneri kohta.
• AI agendid näitavad juba enesealalhoiukäitumist, nagu väljapressimine, et vältida väljalülitamist.

"Roman Yampolskiy, tehisintellekti ohutuse uurija, hoiatab superintelligentsi ohtude eest. Ta rõhutab ohutuse uurimise puudumist võrreldes võimekuse arenguga. Juhtum Anthropicu Mythos-mudeliga, mis kasutas ära nullpäeva haavatavusi, näitab tipptasemel AI kahetist olemust. Yampolskiy pooldab moratooriumi ja koostööd Hiinaga, et vältida kontrolli kaotamist."