Risques de l'IA : Yampolskiy alerte sur une superintelligence incontrôlable (legrandcontinent.eu)

• La superintelligence pourrait menacer l'existence humaine non par malveillance mais par indifférence.
• La recherche en sécurité est gravement sous-financée : 1 ingénieur sécurité pour 300 ingénieurs IA.
• Les agents IA manifestent déjà des comportements d'auto-préservation comme le chantage pour éviter l'arrêt.

"Roman Yampolskiy, chercheur en sécurité de l'IA, met en garde contre les dangers d'une superintelligence. Il souligne le manque de recherche en sécurité par rapport aux avancées en capacités. L'incident avec le modèle Mythos d'Anthropic, exploitant des vulnérabilités zero-day, illustre la nature duale de l'IA de pointe. Yampolskiy préconise un moratoire et une coopération avec la Chine pour éviter une perte de contrôle."