La compétence de l'IA érode le jugement institutionnel et les connaissances tacites (socialeurope.eu)

• Les gains d'efficacité de l'IA réduisent simultanément la capacité humaine pour la tâche
• Les institutions reposent sur des connaissances tacites construites sur des décennies, que l'IA érode
• Les réglementations actuelles comme la loi sur l'IA négligent l'érosion cumulative en évaluant les systèmes individuellement
• Solutions proposées : indice de dépendance et limites défendues

"L'article soutient que le principal danger de l'intelligence artificielle ne réside pas dans ses échecs mais dans sa performance compétente, qui fournit de l'efficacité tout en érodant le jugement humain. Chaque fois que l'IA effectue une tâche, la capacité humaine pour cette tâche reste inutilisée. Cela est particulièrement dangereux pour les institutions comme les ministères et les régulateurs, qui reposent sur des connaissances tacites accumulées sur des décennies. L'IA remplace les postes juniors essentiels pour développer le jugement futur, et les réglementations actuelles comme la loi sur l'IA de l'UE évaluent les systèmes individuellement, manquant l'érosion cumulative. L'auteur propose de mesurer un indice de dépendance et d'établir des limites défendues pour l'utilisation de l'IA."