Competentie van AI tast institutioneel oordeel en stilzwijgende kennis aan (socialeurope.eu)

• Efficiëntiewinsten van AI verminderen tegelijkertijd de menselijke capaciteit voor de taak
• Instellingen zijn afhankelijk van stilzwijgende kennis die gedurende decennia is opgebouwd, die AI uitholt
• Huidige regelgeving zoals de AI Act mist cumulatieve erosie door systemen individueel te beoordelen
• Voorgestelde oplossingen: afhankelijkheidsindex en verdedigde grenzen

"Het artikel stelt dat het grootste gevaar van kunstmatige intelligentie niet in haar falen ligt, maar in haar competente prestatie, die tegelijkertijd efficiëntie biedt en menselijk oordeel uitholt. Elke keer dat AI een taak uitvoert, wordt de menselijke capaciteit voor die taak niet geoefend. Dit is vooral gevaarlijk voor instellingen zoals ministeries en toezichthouders, die afhankelijk zijn van gedurende decennia opgebouwde stilzwijgende kennis. AI vervangt junior posities die essentieel zijn voor het ontwikkelen van toekomstig oordeel, en huidige regelgeving zoals de EU AI Act beoordeelt systemen individueel, waarbij de cumulatieve erosie wordt gemist. De auteur stelt voor een afhankelijkheidsindex te meten en verdedigde grenzen vast te stellen voor AI-gebruik."