Allucinazioni dell'IA nei procedimenti giudiziari (heise.de)

• Precedenti legali falsi creati dall'IA
• Erosione della fiducia nelle prove digitali
• Necessità di protocolli di validazione per IA legale

"L'adozione dell'IA generativa nel sistema giudiziario statunitense ha causato un aumento di 'allucinazioni', in cui i sistemi creano precedenti legali fittizi. Questa tendenza minaccia l'integrità del processo, poiché gli avvocati fanno sempre più affidamento su output automatizzati non verificati. La discrepanza tra la natura probabilistica dell'IA e il rigore richiesto dalle corti evidenzia una lacuna critica nella vigilanza. Senza standard di verifica robusti, l'affidabilità delle sentenze rischia di subire distorsioni sistematiche."