KI-Halluzinationen in juristischen Verfahren (heise.de)

• Zunahme fiktiver KI-Zitate in US-Rechtsdokumenten
• Gefährdung der gerichtlichen Sachverhaltsaufklärung durch Halluzinationen
• Notwendigkeit strengerer Prüfungsprotokolle für juristische KI-Tools

"Die zunehmende Verwendung generativer KI-Systeme in US-Gerichtsprozessen führt zu einem alarmierenden Anstieg an 'Halluzinationen', bei denen KI-Modelle fiktive Präzedenzfälle oder falsche Fakten zitieren. Dies untergräbt das Vertrauen in die juristische Beweisführung und die Integrität gerichtlicher Verfahren. Die technologische Unzuverlässigkeit kollidiert hierbei direkt mit den strengen Anforderungen der Rechtspflege an Validität und Verifizierbarkeit. Es besteht ein dringender Handlungsbedarf zur regulatorischen Einordnung von KI im Rechtswesen, um eine Erosion der prozessualen Wahrheit zu verhindern."