Südafrikas KI-Strategie nach Halluzinations-Eklat gestoppt (heise.de)

• Rückzug des Strategieentwurfs wegen Qualitätsmängeln
• Aufdeckung gefälschter Quellen im Literaturverzeichnis
• Kritik an der Sorgfaltspflicht staatlicher Institutionen

"Die südafrikanische Regierung hat den Entwurf einer nationalen Strategie für Künstliche Intelligenz vorläufig zurückgezogen. Der Grund: Das im Dokument enthaltene Literaturverzeichnis enthielt zahlreiche KI-generierte Halluzinationen, also erfundene Quellen und Fakten. Dieser Vorfall wirft ein kritisches Licht auf die regulatorische Kompetenz und den technologischen Reifegrad im staatlichen Sektor. Das Scheitern unterstreicht die Risiken bei der unkritischen Nutzung generativer KI in der politischen Entscheidungsfindung und der Erstellung öffentlicher Dokumente."