DFKI-Projekt MedGenAI nutzt synthetische Bilder gegen Bias in der Hautkrebserkennung (heise.de)

• KI-Modelle zur Hautkrebserkennung sind voreingenommen, da Trainingsdaten unausgewogen sind.
• DFKI-Projekt MedGenAI erzeugt synthetische Hautbilder, gesteuert nach Alter, Geschlecht und Hauttyp.
• Counterfactuals messen, ob ein Modell bei geändertem Aspekt die gleiche Diagnose liefert.

"Das DFKI-Projekt MedGenAI entwickelt generative KI, um Bias in medizinischen Bilderkennungsmodellen zu reduzieren. Durch synthetische Hautbilder, gesteuert nach Alter, Geschlecht und Hauttyp, werden ausgewogenere Testdatensätze erzeugt. Gegensätzliche Bilder (Counterfactuals) decken auf, wann Vorhersagen unfair werden. Ziel ist es, die Fairness von KI-Diagnosen zu verbessern, nicht Bias vollständig zu eliminieren. Die synthetischen Daten ergänzen echte Daten, eine klinische Validierung ist vor dem Einsatz erforderlich."