Projekt MedGenAI DFKI wykorzystuje syntetyczne obrazy do zwalczania stronniczości w wykrywaniu raka skóry (heise.de)

• Modele AI do wykrywania raka skóry są stronnicze z powodu niezrównoważonych danych treningowych.
• MedGenAI generuje syntetyczne obrazy skóry sterowane wiekiem, płcią i typem skóry.
• Kontrfakty mierzą, czy model daje tę samą diagnozę po zmianie aspektu.

"Projekt MedGenAI DFKI używa generatywnej AI do redukcji stronniczości w rozpoznawaniu obrazów medycznych. Tworząc syntetyczne obrazy skóry sterowane wiekiem, płcią i typem skóry, generuje bardziej zrównoważone zbiory danych. Kontrfakty ujawniają, kiedy przewidywania stają się niesprawiedliwe. Celem jest poprawa uczciwości diagnoz AI, a nie całkowite wyeliminowanie stronniczości. Dane syntetyczne uzupełniają rzeczywiste; przed wdrożeniem wymagana jest walidacja kliniczna."