Proiectul MedGenAI al DFKI utilizează imagini sintetice împotriva părtinirii în detectarea cancerului de piele (heise.de)

• Modelele IA pentru detectarea cancerului de piele sunt părtinitoare din cauza datelor de antrenament dezechilibrate.
• MedGenAI generează imagini sintetice ale pielii controlabile după vârstă, sex și tip de piele.
• Contrafactualele măsoară dacă un model dă același diagnostic atunci când un aspect se schimbă.

"Proiectul MedGenAI al DFKI folosește IA generativă pentru a reduce părtinirea în recunoașterea imaginilor medicale. Prin crearea de imagini sintetice ale pielii controlabile după vârstă, sex și tip de piele, se generează seturi de date mai echilibrate. Contrafactualele relevă când predicțiile devin nedrepte. Scopul este de a îmbunătăți echitatea diagnosticelor IA, nu de a elimina complet părtinirea. Datele sintetice completează datele reale; este necesară validarea clinică înainte de utilizare."