equalized odds
Et fairness-kriterium i maskinlæring, der kræver, at sandsynligheden for en positiv forudsigelse er den samme på tværs af grupper for både positive og negative sande labels.
Kort fortalt
Equalized odds sikrer, at en model laver lige mange fejl af samme type for alle demografiske grupper.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Et fairness-krav, der kræver lige sandsynlighed for korrekte og forkerte forudsigelser på tværs af grupper givet den sande klasse. Det sikrer, at både false positive rate og false negative rate er ens for alle grupper.
- For at opfylde equalized odds skal modellen have samme false positive rate for både mandlige og kvindelige ansøgere.
- Equalized odds er et stærkere fairness-kriterium end equal opportunity, da det også kræver lighed i false positive rates.
Hvornår bruges det
Anvendes til at evaluere eller træne modeller, så de ikke diskriminerer baseret på beskyttede attributter som race eller køn. Det er stærkere end demographic parity, da det også tager hensyn til den sande label.
Formel
P(Ŷ=1|Y=1,A=a) = P(Ŷ=1|Y=1,A=b) og P(Ŷ=0|Y=0,A=a) = P(Ŷ=0|Y=0,A=b)Oprindelse
Begrebet blev introduceret af Hardt et al. (2016) som en formalisering af fairness i prædiktive modeller.
Afledte ord
1Kilder
1- Equality of Opportunity in Supervised Learning (Hardt et al., 2016)