demographic parity
En fairness-metrik, der kræver, at sandsynligheden for en positiv forudsigelse er den samme på tværs af beskyttede grupper.
Kort fortalt
Demographic parity sikrer, at modellen giver lige mange positive resultater til alle demografiske grupper, uanset forskelle i data.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Et fairness-kriterium, der kræver, at en models forudsigelser er statistisk uafhængige af beskyttede attributter som køn eller race.
- Demographic parity blev brugt til at evaluere om ansættelsesalgoritmen behandlede mandlige og kvindelige kandidater lige.
- En klassifikator opfylder demographic parity, når andelen af positive forudsigelser er identisk for alle demografiske grupper.
Hvornår bruges det
Demographic parity anvendes ofte som et fairnesskrav i maskinlæringssystemer, især i ansættelse, udlån og strafferet. Det måler om modellen favoriserer en bestemt gruppe ved at sammenligne forudsigelsesrater på tværs af grupper.
Formel
P(Ŷ = 1 | A = a) = P(Ŷ = 1) for all a, or equivalently P(Ŷ = 1 | A = 0) = P(Ŷ = 1 | A = 1)Oprindelse
Udtrykket 'demographic parity' stammer fra fairness-litteraturen og refererer til kravet om lige udfald på tværs af demografiske grupper. Det blev formaliseret i værker som 'Fairness through awareness' (Dwork et al., 2012).
Kilder
2- Fairness through awareness (Dwork et al., 2012)
- Equality of Opportunity in Supervised Learning (Hardt et al., 2016)