algorithmic fairness
Algorithmic fairness betegner fraværet af systematisk bias eller diskrimination i algoritmers resultater, så forskellige grupper behandles retfærdigt.
Kort fortalt
Kort fortalt: at sikre at AI-systemer ikke favoriserer eller diskriminerer bestemte grupper af mennesker.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Den tekniske definition af algorithmic fairness omfatter en række statistiske kriterier, der sikrer, at en models beslutninger ikke systematisk stiller bestemte grupper ringere. Almindelige fairness-metrics inkluderer demographic parity (lige sandsynlighed for positiv udfald på tværs af grupper), equal opportunity (lige sandsynlighed for sande positive) og equalized odds (lige sandsynlighed for sande positive og falske positive).
- For at opnå algorithmic fairness i ansættelsesmodellen anvendte vi en equal opportunity-constraint, så modellen havde samme true positive rate for alle kønsgrupper. — Hardt et al., 2016
- Algorithmic fairness kræver en afvejning mellem forskellige fairness-definitioner, da de ofte er uforenelige. — Friedler et al., 2018
Hvornår bruges det
Begrebet anvendes inden for AI-etik, modelauditering og regulering. Det omsættes til konkrete fairness-metrics som demographic parity, equal opportunity og equalized odds, der måler og afhjælper bias i modeller.
Oprindelse
Termen opstod i 2010'erne i forbindelse med voksende bekymring for bias i maskinlæring, særligt inden for kreditvurdering, ansættelse og strafferet.
Afledte ord
2Kilder
3- Fairness through Awareness (Dwork et al., 2012)
- Equality of Opportunity in Supervised Learning (Hardt et al., 2016)
- The Measure and Mismeasure of Fairness (Friedler et al., 2018)