equal opportunity

1. 1

   Equal opportunity (eller lighed i muligheder) refererer til en fairness-betingelse, hvor en models sande positive rate (TPR) er den samme for alle grupper defineret af en beskyttet attribut (f.eks. race eller køn). Opfyldelse betyder, at modellen giver kvalificerede individer fra forskellige grupper lige stor chance for at få en positiv forudsigelse.

   • Ansættelsesmodellen blev evalueret mht. equal opportunity for at sikre, at kvalificerede kvinder og mænd havde samme sandsynlighed for at blive kaldt til samtale. — Fagartikel, 2023
   • En klassifikator, der opfylder equal opportunity, kan stadig have forskelle i falsk positive rate, hvilket håndteres af det stærkere begreb equalized odds. — Hardt et al., 2016

Equal opportunity bruges typisk som et fairness-mål i klassifikationssystemer, fx ved ansættelse eller kreditvurdering, for at sikre at kvalificerede kandidater fra forskellige grupper har samme sandsynlighed for at blive udvalgt.

P(Ŷ=1 | Y=1, A=0) = P(Ŷ=1 | Y=1, A=1)

Begrebet stammer fra juridisk og filosofisk diskurs om lige muligheder, men blev formaliseret i maskinlæring af Hardt et al. i 2016.

• Equality of Opportunity in Supervised Learning (Hardt et al., 2016)
• Fairness and Abstraction in Sociotechnical Systems (Selbst et al., 2019)