fairness-metric
En fairness-metric er et kvantitativt mål der evaluerer om en models forudsigelser opfylder et bestemt fairness-kriterium på tværs af grupper.
Kort fortalt
Kort fortalt: En fairness-metric er en metode til at måle om en AI-model behandler forskellige grupper retfærdigt.
- Kategori
- metrik
- Niveau
- øvet
Betydninger
1- 1
Et kvantitativt mål der vurderer en models retfærdighed ved at sammenligne dens prædiktioner på tværs af beskyttede grupper (f.eks. race, køn).
- Ved evalueringen af ansættelsesmodellen anvendte vi demographic parity som fairness-metric for at sikre, at udvælgelsesraten var ens på tværs af køn.
- Equal opportunity-metricen fokuserer på at sikre, at sande positive rater er ens for alle grupper.
Hvornår bruges det
Fairness-metrics bruges til at identificere og kvantificere bias i maskinlæringsmodeller, især i højrisiko-områder som ansættelse, kreditvurdering og strafferet. De er ofte en del af model-evaluering og kan være i konflikt med hinanden, så valget af metric afhænger af den specifikke kontekst og definitionen af fairness.
Formel
Demographic Parity Difference: |P(Ŷ=1|A=a) - P(Ŷ=1|A=b)|Oprindelse
Sammensat af 'fairness' (retfærdighed) og 'metric' (måleenhed).
Afledte ord
3Kilder
2- Equality of Opportunity in Supervised Learning
- Fairness and Machine Learning: Limitations and Opportunities