fairness constraint
En fairness constraint er en betingelse, der pålægges en model for at sikre, at dens forudsigelser ikke diskriminerer på baggrund af beskyttede karakteristika som køn eller race.
Kort fortalt
Fairness constraints er regler, der tvinger en AI-model til at behandle alle grupper lige, så den ikke diskriminerer.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
En matematisk betingelse, der pålægger en model at opfylde et bestemt fairness-kriterium, f.eks. demografisk paritet, lige muligheder eller lige chancer.
- For at sikre ikke-diskrimination blev der tilføjet en fairness constraint, der krævede, at modellens fejlrate var ens på tværs af etniske grupper. — Forskningsartikel om fairness, 2020
- Fairness constraints kan implementeres som Lagrange-multiplikatorer i tabfunktionen.
Hvornår bruges det
Fairness constraints anvendes under træning af en model, enten som en del af optimeringsproblemet eller som en post-hoc justering. De specificeres typisk som uligheder eller ligheder på tværs af grupper, f.eks. at sandsynligheden for en positiv forudsigelse skal være den samme for mænd og kvinder.
Oprindelse
Termen stammer fra forskning i maskinlæringsetik og fairness, hvor man søger at indføre eksplicitte begrænsninger for at modvirke bias.
Kilder
1- Fairness Constraints: A Flexible Approach for Fair Classification