Fairness
Fairness refererer til princippet om, at AI-systemer ikke må udvise systematisk bias eller diskrimination over for bestemte grupper.
Kort fortalt
Fairness handler om at sikre, at AI ikke er uretfærdig over for nogen mennesker.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
2- 1
Fairness i AI refererer til fraværet af bias eller diskrimination i modelprædiktioner, således at forskellige grupper behandles lige.
- Fairness er et centralt princip i ansvarlig AI-udvikling.
- 2
I machine learning refererer fairness til specifikke metrikker som demografisk paritet, equal opportunity og equalized odds, der kvantificerer forskelle i modeladfærd på tværs af demografiske grupper.
- Equal opportunity kræver, at modellen har samme sande positive rate for alle grupper. — Hardt et al., 2016
Hvornår bruges det
Begrebet fairness bruges i udvikling og evaluering af AI-modeller for at identificere og afbøde bias, især i højrisikoapplikationer som ansættelse, kreditvurdering og strafferetspleje.
Oprindelse
Fra engelsk fairness, der betyder retfærdighed eller upartiskhed.