bias test metrik
En bias test metrik er et kvantitativt mål, der vurderer, om en AI-model udviser systematisk forskelsbehandling over for bestemte grupper baseret på beskyttede attributter som køn eller race.
Kort fortalt
Kort fortalt er en bias test metrik et tal, der fortæller, om en AI-model behandler alle grupper lige, eller om den diskriminerer nogle.
- Kategori
- metrik
- Niveau
- øvet
Betydninger
1- 1
Et mål, der kvantitativt vurderer forskelle i modelpræstation eller -beslutninger på tværs af demografiske grupper, såsom demographic parity difference, equal opportunity difference eller disparate impact ratio.
- For at validere modellens retfærdighed beregnede vi en bias test metrik for kønsbias i ansættelsesalgoritmen.
- Bias test metrikken viste en signifikant forskel i falsk positive rate mellem etniske grupper.
Hvornår bruges det
Bias test metrikker bruges i fairness-evaluering af maskinlæringsmodeller for at opdage og kvantificere bias. De anvendes typisk i testfasen og kan indgå i fairness-rapporter eller audits.
Oprindelse
Fra engelsk 'bias test metric', hvor 'bias' betyder skævhed og 'metric' betyder målestok.
Kilder
1- AI Fairness 360: An Extensible Toolkit for Detecting and Mitigating Algorithmic Bias