bias-detektionsværktøj
Værktøj til at identificere og kvantificere bias i AI-systemers data, modeller eller output.
Kort fortalt
Et bias-detektionsværktøj hjælper med at finde skævheder i AI-systemer, så man kan gøre dem mere retfærdige.
- Kategori
- værktøj
- Niveau
- øvet
Betydninger
1- 1
Software eller metode der systematisk analyserer AI-systemer for statistiske skævheder, såsom køns-, race- eller aldersbias, typisk ved at evaluere modeloutput på tværs af undergrupper.
- Vi bruger et bias-detektionsværktøj til at tjekke, om ansættelsesalgoritmen diskriminerer kvinder.
- IBM AI Fairness 360 er et open-source bias-detektionsværktøj med over 70 fairness-metrikker.
Hvornår bruges det
Bruges under udvikling og audit af AI-systemer til at teste for skævheder på tværs af demografiske grupper, typisk med metrikker som demografisk paritet, equalized odds og disparate impact.
Oprindelse
Sammensætning af 'bias' (skævhed, fordom) og 'detektionsværktøj' (værktøj til at opdage).