fairness audit
En fairness audit er en systematisk gennemgang af en AI-model for at identificere og adressere bias og diskrimination.
Kort fortalt
Kort fortalt: En fairness audit tjekker en AI-model systematisk for uretfærdige forskelsbehandlinger.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
En systematisk undersøgelse af en AI-models retfærdighed, typisk med henblik på at måle og afbøde bias over for beskyttede grupper.
- Virksomheden gennemførte en fairness audit af deres ansættelsesalgoritme før produktionssætning.
- Resultatet af fairness auditten viste en betydelig skævhed mod kvindelige ansøgere.
Hvornår bruges det
Fairness audits anvendes typisk inden implementering af højrisiko AI-systemer, fx inden for ansættelse, kreditvurdering eller strafferet. De udføres ofte af interne eller eksterne etiske komitéer og kan omfatte både kvantitative metrikker som demografisk paritet og kvalitative vurderinger af datakilder og modeladfærd.
Oprindelse
Begrebet stammer fra finansiel revision (audit) og er blevet overført til AI-etik i slutningen af 2010'erne.
Kilder
2- AI Fairness 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias
- Fairness and Abstraction in Sociotechnical Systems (Selbst et al., 2019)