bias-mitigationsstrategi
En bias-mitigationsstrategi er en systematisk metode til at reducere eller eliminere bias i AI-modellers data, træning eller output.
Kort fortalt
Kort fortalt: en plan for at gøre AI-modeller mere retfærdige ved at mindske skævheder.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
En specifik teknik eller proces til at reducere bias i AI-systemer, fx reweighing, adversarial debiasing, eller fairness constraints.
- Ved at anvende en reweighing-bias-mitigationsstrategi kan man justere prøvevægte i træningsdata for at udligne repræsentation.
- Adversarial debiasing er en bias-mitigationsstrategi, hvor en modstridende klassifikator straffer modellen for at lære beskyttede attributter.
Hvornår bruges det
Bias-mitigationsstrategier anvendes typisk under dataforberedelse, modeltræning eller efterbehandling for at sikre retfærdighed i AI-systemer, især i kritiske anvendelser som ansættelse og strafferet.
Oprindelse
Termen er en sammensætning af 'bias' (skævhed), 'mitigation' (afhjælpning) og 'strategi' (plan), lånt fra engelsk 'bias mitigation strategy'.