bias-mitigation
Bias-mitigation er en samling af teknikker, der anvendes til at identificere, måle og reducere systematiske skævheder i AI-modellers data, træning eller beslutninger.
Kort fortalt
Kort fortalt: Bias-mitigation er metoder, der sikrer, at AI-systemer behandler alle grupper retfærdigt og ikke diskriminerer.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Processen med at reducere uretfærdig forskelsbehandling i AI-systemer, ofte opdelt i præ-processering (data), in-process (model) og post-processering (output).
- Virksomheden implementerede bias-mitigation for at sikre, at ansøgningssystemet ikke diskriminerede mod bestemte køn.
- En populær bias-mitigationsteknik er at omvægte træningsdata, så underrepræsenterede grupper får større indflydelse.
Hvornår bruges det
Bias-mitigation anvendes typisk i udviklingsfasen af AI-systemer, især når data eller modeller risikerer at forstærke eksisterende samfundsmæssige skævheder. Det indbefatter teknikker som data-augmentation, fairness-begrænsninger i optimering og efterbehandling af modeloutput.
Oprindelse
Fra engelsk 'bias' (skævhed) og 'mitigation' (afbødning).
Afledte ord
2Kilder
2- A Survey on Bias and Fairness in Machine Learning
- Fairness and Abstraction in Sociotechnical Systems