bias
Systematisk afvigelse i en models forudsigelser eller i data, der fører til skæve eller uretfærdige resultater.
Kort fortalt
Bias i AI betyder, at en model laver systematiske fejl, ofte fordi træningsdataene er skæve eller afspejler fordomme.
- Kategori
- begreb
- Niveau
- begynder
- Udtale
- /ˈbajʌs/
Betydninger
2- 1
Statistisk bias: systematisk afvigelse mellem en estimators forventede værdi og den sande værdi.
- En model med høj bias undervurderer systematisk de komplekse mønstre i data.
- Bias-varians-afvejningen er grundlæggende for at forstå overfitting og underfitting.
- 2
Social bias: systematisk unfair behandling af bestemte grupper som følge af skæve data eller modelantagelser.
- Ansigtsgenkendelsessystemer har vist racebias, fordi træningsdataene overvejende indeholdt lyse hudtoner.
- For at reducere bias i ansættelsesalgoritmer bør man anvende fairness-metrikker som demografisk paritet.
Hvornår bruges det
Bias kan opstå i forskellige faser: i data (fx underrepræsentation), i modellen (fx antagelser) eller i fortolkningen. Det er et centralt problem inden for fairness i AI og kræver omhyggelig validering og afhjælpning.
Formel
For en estimator θ̂: bias = E[θ̂] - θOprindelse
Fra engelsk 'bias' (skævhed, fordom), med samme betydning i statistik og maskinlæring.
Afledte ord
3Kilder
3- Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings
- Fairness and Abstraction in Sociotechnical Systems
- The Elements of Statistical Learning