implicit bias-fælden
Den ubevidste og utilsigtede introduktion af bias i AI-systemer, ofte gennem skæve træningsdata eller modelantagelser, som fører til systematisk uretfærdige resultater.
Kort fortalt
Når en AI utilsigtet lærer at være partisk, fordi træningsdataene eller modellen indeholder skævheder, og det er svært at opdage.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Den situation hvor et AI-system udviser systematisk skævhed over for bestemte grupper, fordi bias er indlejret i dataene eller modellen på en måde, der er svær at identificere og fjerne.
- Implicit bias-fælden kan opstå, når et ansættelsesværktøj trænes på historiske data, der afspejler tidligere diskrimination. — Eksempel konstrueret til ordbogen
- Selv neutrale modeller kan ramme implicit bias-fælden, hvis de ikke testes grundigt på tværs af demografiske grupper. — Eksempel konstrueret til ordbogen
Hvornår bruges det
Begrebet bruges i etisk debat og forskning for at advare mod de skjulte mekanismer, der kan gøre AI-systemer uretfærdige, fx i ansættelsesalgoritmer eller straffeudmåling. Det understreger vigtigheden af grundig dataaudit og bias-testning.
Oprindelse
Sammensat af 'implicit bias' (ubevidst fordom) og 'fælde' (faldgrube). Udbredt gennem fairness-litteratur om AI, fx Barocas & Selbst (2016).
Afledte ord
2Kilder
2- Barocas, S., & Selbst, A. D. (2016). Big Data's Disparate Impact. California Law Review, 104(3), 671-732.
- Danks, D., & London, A. J. (2017). Algorithmic Bias in Autonomous Systems. IJCAI.