bias-detektionsmetode
En teknik eller metode til at identificere systematisk skævhed eller unfairness i en AI-models output eller træningsdata.
Kort fortalt
En bias-detektionsmetode finder uretfærdige mønstre i en AI-model, fx at den diskriminerer mod bestemte grupper.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
En formaliseret tilgang til at måle og identificere bias i maskinlæringsmodeller, ofte baseret på fairness-metrikker som demografisk paritet eller lige muligheder.
- Ved at anvende en bias-detektionsmetode på sprogmodellen fandt de, at den associerede bestemte jobtitler oftere med mænd end kvinder. — Tidsskrift for AI-etik, 2023
- Bias-detektionsmetoder som 'equalized odds' kan afsløre forskelsbehandling på tværs af demografiske grupper.
Hvornår bruges det
Bias-detektionsmetoder anvendes under model-evaluering for at afsløre skævheder før udrulning. De kan være statistiske (fx equalized odds) eller testbaserede (fx adversarial testing). Bruges ofte i forbindelse med fairness-audits og -rapportering.
Oprindelse
Sammensætning af 'bias' (skævhed) og 'detektionsmetode' (metode til at opdage).
Kilder
1- Fairness and Machine Learning: Limitations and Opportunities (Barocas, Hardt & Narayanan, 2019)