bias test datasæt
Et datasæt konstrueret til at afsløre og kvantificere skævhed (bias) i en AI-models forudsigelser.
Kort fortalt
Et testdatasæt der er designet til at tjekke om en AI-model behandler forskellige grupper forskelligt.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Et datasæt, der specifikt er udvalgt eller konstrueret til at evaluere, om en AI-model udviser forskelsbehandling eller systematisk fejl over for bestemte grupper, fx baseret på køn, race eller alder.
- Vi anvendte et bias test datasæt til at undersøge, om sprogmodellen var mere præcis for mandlige end kvindelige navne.
- Bias test datasættet indeholdt billeder af personer med forskellig hudfarve for at teste ansigtsgenkendelsens lighed.
Hvornår bruges det
Bias test datasæt bruges i fairness-evaluering af maskinlæringsmodeller, ofte før en model sættes i produktion. De indeholder eksempler fra forskellige demografiske grupper og er mærket med sande værdier, så man kan sammenligne modellens præstation på tværs af grupper.
Oprindelse
Udtrykket kommer fra engelsk 'bias test dataset', hvor 'bias' refererer til systematisk fejl i modellens output, og 'test dataset' er et datasæt brugt til evaluering.
Afledte ord
2Kilder
2- Datasheets for Datasets (Gebru et al., 2021)
- Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (Buolamwini & Gebru, 2018)
Se også
- Evaluering
- Fairness
- bias
- datasæt(mangler)