bias-detektionsframework
Et bias-detektionsframework er en samling af værktøjer, metrikker og retningslinjer designet til at identificere, måle og afhjælpe bias i maskinlæringsmodeller.
Kort fortalt
Et værktøjssæt der hjælper med at finde og rette skævheder i AI-modeller.
- Kategori
- værktøj
- Niveau
- øvet
Betydninger
1- 1
Et integreret sæt af værktøjer og metoder til at analysere maskinlæringsmodeller for uretfærdige forudsigelser eller behandling af forskellige demografiske grupper.
- IBM AI Fairness 360 er et åbent bias-detektionsframework, der indeholder over 70 fairness-metrikker. — IBM Research
- Google's What-If Tool er et interaktivt bias-detektionsframework til at visualisere modeladfærd. — Google AI
Hvornår bruges det
Bias-detektionsframeworks bruges typisk under modeludvikling og -evaluering for at sikre, at modellen ikke diskriminerer mod bestemte grupper. De anvendes også til at dokumentere modeladfærd i forbindelse med lovkrav som EU's AI Act.
Kodeeksempel
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df=df, label_names=['income'], protected_attribute_names=['race'])
metric = BinaryLabelDatasetMetric(dataset, privileged_groups=[{'race': 1}], unprivileged_groups=[{'race': 0}])
print('Disparate impact:', metric.disparate_impact())Eksempel på brug af AI Fairness 360 til at beregne disparate impact (forskelsbehandling) på et datasæt.
Oprindelse
Sammensat af 'bias' (skævhed), 'detektion' (opdagelse) og 'framework' (rammeværk), fra engelsk.
Kilder
2- AI Fairness 360: An Extensible Toolkit for Detecting and Mitigating Algorithmic Bias
- What-If Tool: Interactive Visual Analysis of Machine Learning Models