Forklarlighed
Evnen til at forstå og fortolke, hvordan en AI-model når frem til sine beslutninger eller forudsigelser.
Kort fortalt
Det handler om at gøre AI-modellers beslutninger gennemsigtige og forståelige for mennesker.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- fʌˈklɑːliˌheð
Betydninger
1- 1
Kvaliteten ved en AI-model, der gør dens beslutninger og forudsigelser gennemsigtige og forståelige for mennesker, ofte gennem værktøjer som feature importance, LIME eller SHAP.
- Modellens forklarlighed gør det muligt at identificere, hvilke features der driver en bestemt forudsigelse.
- Virksomheden kræver høj forklarlighed for at opfylde lovkrav om gennemsigtighed.
Hvornår bruges det
Forklarlighed er vigtig i regulerede brancher som finans, sundhed og jura, hvor man skal kunne dokumentere og retfærdiggøre beslutninger. Den bruges også til at opdage bias og fejl i modeller.
Oprindelse
Ordet 'forklarlighed' er dannet af 'forklare' + '-lighed', analogt med engelsk 'explainability'.
Afledte ord
2Kilder
2- Explainable AI: A Review of Machine Learning Interpretability Methods
- The Mythos of Model Interpretability