Forklarbar AI
forkortelse for Explainable AI (XAI)
Forklarbar AI (XAI) betegner metoder og teknikker, der gør det muligt for mennesker at forstå, fortolke og have tillid til resultater og beslutninger fra kunstig intelligens.
Kort fortalt
Forklarbar AI handler om at gøre kunstig intelligens gennemsigtig, så vi kan forstå, hvorfor en AI-model træffer bestemte beslutninger.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Et sæt af teknikker, der gør AI-modellers beslutninger forståelige for mennesker, ofte ved at levere lokale eller globale forklaringer.
- Ved hjælp af LIME kan man få en lokal forklaring på, hvorfor en klassifikator forudsagde en bestemt sygdom for en given patient. — Ribeiro et al. (2016)
- SHAP-værdier er en populær metode inden for forklarbar AI til at beregne bidraget fra hver feature til en models prædiktion. — Lundberg & Lee (2017)
Hvornår bruges det
Forklarbar AI anvendes især i kritiske domæner som medicin, finans og jura, hvor det er vigtigt at kunne begrunde modelbeslutninger. Det bruges også til at debugge modeller og sikre overholdelse af regulativer som GDPR.
Oprindelse
Udtrykket 'forklarbar AI' er en oversættelse af det engelske 'Explainable AI (XAI)', som blev populært omkring 2016 i takt med øget fokus på gennemsigtighed i AI-systemer.
Afledte ord
3Kilder
2- Why Should I Trust You? Explaining the Predictions of Any Classifier (Ribeiro et al., 2016)
- A Unified Approach to Interpreting Model Predictions (Lundberg & Lee, 2017)