forklarlig AI
Forklarlig AI (XAI) betegner metoder og teknikker, der gør kunstig intelligens' beslutninger og forudsigelser forståelige for mennesker.
Kort fortalt
Forklarlig AI handler om at gøre sorte bokse som neurale netværk gennemsigtige, så vi kan forstå hvorfor de træffer bestemte beslutninger.
- Kategori
- begreb
- Niveau
- begynder
Betydninger
2- 1
Det overordnede forskningsfelt og sæt af principper, der sigter mod at gøre AI-systemers indre arbejde og beslutninger forståelige for mennesker.
- Forklarlig AI er afgørende for at sikre ansvarlighed i autonome køretøjer. — Forskningsartikel, 2021
- Mange myndigheder kræver forklarlig AI i kreditvurderingssystemer.
- 2
Specifikke metoder og værktøjer, såsom LIME, SHAP og grad-CAM, der genererer forklaringer for individuelle forudsigelser eller modeladfærd.
- Ved hjælp af SHAP-værdier kan vi se, hvilke features der bidrager mest til modellens beslutning. — Lundberg & Lee, 2017
Hvornår bruges det
Forklarlig AI bruges i højrisikoområder som medicin, finans og jura for at skabe tillid og opfylde lovkrav. Det anvendes også til debugging af modeller og til at opdage bias eller fejl.
Kodeeksempel
import lime
import lime.lime_tabular
explainer = lime.lime_tabular.LimeTabularExplainer(training_data, feature_names=feature_names, class_names=class_names, mode='classification')
exp = explainer.explain_instance(instance, model.predict_proba)
exp.show_in_notebook()Eksempel på brug af LIME til at forklare en enkelt forudsigelse fra en klassifikationsmodel.
Oprindelse
Udtrykket 'forklarlig AI' er en dansk oversættelse af det engelske 'explainable AI', som blev fremtrædende omkring 2010'erne i forskningsmiljøer.