XAI
forkortelse for Explainable Artificial Intelligence
XAI (Explainable Artificial Intelligence) betegner metoder og teknikker der gør AI-systemers beslutninger og output forståelige og fortolkbare for mennesker.
Kort fortalt
XAI handler om at åbne den sorte boks i AI, så vi kan forstå hvorfor en model træffer bestemte beslutninger.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- /ɛks eɪ aɪ/
Betydninger
1- 1
Samling af metoder, teknikker og rammeværker der sigter mod at gøre kunstig intelligens-systemer forståelige for mennesker, herunder både prædiktive forklaringer (lokale og globale) og fortolkning af modellers indre repræsentationer.
- Med XAI kan læger stole på en AI-diagnose, fordi systemet kan forklare hvilke billedområder der førte til konklusionen.
- Forskere arbejder på at standardisere XAI-evalueringer for at sammenligne forskellige forklaringsteknikker.
Hvornår bruges det
XAI anvendes i højrisikoområder som sundhedsdiagnostik, kreditvurdering og strafferet for at sikre transparens og ansvarlighed. Det inkluderer teknikker som LIME (Local Interpretable Model-agnostic Explanations) og SHAP (SHapley Additive exPlanations).
Oprindelse
Udtrykket XAI opstod omkring 2015 som en reaktion på deep learning-modellers uigennemsigtighed og behovet for ansvarlig AI. Det populariseredes af DARPA's XAI-program i 2016.
Afledte ord
3Kilder
3- Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI (Arrieta et al., 2020)
- A Survey of Methods for Explaining Black Box Models (Guidotti et al., 2018)
- Why Should I Trust You? Explaining the Predictions of Any Classifier (Ribeiro et al., 2016)