XAI-metode
forkortelse for Explainable Artificial Intelligence
En XAI-metode er en teknik, der gør det muligt at forstå og fortolke output fra en AI-model.
Kort fortalt
Kort fortalt: en metode der forklarer, hvorfor en AI-model træffer en bestemt beslutning.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
En specifik teknik inden for forklarlig kunstig intelligens, der har til formål at gøre AI-modellers beslutninger gennemskuelige og forståelige for mennesker.
- LIME er en populær XAI-metode, der forklarer enkeltforudsigelser ved at tilpasse en lokal lineær model.
- SHAP er en XAI-metode baseret på spilteori, der beregner Shapley-værdier for hver feature.
Hvornår bruges det
XAI-metoder anvendes inden for områder som sundhedsvæsen, finans og jura, hvor det er afgørende at kunne forstå modellens beslutningsgrundlag. De spænder fra simple forklaringer som feature importance til komplekse modeller som LIME og SHAP.
Oprindelse
Termen XAI er en forkortelse for det engelske 'Explainable Artificial Intelligence', mens 'metode' henviser til en systematisk fremgangsmåde.
Kilder
3- Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). 'Why Should I Trust You?': Explaining the Predictions of Any Classifier. KDD.
- Lundberg, S. M., & Lee, S.-I. (2017). A Unified Approach to Interpreting Model Predictions. NeurIPS.
- Arrieta, A. B. et al. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges. Information Fusion.