model forklaring
Model forklaring refererer til metoder og teknikker, der anvendes til at forstå og fortolke, hvorfor en AI-model træffer bestemte beslutninger eller forudsigelser.
Kort fortalt
Kort fortalt: Model forklaring handler om at gøre en AI-models beslutninger forståelige for mennesker.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Samlet betegnelse for metoder, der gør AI-modellers beslutninger transparente og fortolkbare, herunder lokale forklaringer (f.eks. LIME, SHAP) og globale forklaringer (f.eks. feature importance).
- Ved hjælp af model forklaring kunne vi identificere, at modellen lagde for stor vægt på en urelevant feature.
- GDPR stiller krav om model forklaring for beslutninger, der påvirker borgere.
Hvornår bruges det
Model forklaring bruges i praksis til at validere modeller, opbygge tillid, overholde regulering (f.eks. GDPR's ret til forklaring) og fejlfinde. Det anvendes ofte i højrisiko-domæner som sundhed, finans og jura.
Oprindelse
Sammensat af 'model' (model) og 'forklaring' (explanation).
Kilder
3- Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). 'Why Should I Trust You?' Explaining the Predictions of Any Classifier. KDD.
- Lundberg, S. M., & Lee, S. I. (2017). A Unified Approach to Interpreting Model Predictions. NeurIPS.
- Arrieta, A. B., et al. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges. Information Fusion.