fortolkelig AI
Fortolkelig AI refererer til AI-systemer, hvis beslutninger og output kan forstås og forklares af mennesker.
Kort fortalt
Kort fortalt: AI der kan forklare sine beslutninger på en måde, mennesker kan forstå.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Egenskab ved et AI-system der gør det muligt for mennesker at forstå, hvorfor en given beslutning eller forudsigelse er truffet, typisk gennem menneskelæsbare forklaringer.
- Modellen er designet med fortolkelig AI-principper, så læger kan forstå dens anbefalinger.
- Den nye lovgivning kræver fortolkelig AI i kreditvurderingssystemer.
Hvornår bruges det
Bruges i regulerede brancher som sundhed og finans, hvor forklarlighed er påkrævet. Vægtes ofte mod nøjagtighed i modelvalg.
Oprindelse
Sammensat af 'fortolkelig' (kan fortolkes) og 'AI'.
Kilder
2- Interpretable Machine Learning: A Guide for Making Black Box Models Explainable
- The Mythos of Model Interpretability