model fortolkning
Model fortolkning er processen med at analysere og forklare, hvordan en maskinlæringsmodel træffer beslutninger, herunder hvilke faktorer der har størst betydning for modellens output.
Kort fortalt
Model fortolkning handler om at forstå, hvorfor en AI-model siger, hvad den gør – f.eks. hvilke træk i data, der fik den til at klassificere et billede som en kat.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Proces og sæt af teknikker til at opnå indsigt i en maskinlæringsmodels interne logik og forudsigelser, ofte ved at kvantificere bidraget fra inputfeatures.
- Model fortolkning afslørede, at beslutningstræet hovedsageligt brugte variablen 'alder' til at klassificere kunder.
- SHAP-værdier er en populær metode inden for model fortolkning til at forklare enkeltforudsigelser.
Hvornår bruges det
Model fortolkning bruges i praksis til at validere modellers adfærd, opdage bias, opfylde lovkrav (f.eks. GDPR om ret til forklaring) og opbygge tillid hos brugere. Typiske anvendelser omfatter fejlsøgning, model debugging og kommunikation af resultater til ikke-tekniske interessenter.
Oprindelse
Udtrykket 'model fortolkning' er en direkte oversættelse af det engelske 'model interpretation'. 'Interpretation' stammer fra latin 'interpretatio', der betyder 'forklaring' eller 'oversættelse'.
Afledte ord
2Kilder
2- Interpretable Machine Learning (Christoph Molnar, 2019)
- The Mythos of Model Interpretability (Lipton, 2016)