SHAP
forkortelse for SHapley Additive exPlanations
SHAP er en metode baseret på spilteori til at forklare output fra maskinlæringsmodeller ved at tildele hver feature en bidragsværdi.
Kort fortalt
SHAP forklarer, hvorfor en model gav et bestemt resultat, ved at vise, hvor meget hver enkelt inputvariabel har bidraget.
- Kategori
- teknik
- Niveau
- øvet
- Udtale
- /ʃæp/
Betydninger
1- 1
En forklaringsmetode der bruger Shapley-værdier til at fordele en models forudsigelse på de enkelte features.
- SHAP-metoden viste, at alder var den vigtigste faktor i kreditvurderingsmodellen. — Lundberg & Lee, 2017
- Ved hjælp af SHAP kunne vi forstå, hvorfor modellen klassificerede e-mailen som spam. — Lundberg & Lee, 2017
Hvornår bruges det
SHAP anvendes til modelforklaring og debugging, især for komplekse modeller som ensembler og deep learning. Det giver både globale og lokale forklaringer og er modelagnostisk.
Formel
φ_i = Σ_{S⊆N∖{i}} (|S|!(|N|-|S|-1)!)/|N|! · (f(S∪{i}) - f(S))Kodeeksempel
import shap
explainer = shap.Explainer(model, X_train)
shap_values = explainer(X_test)
shap.plots.waterfall(shap_values[0])Eksempel på brug af SHAP i Python med shap-biblioteket.
Oprindelse
Termen er en forkortelse for 'SHapley Additive exPlanations', introduceret af Lundberg og Lee i 2017.