fortolkningsteknik

1. 1

   Metode eller værktøj, der gør det muligt for mennesker at forstå, forklare eller have tillid til beslutninger truffet af en AI-model, især komplekse modeller som dybe netværk.

   • Vi anvendte en fortolkningsteknik til at finde ud af, hvilke features der var vigtigst for klassifikationen.
   • Fortolkningsteknikken viste, at modellen lagde for stor vægt på en biased feature.

Bruges i praksis til at validere modeladfærd, opdage bias eller overholde reguleringskrav som GDPR. Eksempler omfatter LIME, SHAP og Attention Maps.

import lime
import lime.lime_tabular
explainer = lime.lime_tabular.LimeTabularExplainer(
    training_data=X_train, feature_names=feature_names, class_names=class_names, mode='classification'
)
exp = explainer.explain_instance(X_test[0], model.predict_proba)
exp.show_in_notebook()

Simpelt eksempel på brug af LIME til at forklare en enkelt forudsigelse fra en klassifikationsmodel.

Sammensat af 'fortolkning' og 'teknik', sandsynligvis en oversættelse af det engelske 'interpretability technique'.

• Ribeiro, M.T., Singh, S., Guestrin, C. (2016). 'Why Should I Trust You?' Explaining the Predictions of Any Classifier.
• Lundberg, S.M., Lee, S.I. (2017). A Unified Approach to Interpreting Model Predictions (SHAP).