sort boks model
En model, hvis interne beregninger og beslutningsproces ikke er direkte observerbare eller forståelige for mennesker.
Kort fortalt
En sort boks model er en model, der giver et output uden at man kan se, hvordan den kom frem til det.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- [sɔʁd bʌɡs moˈdeːl]
Betydninger
1- 1
En maskinlæringsmodel, hvis beslutningsproces er uigennemskuelig for mennesker, typisk på grund af høj kompleksitet eller manglende indbygget fortolkning.
- Dybe neurale netværk betragtes ofte som sort boks modeller, fordi det er svært at forstå, hvordan de vægter inputfeatures.
- EU's GDPR kræver i nogle tilfælde forklarlige beslutninger, hvilket er en udfordring for sort boks modeller.
Hvornår bruges det
Sort boks modeller bruges ofte i maskinlæring, især med komplekse neurale netværk, hvor det er svært at fortolke, hvad modellen har lært. De er effektive til mange opgaver, men kan være problematiske i situationer, hvor forklarlighed er påkrævet, fx i sundheds- eller finanssektoren.
Oprindelse
Udtrykket 'sort boks' stammer fra kybernetik og systemteori omkring 1940'erne, hvor en sort boks refererer til et system, hvis indre struktur er ukendt, men som kan studeres via dets input-output-adfærd.
Afledte ord
1Kilder
1- Interpretable Machine Learning: A Guide for Making Black Box Models Explainable