sort boks
En sort boks er et AI-system, hvis interne logik og beslutningsproces ikke er synlig eller forståelig for en udenforstående.
Kort fortalt
Kort fortalt: En sort boks er en kunstig intelligens, hvor du kan se input og output, men ikke hvordan den når frem til sine svar.
- Kategori
- begreb
- Niveau
- begynder
Betydninger
1- 1
Et system, ofte et AI-system, hvis indre virkemåde er ukendt eller uigennemskuelig, og som kun kan analyseres via dets input og output.
- Mange moderne AI-modeller fungerer som en sort boks, hvilket gør dem svære at debugge.
- Forklarlig AI forsøger at åbne den sorte boks og gøre modellernes beslutninger forståelige.
Hvornår bruges det
Bruges til at beskrive især dybe neurale netværk, hvor vægtene og aktiveringerne ikke umiddelbart kan fortolkes. Det er et centralt problem inden for forklarlig AI (XAI), fordi manglende gennemsigtighed kan føre til bias, fejl og manglende tillid.
Oprindelse
Termen stammer fra cybernetik og ingeniørvidenskab, hvor en sort boks betegner et system, der kun betragtes ud fra input/output, uden viden om den interne struktur.
Afledte ord
2Kilder
2- Interpretable Machine Learning
- Towards a rigorous science of interpretable machine learning