intern repræsentation
De indre (skjulte) repræsentationer af data, som en neural netværksmodel lærer i sine skjulte lag.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
2- 1
Den latente repræsentation af inputdata, som dannes i et neuralt netværks skjulte lag efter træning; fx en vektor af aktiveringer, der fanger underliggende mønstre.
- I en autoenkoder tvinges netværket til at lære en komprimeret intern repræsentation af inputtet. — Lærebog i dyb læring, 2023
- Transformer-modeller som BERT gemmer kontekstuelle intern repræsentationer i hvert lag. — Forskningsartikel, 2019
- 2
I kontekst af forklarlig AI (XAI) refererer intern repræsentation til de mellemliggende aktiveringer, der kan visualiseres eller fortolkes for at forstå modellens beslutningsproces.
- Ved at analysere den interne repræsentation i et konvolutionelt neuralt netværk kan man se, hvilke træk modellen genkender. — XAI-vejledning, 2021
Kodeeksempel
# Hent interne repræsentationer fra et skjult lag i Keras
from keras.models import Model
intermediate_layer_model = Model(inputs=model.input, outputs=model.get_layer('hidden_layer').output)
internal_repr = intermediate_layer_model.predict(x_test)Eksempel på, hvordan man ekstraherer den interne repræsentation (aktiveringer) fra et navngivet skjult lag i et Keras-netværk.
Oprindelse
Udtrykket kommer fra kognitionsvidenskab og forbindelsesmodeller (connectionism), hvor det betegner de mentale eller netværksinterne repræsentationer, der opstår under læring.