lag
Et lag er en samling af neuroner eller enheder i et neuralt netværk, der behandler input og sender output til næste lag.
Kort fortalt
Et lag i et neuralt netværk er som et trin i en pipeline, der transformerer dataene.
- Kategori
- arkitektur
- Niveau
- begynder
- Udtale
- /lɑːˀ/
Betydninger
2- 1
En byggesten i et neuralt netværk, bestående af et antal neuroner, der modtager input, anvender en vægtet sum og en aktiveringsfunktion, og sender output videre.
- Det første lag i netværket er et inputlag med 784 neuroner.
- Et skjult lag med ReLU-aktivering anvendes efter det tætte lag.
- 2
En abstraktion af et niveau i en hierarkisk arkitektur, f.eks. i en transformer, hvor et lag består af selvopmærksomhed og feed-forward-netværk.
- Transformeren består af 6 identiske lag, hver med multi-head attention og et position-wise feed-forward netværk.
Hvornår bruges det
Lag bruges til at opbygge neurale netværk ved at stable dem. Typiske lagtyper er tætte lag, konvolutionslag og aktiveringslag. Valget af lag afhænger af opgaven, f.eks. billedgenkendelse (konvolutionslag) eller tekstbehandling (transformers).
Kodeeksempel
from tensorflow.keras import layers, models
model = models.Sequential()
model.add(layers.Dense(128, activation='relu', input_shape=(784,)))
model.add(layers.Dense(10, activation='softmax'))Eksempel på opbygning af et neuralt netværk med to tætte lag i Keras.
Oprindelse
Fra oldnordisk 'lag' (det at lægge, ligge) og tysk 'Lage'. I AI-terminologi er det en oversættelse af engelsk 'layer'.