embeddinglag
Et lag i et neuralt netværk, der kortlægger diskrete kategoriske input, såsom ord eller tokens, til tætte vektorer af faste dimensioner.
Kort fortalt
Embeddinglaget konverterer ord eller andre diskrete værdier til talvektorer, så netværket kan forstå dem.
- Kategori
- arkitektur
- Niveau
- øvet
- Udtale
- [ɛmˈbɛdɪŋˌlæːˀj]
Betydninger
1- 1
Et neuralt netværkslag, der implementerer en opslagstabel, der mapper hver unik kategorisk værdi (fx et ord) til en lærebar tæt vektor.
- Embeddinglaget i modellen har en dimensionsstørrelse på 300 og dækker et ordforråd på 50.000 unikke tokens.
- Ved at bruge et embeddinglag kan netværket lære semantiske relationer mellem ord.
Hvornår bruges det
Embeddinglag bruges typisk i sprogmodeller og anbefalingssystemer til at repræsentere ord eller elementer i et kontinuert vektorrum. Lagets vægte trænes sammen med resten af netværket eller initialiseres med forudtrænede embeddings som Word2Vec.
Kodeeksempel
from tensorflow.keras.layers import Embedding
embedding_layer = Embedding(input_dim=10000, output_dim=128, input_length=10)Opretter et embeddinglag med et ordforråd på 10.000 og en embeddingsdimension på 128, for sekvenser af længde 10.
Oprindelse
Sammensat af 'embedding' (indlejring) og 'lag' (layer), fra engelsk 'embedding layer'.