sætnings-embeddingmodel
En sætnings-embeddingmodel er en neurale netværksmodel, der kortlægger sætninger til fikserede vektorer (embeddings), som fanger sætningens semantiske betydning.
Kort fortalt
En model, der omsætter sætninger til tal (vektorer), så sætninger med lignende betydning får lignende tal.
- Kategori
- model
- Niveau
- øvet
Betydninger
1- 1
En model, der producerer en vektorrepræsentation af en hel sætning.
- Sentence-BERT er en populær sætnings-embeddingmodel, der finjusterer BERT til at producere semantisk meningsfulde embeddings. — Reimers & Gurevych, 2019
- Med en sætnings-embeddingmodel kan man beregne cosinus-ligheden mellem to sætninger.
Hvornår bruges det
Sætnings-embeddingmodeller bruges til opgaver som semantisk lighed, clustering, informationssøgning og klassifikation. De er ofte baseret på transformer-arkitekturer og trænes med kontrastiv læring eller siamesiske netværk.
Kodeeksempel
from sentence_transformers import SentenceTransformer
model = SentenceTransformer('all-MiniLM-L6-v2')
sentences = ["Dette er en sætning.", "En anden sætning."]
embeddings = model.encode(sentences)
print(embeddings.shape) # (2, 384)Eksempel på brug af sentence-transformers biblioteket til at hente embeddings for to sætninger.
Oprindelse
Sammensat af 'sætning', 'embedding' (indlejring) og 'model'. Begrebet opstod med udviklingen af neurale sprogmodeller som BERT og specifikke modeller som Sentence-BERT.
Afledte ord
2Kilder
2- Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
Se også
- Embedding
- Transformer-arkitektur
- cosinus-lighed(mangler)
- kontrastiv-læring(mangler)