neurale sprogmodel
En sprogmodel baseret på neurale netværk, der forudsiger sandsynligheden af sekvenser af ord.
Kort fortalt
En neurale sprogmodel er en AI der lærer at forudsige næste ord i en sætning ved at analysere store mængder tekst.
- Kategori
- model
- Niveau
- øvet
Betydninger
1- 1
En statistisk model for sprog, der anvender et neuralt netværk til at estimere sandsynlighedsfordelingen over ordsekvenser.
- Neurale sprogmodeller har revolutioneret maskinoversættelse ved at generere mere flydende oversættelser.
- Træning af en neurale sprogmodel kræver store tekstkorpus og betydelige beregningsressourcer.
Hvornår bruges det
Bruges inden for naturlig sprogbehandling til opgaver som tekstgenerering, maskinoversættelse og talegenkendelse. Moderne neurale sprogmodeller som GPT bygger på transformerarkitekturen.
Oprindelse
Udtrykket kombinerer 'neural' (fra neuralt netværk) og 'sprogmodel' (en statistisk model for sprog).
Kilder
2- A Neural Probabilistic Language Model (Bengio et al., 2003)
- Language Models are Few-Shot Learners (Brown et al., 2020)