PTM
forkortelse for Pre-Trained Model
En PTM er en model, der er blevet trænet på en stor, generel datasæt, som derefter kan finjusteres til specifikke opgaver.
Kort fortalt
En PTM er en færdigtrænet model, der kan tilpasses nye opgaver uden at starte fra bunden.
- Kategori
- model
- Niveau
- begynder
- Udtale
- /piː tiː ɛm/
Betydninger
1- 1
En model, typisk et neuralt netværk, der er blevet trænet på en stor mængde data (f.eks. al tekst på internettet) for at lære generelle repræsentationer, som derefter kan anvendes eller finjusteres til mere specifikke opgaver.
- BERT er en populær PTM udviklet af Google, der anvendes til en bred vifte af NLP-opgaver. — Forskningsartikel, 2018
- Ved brug af en PTM kan man reducere behovet for store annoterede datasæt betydeligt.
Hvornår bruges det
PTM'er bruges som udgangspunkt for overførselslæring; man tager en model trænet på et generelt korpus (f.eks. BERT, GPT) og finjusterer den til en specifik opgave som tekstklassifikation eller maskinoversættelse.
Oprindelse
Forkortelse for 'Pre-Trained Model', engelsk for 'forhåndstrænet model'.