fortræningstrin
Et fortræningstrin er en fase i maskinlæring, hvor en model trænes på et stort, generelt datasæt for at lære grundlæggende repræsentationer.
Kort fortalt
Det er den indledende træning, hvor modellen lærer generel viden, før den specialiseres til en specifik opgave.
- Kategori
- træning
- Niveau
- øvet
- Udtale
- [ˈfɒːtʁɛnɪŋsˌtʁiːˀn]
Betydninger
1- 1
En fase i maskinlæring, hvor en model trænes på et stort, ustruktureret datasæt for at lære generelle mønstre og repræsentationer, ofte som forberedelse til finjustering.
- BERT's fortræningstrin foregik på BooksCorpus og Wikipedia. — Devlin et al., 2019
- Under fortræningstrinnet lærer sprogmodellen at forudsige næste ord i en sætning.
Hvornår bruges det
Fortræningstrin anvendes typisk i transfer learning, især med store sprogmodeller, hvor modellen først trænes på enorme tekstkorpus (f.eks. almindelig internettekst) og derefter finjusteres til en specifik opgave som tekstklassifikation eller sprogforståelse.
Oprindelse
Sammensat af 'fortræning' (præfiks 'for-' + 'træning') og 'trin', fra dansk.