parameterfinjustering
Parameterfinjustering er processen, hvor en allerede trænet model tilpasses til en ny, relateret opgave ved at fortsætte træningen med et mindre, opgavespecifikt datasæt, typisk med en lavere læringsrate.
Kort fortalt
Parameterfinjustering betyder at tage en model, der allerede kan noget generelt, og træne den lidt videre, så den bliver god til en bestemt opgave.
- Kategori
- træning
- Niveau
- øvet
Betydninger
2- 1
Træningsproces, hvor alle eller udvalgte vægte i en prætrænet model opdateres med et nyt datasæt til en ny opgave.
- Vi udførte parameterfinjustering af BERT til klassifikation af juridiske tekster.
- 2
Parameterfinjustering kan også referere til specifikke metoder, hvor kun et lille antal parametre justeres (parameter-effektiv finjustering), fx ved hjælp af LoRA.
- Med parameter-effektiv finjustering som LoRA kan store sprogmodeller tilpasses med minimalt beregningsbehov.
Hvornår bruges det
Bruges når man har en prætrænet model (fx BERT eller GPT) og vil specialisere den til en specifik anvendelse som sentimentanalyse eller spørgsmålsbesvarelse. Hele modellen eller kun toppen opdateres med små opdateringer af vægtene.
Kodeeksempel
from transformers import AutoModelForSequenceClassification, Trainer, TrainingArguments
model = AutoModelForSequenceClassification.from_pretrained("bert-base-uncased")
training_args = TrainingArguments(output_dir="./results", learning_rate=2e-5)
trainer = Trainer(model=model, args=training_args, train_dataset=train_dataset)
trainer.train()Eksempel på finjustering af BERT med HuggingFace Transformers.
Oprindelse
Fra engelsk 'fine-tuning', sammensat af 'fine' (fin) og 'tuning' (justering), oprindeligt fra musik og teknik.
Afledte ord
2Kilder
2- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding (Devlin et al., 2019)
- LoRA: Low-Rank Adaptation of Large Language Models (Hu et al., 2021)