vægtjustering
Vægtjustering er opdateringen af en models parametre baseret på gradienten af tabsfunktionen for at minimere fejl.
Kort fortalt
Det er den proces, hvor en model lærer ved at justere sine interne tal for at forbedre sine forudsigelser.
- Kategori
- træning
- Niveau
- begynder
- Udtale
- [ˈvɛɡd.juˌsteˀɐ̯eŋ]
Betydninger
1- 1
Opdatering af en models parametre under træning for at reducere tabsfunktionen.
- Under træning foretages vægtjustering for hvert batch.
- Vægtjusteringen afhænger af indlæringshastigheden og gradienten.
Hvornår bruges det
Vægtjustering foretages under træning af neurale netværk og andre maskinlæringsmodeller, typisk via backpropagation og optimeringsmetoder som SGD eller Adam. Det sker for hvert batch eller datapunkt.
Formel
Δw = -η ∇LKodeeksempel
# Simpel gradient descent opdatering
learning_rate = 0.01
w = w - learning_rate * gradEksempel på vægtjustering i Python med gradient descent.
Oprindelse
Sammensat af 'vægt' (værdien af en parameter) og 'justering' (tilpasning), fra engelsk 'weight adjustment'.
Afledte ord
1Kilder
1- Deep Learning (Goodfellow et al., 2016)