Log Loss Kurve
En grafisk fremstilling af log loss (cross-entropy) som funktion af træningsiterationer eller epoker, brugt til at vurdere modelkonvergens og overfitting.
Kort fortalt
En log loss kurve viser, hvordan en models fejl udvikler sig under træning – en faldende kurve er godt, mens en stigende kurve kan indikere overfitting.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
2- 1
En graf, der afbilder log loss-værdier over antal træningsiterationer eller epoker, ofte med separate kurver for træning og validering.
- Log loss kurven viste tydelig overfitting, da valideringskurven begyndte at stige efter 50 epoker. — Praktisk eksempel
- For at vurdere modelkonvergens bør log loss kurven flade ud mod en lav værdi. — Maskinlæringslitteratur
- 2
Den karakteristiske form af en sådan graf, fx eksponentielt aftagende eller med et minimum.
- En ideel log loss kurve er monotont aftagende og flader ud mod nul. — Teoretisk beskrivelse
Hvornår bruges det
Log loss kurver bruges typisk under træning af klassifikationsmodeller for at overvåge, om modellen lærer effektivt. Ved at sammenligne trænings- og valideringskurver kan man opdage overfitting, hvis valideringskurven begynder at stige, mens træningskurven fortsætter ned.
Formel
Log loss = -(1/N) Σ [y_i log(p_i) + (1-y_i) log(1-p_i)]Oprindelse
Termen er en sammensætning af 'log loss' (logaritmisk tab) og 'kurve', der beskriver en grafisk fremstilling.
Kilder
2- Deep Learning (Goodfellow, Bengio, Courville)
- The Elements of Statistical Learning (Hastie, Tibshirani, Friedman)
Se også
- Overfitting
- log loss
- laeringskurve(mangler)