Log Loss Kurve

En grafisk fremstilling af log loss (cross-entropy) som funktion af træningsiterationer eller epoker, brugt til at vurdere modelkonvergens og overfitting.

Kort fortalt

En log loss kurve viser, hvordan en models fejl udvikler sig under træning – en faldende kurve er godt, mens en stigende kurve kan indikere overfitting.

Kategori
begreb
Niveau
øvet

Betydninger

2
  1. 1

    En graf, der afbilder log loss-værdier over antal træningsiterationer eller epoker, ofte med separate kurver for træning og validering.

    • Log loss kurven viste tydelig overfitting, da valideringskurven begyndte at stige efter 50 epoker.Praktisk eksempel
    • For at vurdere modelkonvergens bør log loss kurven flade ud mod en lav værdi.Maskinlæringslitteratur
  2. 2

    Den karakteristiske form af en sådan graf, fx eksponentielt aftagende eller med et minimum.

    • En ideel log loss kurve er monotont aftagende og flader ud mod nul.Teoretisk beskrivelse

Hvornår bruges det

Log loss kurver bruges typisk under træning af klassifikationsmodeller for at overvåge, om modellen lærer effektivt. Ved at sammenligne trænings- og valideringskurver kan man opdage overfitting, hvis valideringskurven begynder at stige, mens træningskurven fortsætter ned.

Formel

Log loss = -(1/N) Σ [y_i log(p_i) + (1-y_i) log(1-p_i)]

Oprindelse

Termen er en sammensætning af 'log loss' (logaritmisk tab) og 'kurve', der beskriver en grafisk fremstilling.

Kilder

2
  • Deep Learning (Goodfellow, Bengio, Courville)
  • The Elements of Statistical Learning (Hastie, Tibshirani, Friedman)