logit
En logit er den rå, uomsatte outputværdi fra en model før en aktiveringsfunktion (fx softmax) omdanner den til en sandsynlighed.
Kort fortalt
Kort fortalt er en logit den interne score, en model tildeler en klasse, før den omregnes til en sandsynlighed.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- ˈloʊdʒɪt
Betydninger
2- 1
I logistisk regression er logitfunktionen defineret som ln(p/(1-p)), hvor p er sandsynligheden for en hændelse.
- Logitfunktionen bruges til at modellere binære udfald i logistisk regression.
- 2
I neurale netværk omtales de uomsatte værdier fra det sidste lag før softmax som logits.
- Logits fra klassifikationsmodellens sidste lag kan passes gennem softmax for at få sandsynligheder.
Hvornår bruges det
Logits anvendes i klassifikationsmodeller, især i neurale netværks sidste lag, for at repræsentere klasseværdier før softmax. De er vigtige for at forstå modellens usikkerhed og til output-normalisering.
Formel
logit(p) = ln(p / (1 - p))Kodeeksempel
import torch
logits = torch.tensor([[2.0, 1.0, 0.1]])
probs = torch.softmax(logits, dim=-1)
print(probs)Et eksempel på logits og softmax i PyTorch.
Oprindelse
Ordet 'logit' er en sammentrækning af 'logistic unit' (logistisk enhed), introduceret af Joseph Berkson i 1944.