bias-værdi
En bias-værdi refererer enten til en systematisk afvigelse i en models forudsigelser eller til et konstant led i en lineær model/neuron, der tillader fleksibel tilpasning.
Kort fortalt
Bias-værdi er en værdi, der bruges til at justere en models output, enten som en konstant i en neuron eller som et mål for systematisk fejl.
- Kategori
- begreb
- Niveau
- øvet
- Udtale
- /ˈbajˀasˌvɛɐ̯di/
Betydninger
2- 1
Systematisk fejl i en maskinlæringsmodel, der opstår når modellen er for simpel og ikke indfanger de underliggende mønstre i data (underfitting). Måles ofte som forskellen mellem modelens gennemsnitlige forudsigelse og den sande værdi.
- En lineær model af et ikke-lineært fænomen har høj bias-værdi, fordi den ikke kan tilpasse sig kurver.
- Bias-værdien i bias-variance tradeoff er et mål for, hvor meget modellen afviger fra den sande funktion.
- 2
Konstant led i en lineær model eller et neuralt netværk, der tillader outputtet at blive forskudt uafhængigt af input. I et neuralt netværk tilføjes bias-værdien til vægtede input før aktiveringsfunktionen.
- I en neuron beregnes outputtet som aktiveringsfunktionen af summen af vægtede input plus bias-værdien.
- Bias-værdien i et lineært lag gør det muligt for modellen at tilpasse sig data, selv når alle input er nul.
Hvornår bruges det
I træning af neurale netværk opdateres bias-værdien sammen med vægtene via backpropagation. I evaluering af modeller bruges bias-værdien i bias-variance tradeoff til at beskrive modellens evne til at tilpasse sig data.
Oprindelse
Fra engelsk 'bias', der betyder 'skævhed' eller 'forudindtagethed', kombineret med dansk 'værdi'.
Afledte ord
3Kilder
2- The Elements of Statistical Learning (Hastie et al., 2009)
- Deep Learning (Goodfellow et al., 2016)