dropout-rate
Hyperparameter der angiver sandsynligheden for at en neuron deaktiveres under dropout-regulering.
Kort fortalt
Sandsynlighed for at slukke en neuron under træning for at undgå overfitting.
- Kategori
- teknik
- Niveau
- øvet
- Udtale
- /ˈdrɒpaʊt reɪt/
Betydninger
1- 1
Sandsynligheden p, som bestemmer om en neuron bevares (med sandsynlighed 1-p) eller deaktiveres under en fremadrettet passage i træning.
- En dropout-rate på 0,5 betyder, at hver neuron har 50 % chance for at blive deaktiveret. — JMLR, 2014
Hvornår bruges det
Dropout-rate sættes typisk mellem 0,2 og 0,5 under træning af neurale netværk. En høj rate giver mere regulering, men kan føre til underfitting.
Kodeeksempel
from tensorflow.keras.layers import Dropout
layer = Dropout(rate=0.5) # dropout-rate = 0.5Eksempel på dropout-layer med rate 0,5 i Keras.
Oprindelse
Fra dropout-teknikken, hvor neuroner 'droppes' (fjernes) tilfældigt.