BCE
forkortelse for Binary Cross Entropy
BCE (Binary Cross Entropy) er en tabfunktion til binær klassifikation, der måler forskellen mellem sandsynligheder og sande binære etiketter.
Kort fortalt
BCE er en matematisk formel, der straffer modellen, når den gætter forkert i opgaver med to kategorier.
- Kategori
- træning
- Niveau
- øvet
- Udtale
- /biː siː iː/
Betydninger
1- 1
Tabfunktion for binær klassifikation, der kvantificerer forskellen mellem forudsagte sandsynligheder og de sande binære etiketter. Den er defineret som den negative logaritme af sandsynligheden for den sande klasse.
- Under træning af en binær klassifikator minimeres BCE for at opnå bedre prædiktioner. — Deep Learning, Goodfellow et al., 2016
Hvornår bruges det
BCE bruges som tabfunktion ved træning af neurale netværk til binær klassifikation, f.eks. spamdetektion eller sygdomsdiagnose. Den kombineres ofte med en sigmoid-aktiveringsfunktion i outputlaget.
Formel
BCE = - (1/N) * sum_{i=1}^{N} [ y_i * log(p_i) + (1-y_i) * log(1-p_i) ]Kodeeksempel
import tensorflow as tf
# Example usage in model compilation
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])Eksempel på brug af BCE som tabfunktion i TensorFlow/Keras.
Oprindelse
Binary Cross Entropy er en direkte anvendelse af krydsentropi fra informationsteori på binære udfald.
Kilder
2- Deep Learning (Goodfellow, Bengio, Courville, 2016)
- Binary Crossentropy Documentation, TensorFlow/Keras