sigmoid
Sigmoidefunktionen er en matematisk funktion med en S-formet kurve, der afbilder enhver reel værdi til et interval mellem 0 og 1.
Kort fortalt
Sigmoid er en aktiveringsfunktion, der gør det muligt for neurale netværk at lære ikke-lineære mønstre ved at omdanne input til et tal mellem 0 og 1.
- Kategori
- teknik
- Niveau
- begynder
- Udtale
- /ˈsɪɡmɔɪd/
Betydninger
1- 1
Matematisk funktion, der afbilder en reel værdi til intervallet (0,1), ofte brugt som aktiveringsfunktion i neurale netværk.
- I et neuralt netværk anvender vi sigmoid-aktiveringen i det skjulte lag for at introducere ikke-linearitet.
- Sandsynligheden for at et billede indeholder en kat beregnes ved hjælp af en sigmoid-funktion på outputlaget.
Hvornår bruges det
Sigmoid bruges i neurale netværk som en aktiveringsfunktion i skjulte lag, især i ældre arkitekturer. I binære klassifikationsproblemer bruges sigmoid i outputlaget til at forudsige sandsynligheder. I moderne deep learning er ReLU ofte foretrukket frem for sigmoid i skjulte lag pga. vanishing gradient-problemet.
Formel
σ(x) = 1 / (1 + e^-x)Kodeeksempel
def sigmoid(x):
return 1 / (1 + np.exp(-x))Implementering af sigmoid-funktionen i Python ved hjælp af NumPy.
Oprindelse
Fra græsk 'sigmoides' (σ-format), der beskriver den S-formede kurve.
Afledte ord
2Kilder
1- Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning.