DNN

forkortelse for Deep Neural Network

En dyb neurale netværk er et neuralt netværk med mange skjulte lag, der kan lære komplekse mønstre.

Kort fortalt

Et DNN er et neuralt netværk med mange lag, der gør det i stand til at løse avancerede opgaver som billedgenkendelse og sprogbehandling.

Kategori
arkitektur
Niveau
øvet
Udtale
/diː ɛn ɛn/

Betydninger

1
  1. 1

    Et neuralt netværk med et stort antal skjulte lag (typisk mere end to), der muliggør indlæring af hierarkiske repræsentationer af data.

    • DNN'er har revolutioneret computervision gennem dyb convolutional neural networks.
    • Træning af en DNN kræver store datamængder og betydelig regnekraft.

Hvornår bruges det

DNN'er bruges i en lang række applikationer, herunder billedklassifikation, talegenkendelse og naturlig sprogbehandling. De trænes typisk ved hjælp af backpropagation og gradient descent.

Formel

For et feedforward DNN: h^{(l)} = σ(W^{(l)} h^{(l-1)} + b^{(l)}) for hvert lag l, med aktivationsfunktion σ. Samlet: y = f_L(f_{L-1}(...f_1(x)...)).

Kodeeksempel

from keras.models import Sequential
from keras.layers import Dense

model = Sequential([
    Dense(64, activation='relu', input_shape=(784,)),
    Dense(64, activation='relu'),
    Dense(10, activation='softmax')
])
model.compile(optimizer='adam', loss='categorical_crossentropy')

Eksempel på en DNN med to skjulte lag i Keras til klassifikation af håndskrevne cifre.

Oprindelse

Termen "dybt neuralt netværk" opstod i 2000'erne i kølvandet på genopdagelsen af deep learning-teknikker, især med Hinton et al.'s arbejde på dybe troende netværk.

Afledte ord

2

Kilder

2
  • Deep Learning (2016) – Goodfellow, Bengio, Courville
  • A fast learning algorithm for deep belief nets (2006) – Hinton, Osindero, Teh