deep feedforward network
Et dybt feedforward-netværk er et neuralt netværk med flere lag, hvor information flyder fra input til output uden cykler.
Kort fortalt
En AI-model, der lærer mønstre ved at sende data gennem en række lag, der gradvist transformerer det.
- Kategori
- arkitektur
- Niveau
- øvet
Betydninger
1- 1
Et neuralt netværk bestående af et inputlag, et eller flere skjulte lag og et outputlag, hvor hvert lag er fuldt forbundet til næste lag, og signaler forplanter sig uden cykler.
- Et dybt feedforward-netværk med tre skjulte lag kan tilnærme enhver kontinuert funktion, givet tilstrækkeligt mange neuroner. — Goodfellow et al., Deep Learning, 2016
- Træning af et dybt feedforward-netværk kræver omhyggelig initialisering af vægte for at undgå forsvindende gradienter. — forskningsartikel, 2020
Hvornår bruges det
Dybe feedforward-netværk bruges som grundbyggesten i mange maskinlæringssystemer, især til klassifikation og regression. De trænes ofte med backpropagation og anvendes i alt fra billedgenkendelse til sprogmodellering som del af større arkitekturer.
Kodeeksempel
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense
model = Sequential([
Dense(64, activation='relu', input_shape=(784,)),
Dense(64, activation='relu'),
Dense(10, activation='softmax')
])Et eksempel på et dybt feedforward-netværk bygget med Keras: inputlag (784 neuroner), to skjulte lag (64 hver med ReLU) og et outputlag (10 klasser med softmax).
Oprindelse
Termen 'feedforward' betyder at information kun sendes fremad (ingen tilbagekobling), og 'deep' refererer til tilstedeværelsen af flere skjulte lag.
Kilder
1- Deep Learning (Goodfellow, Bengio, Courville)