Neuralt netværk

1. 1

   En generel model bestående af et inputlag, et eller flere skjulte lag og et outputlag, hvor hver neuron i et lag er forbundet til neuroner i næste lag via vægtede forbindelser.

   • Et neuralt netværk med et skjult lag kan approksimere enhver kontinuerlig funktion.
   • Træning af et neuralt netværk indebærer at minimere en tabsfunktion ved at justere vægtene.
2. 2

   Et dybt neuralt netværk (deep learning) er et neuralt netværk med mange skjulte lag, som muliggør indlæring af hierarkiske repræsentationer.

   • Dybe neurale netværk har opnået banebrydende resultater inden for billedgenkendelse og naturlig sprogforståelse.
   • Convolutional neurale netværk (CNN) er en specialiseret type dybt neuralt netværk til billeddata.

Neurale netværk bruges i mange AI-applikationer som billedgenkendelse, sprogbehandling og spil. De trænes ved at justere vægte mellem neuroner baseret på data, ofte ved hjælp af backpropagation.

y = f(∑(w_i * x_i) + b), hvor f er en aktiveringsfunktion, w_i er vægte, x_i er input, og b er bias.

import tensorflow as tf
model = tf.keras.Sequential([
    tf.keras.layers.Dense(64, activation='relu', input_shape=(784,)),
    tf.keras.layers.Dense(10, activation='softmax')
])
model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])

Et simpelt neuralt netværk med et skjult lag på 64 neuroner og et outputlag på 10 neuroner til klassifikation af MNIST.

Termen stammer fra neurovidenskab og blev først brugt i 1940'erne af McCulloch og Pitts til at modellere logiske operationer i hjernen. Senere udviklede Rosenblatt perceptronen i 1958.

• McCulloch, W. & Pitts, W. (1943). A Logical Calculus of Ideas Immanent in Nervous Activity
• Rumelhart, D. et al. (1986). Learning representations by back-propagating errors
• LeCun, Y. et al. (2015). Deep learning