ikke linearitet

En egenskab ved en funktion eller model, hvor outputtet ikke er proportionalt med inputtet, hvilket er afgørende for neurale netværks evne til at lære komplekse mønstre.

Kort fortalt

Kort fortalt: ikke-linearitet betyder, at en models output ændrer sig uforholdsmæssigt i forhold til input, hvilket gør det muligt for neurale netværk at lære komplicerede sammenhænge.

Kategori
begreb
Niveau
begynder

Betydninger

1
  1. 1

    Inden for kunstig intelligens og maskinlæring: egenskaben ved en aktiveringsfunktion eller et lag, der gør det muligt for en model at lære komplekse, ikke-lineære relationer mellem input og output.

    • Uden ikke-linearitet ville et neuralt netværk med flere lag svare til et enkelt lineært lag.
    • ReLU er den mest anvendte ikke-linearitet i moderne deep learning.

Hvornår bruges det

I praksis indføres ikke-linearitet i neurale netværk gennem aktiveringsfunktioner som ReLU, sigmoid eller tanh. Uden ikke-linearitet ville et neuralt netværk uanset dybde kun kunne repræsentere lineære transformationer, hvilket stærkt begrænser dets udtrykskraft.

Oprindelse

Fra latin 'linearis' (linje) med præfiks 'ikke-', betegner egenskaben at ikke være lineær.

Kilder

1
  • Deep Learning (Goodfellow et al., 2016)