Autograd
Autograd er en automatisk differentieringsteknik, der beregner gradienter af en funktion i forhold til dens input ved at opbygge et beregningsgraf og anvende kædereglen.
Kort fortalt
Autograd er en metode til automatisk at beregne hældninger (gradienter), så maskinlæringsmodeller kan lære ved at justere deres parametre.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Automatisk differentiering, der beregner gradienter ved at spore operationer på et beregningsgraf og anvende kædereglen baglæns.
- PyTorchs autograd gør det muligt at beregne gradienter automatisk under backpropagation.
Hvornår bruges det
Autograd bruges i deep learning-frameworks som PyTorch og TensorFlow til træning af neurale netværk. Det gør det muligt at beregne gradienter af tabsfunktionen i forhold til alle modelparametre i én frem- og baglæns gennemløb.
Kodeeksempel
import torch
x = torch.tensor([1.0, 2.0], requires_grad=True)
y = x[0]**2 + x[1]**3
y.backward()
print(x.grad) # outputs tensor([2., 12.])Eksempel på brug af autograd i PyTorch til at beregne gradienter for en simpel funktion.
Oprindelse
Navnet 'Autograd' er en sammentrækning af 'automatisk' og 'gradient' og blev først populært af PyTorch.