GPU
forkortelse for Graphics Processing Unit
En specialiseret processor designet til parallel behandling, der anvendes i kunstig intelligens til at accelerere træning og inferens af neurale netværk.
Kort fortalt
GPU er en chip, der kan udføre mange beregninger på én gang, hvilket gør den ideel til AI-opgaver som at træne store modeller.
- Kategori
- værktøj
- Niveau
- begynder
- Udtale
- ˌdʒiː piː ˈjuː
Betydninger
1- 1
Hardwareaccelerator, der udfører parallelle beregninger på tusindvis af kerner, anvendt til at fremskynde træning og inferens af maskinlæringsmodeller.
- Træning af en stor sprogmodel som GPT-4 kræver tusindvis af GPU'er i ugevis.
- De fleste dybdelæringsrammer understøtter GPU-acceleration via CUDA eller ROCm.
Hvornår bruges det
GPU'er bruges i AI til at udføre matrixmultiplikation og andre paralleliserbare operationer, som er grundlaget for neurale netværk. De er afgørende for at reducere træningstiden for deep learning-modeller og muliggøre realtidsinferens i applikationer som sprogmodeller og billedgenkendelse.
Kodeeksempel
import torch
if torch.cuda.is_available():
device = torch.device('cuda')
print('Using GPU:', torch.cuda.get_device_name(0))
else:
device = torch.device('cpu')
print('Using CPU')
model = model.to(device)Kodeeksempel der viser, hvordan man tjekker for GPU og flytter en model til GPU'en ved hjælp af PyTorch.
Oprindelse
Oprindeligt udviklet til grafikbehandling i computere (deraf navnet Graphics Processing Unit). I midten af 2000'erne begyndte forskere at bruge GPU'er til generel parallel beregning (GPGPU), hvilket førte til deres udbredelse i AI.