CUDA

forkortelse for Compute Unified Device Architecture

En parallel computerplatform og programmeringsmodel fra NVIDIA til generel databehandling på GPU'er.

Kort fortalt

CUDA lader dig bruge grafikkort til at lave beregninger meget hurtigere end med en almindelig CPU.

Kategori
værktøj
Niveau
øvet

Betydninger

1
  1. 1

    En parallel computerplatform og programmeringsmodel, der muliggør effektiv udnyttelse af NVIDIA GPU'er til generel databehandling.

    • Træningen af sprogmodellen blev accelereret ved at bruge CUDA til at parallelisere matrixoperationer på GPU'en.Eksempel fra praksis
    • PyTorch understøtter CUDA til at køre beregninger på GPU'en med et enkelt kald som `.to('cuda')`.PyTorch dokumentation

Hvornår bruges det

CUDA anvendes i maskinlæring til at accelerere træning og inferens af neurale netværk, især med store datasæt eller komplekse modeller. Det bruges også i videnskabelig computing, billedbehandling og simulation.

Kodeeksempel

import cupy as cp
a = cp.array([1, 2, 3])
b = cp.array([4, 5, 6])
c = a + b
print(c)

Elementvis addition med CuPy, der udnytter CUDA.

Oprindelse

Akronym for Compute Unified Device Architecture, introduceret af NVIDIA i 2007.

Kilder

1