Nvidia CUDA

1. 1

   Parallel computerplatform og API, der giver adgang til Nvidia GPU'ers regnekraft via udvidelser af sprog som C, C++ og Fortran.

   • Træningen af den store sprogmodel blev accelereret med Nvidia CUDA for at udnytte GPU-cores effektivt. — eksempel
   • CUDA understøtter biblioteker som cuDNN og cuBLAS til deep learning og lineær algebra. — eksempel
2. 2

   Den underliggende hardwarearkitektur i Nvidia GPU'er designet til parallel behandling.

   • De nyeste Nvidia GPU'er har tusindvis af CUDA-kerner, der arbejder parallelt. — eksempel

CUDA anvendes typisk i high-performance computing, maskinlæring og videnskabelige simuleringer, hvor store mængder data skal behandles parallelt. Det gør det muligt at skrive effektive programmer, der eksekverer på GPU'er med tusindvis af kerner.

__global__ void vectorAdd(const float *a, const float *b, float *c, int n) {
    int i = blockIdx.x * blockDim.x + threadIdx.x;
    if (i < n) c[i] = a[i] + b[i];
}

int main() {
    // ... allocate memory, launch kernel
    vectorAdd<<<numBlocks, blockSize>>>(d_a, d_b, d_c, n);
}

En simpel CUDA-kernel, der adderer to vektorer elementvis på GPU'en.

Akronym for 'Compute Unified Device Architecture' (dansk: samlet computerarkitektur for enheder). Introduceret af Nvidia i 2006 med GeForce 8800 GTX-grafikkortet.

• Nvidia CUDA Dokumentation