GPU-klynge

En GPU-klynge er en samling af flere GPU'er forbundet via et højhastighedsnetværk, der arbejder sammen om at udføre parallelle beregninger.

Kort fortalt

En GPU-klynge er en gruppe af grafikkort, der er sat sammen for at regne hurtigere – fx til at træne store AI-modeller.

Kategori
værktøj
Niveau
øvet
Udtale
/ˈdʒiːpiːjuː ˈklyŋə/

Betydninger

1
  1. 1

    En samling af flere GPU'er, der er forbundet via et højhastighedsnetværk for at udføre parallelle beregninger, typisk brugt til maskinlæring og videnskabelige simuleringer.

    • At træne GPT-4 krævede en enorm GPU-klynge med tusindvis af GPU'er.
    • Virksomheden har investeret i en ny GPU-klynge til deres AI-forskning.

Hvornår bruges det

GPU-klynger bruges især til at træne store sprogmodeller og deep learning-modeller, der kræver massiv parallelberegning. De anvendes også i videnskabelig computing, simuleringer og rendering. I praksis består en GPU-klynge af flere servere med GPU'er forbundet med NVIDIA NVLink eller InfiniBand for lav latenstid.

Oprindelse

Termen er en sammensætning af 'GPU' (Graphics Processing Unit) og 'klynge' (cluster), fra computernetværksterminologi. Begrebet opstod i takt med behovet for parallel computing i højtydende databehandling.

Afledte ord

1

Kilder

1
  • GPU Cluster Computing: A Survey