tensor core-accelereret
Betegnelse for beregninger, typisk matrixmultiplikationer, der udføres ved hjælp af specialiserede tensor cores i GPU'er for at opnå højere gennemstrømning og energieffektivitet.
Kort fortalt
Tensor core-accelereret betyder, at en beregning kører på særlige hardwareenheder i GPU'en, der er optimeret til at gange store matricer hurtigt.
- Kategori
- begreb
- Niveau
- øvet
Betydninger
1- 1
Beregninger, der udnytter tensor cores i GPU'er for at opnå accelereret udførelse, typisk af matrixmultiplikationer og konvolutioner, ofte med blandet præcision (FP16/INT8).
- Ved at bruge tensor core-accelererede operationer kan træningstiden for store sprogmodeller reduceres markant.
Hvornår bruges det
Udtrykket bruges ofte i forbindelse med træning og inferens af deep learning-modeller, især når man anvender NVIDIA GPU'er med tensor cores. Det indikerer, at koden eller biblioteket udnytter tensor cores til at fremskynde operationer som f.eks. GEMM (general matrix multiply).
Oprindelse
Udtrykket er sammensat af 'tensor core', som refererer til NVIDIA's dedikerede hardwareenheder til tensoroperationer introduceret med Volta-arkitekturen i 2017, og 'accelereret', der betyder at beregningen udføres hurtigere.