TPU-v2

forkortelse for Tensor Processing Unit version 2

Googles anden generation af specialbyggede ASIC'er til acceleration af maskinlæringsarbejdsbelastninger.

Kort fortalt

En specialbygget chip fra Google til at træne og køre neurale netværk meget hurtigere end almindelige processorer.

Kategori
værktøj
Niveau
øvet

Betydninger

1
  1. 1

    Googles anden generation af hardwareaccelerator specifikt designet til maskinlæring, med understøttelse af både træning og inferens.

    • Ved at bruge TPU-v2 kunne vi reducere træningstiden for GPT-modellen fra uger til dage.
    • Google Cloud TPU-v2 tilbyder op til 180 TFLOPS pr. chip til deep learning-arbejdsbelastninger.

Hvornår bruges det

TPU-v2 bruges primært i Google Cloud til træning af store deep learning-modeller og til inference. Den er designet til at udføre matrixoperationer effektivt og understøtter både træning og inferens i flydende komma med bfloat16-præcision.

Oprindelse

Forkortelse af 'Tensor Processing Unit version 2'; TPU er et akronym opfundet af Google for deres specialiserede hardware til tensoroperationer.

Afledte ord

1