TFLite

forkortelse for TensorFlow Lite

TFLite er et lightweight framework fra Google til at køre maskinlæringsmodeller på enheder med begrænsede ressourcer som mobile, indlejrede og edge-enheder.

Kort fortalt

TFLite gør det muligt at køre AI-modeller direkte på din telefon eller en lille enhed i stedet for i skyen.

Kategori
værktøj
Niveau
øvet
Udtale
tiː ɛf laɪt

Betydninger

1
  1. 1

    Et open-source deep learning framework til inference og deployment af ML-modeller på edge-enheder. Det inkluderer en konverter, runtime, og hardwareacceleration via delegater.

    • Vi konverterede vores TensorFlow-model til TFLite og opnåede 4x hastighedsforøgelse på en Raspberry Pi.TensorFlow dokumentation, 2023

Hvornår bruges det

TFLite bruges typisk til at implementere trænede TensorFlow-modeller på mobile apps, IoT-enheder eller edge-servere. Modeller konverteres til TFLite-formatet (.tflite) og kan optimeres med kvantisering for at reducere størrelse og latens.

Kodeeksempel

import tensorflow as tf

# Convert the model
converter = tf.lite.TFLiteConverter.from_saved_model('my_model')
tflite_model = converter.convert()

# Save the model
with open('model.tflite', 'wb') as f:
    f.write(tflite_model)

Konvertering af en TensorFlow SavedModel til TFLite-format.

Oprindelse

Akronym for TensorFlow Lite; 'Lite' henviser til dets letvægtsdesign.

Afledte ord

3

Kilder

1