TFLite Converter
forkortelse for TensorFlow Lite Converter
Værktøj der konverterer TensorFlow-modeller til det optimerede TFLite-format til mobile og edge-enheder.
Kort fortalt
En converter der gør store modeller mindre og hurtigere, så de kan køre på smartphones og små enheder.
- Kategori
- værktøj
- Niveau
- øvet
- Udtale
- /ˈtiː ɛf laɪt kənˈvɜːrtər/
Betydninger
2- 1
Komponent i TensorFlow, der oversætter en trænet model til TFLite-formatet med understøttelse af kvantisering, fletning af operationer og fjernelse af unødvendige nodes.
- Efter træning brugte vi TFLite Converter til at konvertere modellen til et 4 MB stort TFLite-format med INT8-kvantisering. — tensorflow.org
- 2
Kommandolinjeværktøj (tflite_convert) der udfører konvertering uden for Python-miljøet, typisk brugt i CI/CD-pipelines.
- Vi skrev et bash-script, der kører tflite_convert for at generere .tflite-filer til forskellige kvantiseringsopsætninger. — TensorFlow documentation
Hvornår bruges det
Bruges når man skal deploye en TensorFlow-model på en mobil, embedded eller IoT-enhed. Konverteringen understøtter kvantisering (FP16, INT8) og optimering for at reducere størrelse og latens.
Kodeeksempel
import tensorflow as tf
# Load a SavedModel
converter = tf.lite.TFLiteConverter.from_saved_model('saved_model')
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_types = [tf.float16]
tflite_model = converter.convert()
# Save the model
with open('model.tflite', 'wb') as f:
f.write(tflite_model)Konverterer en SavedModel til TFLite-format med standardoptimering og FP16-kvantisering.
Oprindelse
TensorFlow Lite er Googles lightweight-rammeværk til edge computing; converteren er den komponent, der oversætter standard TensorFlow-modeller til dette format.