OpenVINO

OpenVINO aide à faire tourner des modèles efficacement sur du hardware Intel. Un développeur prend un modèle de PyTorch, TensorFlow ou ONNX, le convertit, et l’optimise avec des techniques comme la quantification, puis le fait tourner sur des CPU, des GPU intégrés et discrets, et des unités de traitement neuronal. Ça rend l’IA praticable sur des portables et des appareils en périphérie sans carte graphique haut de gamme.

Des parties plus récentes visent l’IA générative, dont le support des modèles de langage et de la génération d’images, avec une bibliothèque GenAI et une intégration à Hugging Face. Des serveurs de modèles et des outils soutiennent le déploiement dans des applications.

OpenVINO est gratuit et open source. Il performe le mieux sur du silicium Intel, et le support d’autre hardware est plus étroit. Parmi les alternatives : ONNX Runtime, TensorRT pour NVIDIA, Core ML pour Apple, llama.cpp, et les outils d’IA de Qualcomm. OpenVINO convient aux développeurs qui déploient des modèles sur des plateformes Intel.