Qualcomm AI Hub
Plateforme d'optimisation et de déploiement de modèles d'IA sur l'appareil
Qualcomm AI Hub vise l’IA sur l’appareil, pour les téléphones, les PC et d’autres produits construits avec des puces Qualcomm. Un développeur envoie un modèle, et le service le convertit et l’optimise pour le hardware cible, puis le fait tourner sur de vrais appareils dans le cloud pour mesurer vitesse et précision.
Une bibliothèque de modèles prêts à l’emploi, comme des modèles de vision, de parole et de langage, fait gagner du temps. Le profilage montre où un modèle passe son temps et sa mémoire, ce qui guide la suite du réglage. L’objectif est de rendre simple l’exécution de l’IA en local, avec des gains de confidentialité, de coût et de latence.
L’accès est gratuit pour les développeurs, avec des modèles optimisés uniquement pour le hardware Qualcomm. Parmi les alternatives : Apple Core ML, LiteRT de Google, ONNX Runtime, Intel OpenVINO et Edge Impulse (Qualcomm). Qualcomm AI Hub convient aux développeurs qui déploient des modèles sur des appareils Snapdragon.