Amazon Nova Micro

Amazon Nova Micro est le plus petit et le moins cher des modèles de la gamme Nova d’Amazon, annoncé en décembre 2024 avec le reste de la famille et disponible via Amazon Bedrock. Il ne traite que le texte, en entrée comme en sortie, avec une fenêtre de contexte de 128 000 tokens. Le tarif est de 0,035 $ par million de tokens en entrée et de 0,14 $ par million de tokens en sortie. C’est la réponse d’Amazon aux modèles légers du type GPT-4o mini et Gemini Flash-Lite. Amazon l’a conçu pour des charges à fort volume, sensibles à la latence, comme la classification de texte, l’extraction simple et la logique de routage dans des pipelines d’agents plus larges.

Comme il laisse de côté toute compréhension d’image ou de vidéo, Nova Micro tourne plus vite et moins cher que Lite et Pro, ses voisins multimodaux, au prix de ne pas pouvoir traiter une entrée visuelle. Le fine-tuning et la distillation de modèles sont pris en charge sur Bedrock : on peut l’entraîner sur les sorties d’un modèle plus gros pour se rapprocher de la qualité de ce modèle sur des tâches étroites, pour une fraction du coût.