Arize AI

Arize aide les équipes à voir ce que font leurs modèles après le déploiement. Pour le machine learning classique, il suit la performance, détecte quand les données d’entrée dérivent par rapport aux données d’entraînement, et aide à identifier les segments d’utilisateurs sur lesquels un modèle échoue. Des alertes pointent les problèmes avant qu’ils touchent l’activité.

Pour les applications de LLM, il trace chaque requête à travers la chaîne de prompts, de recherche et d’appels d’outils, et lance des évaluations qui notent les réponses sur la pertinence, l’hallucination et la sécurité. Ça aide les développeurs à trouver pourquoi une réponse était fausse et à tester des correctifs. Arize Phoenix, l’outil open source de l’entreprise, offre du tracing et de l’évaluation qui peuvent tourner en local.

Arize a des options gratuites et open source, et des offres payantes pour les entreprises. Bien régler les évaluations demande de la réflexion, car les juges automatiques peuvent être inconstants. Parmi les alternatives : Langfuse, LangSmith, Weights & Biases Weave, Braintrust, Datadog LLM Observability et Fiddler. Arize convient aux équipes ML et IA qui font tourner des modèles en production.