Evidently AI
Framework de código abierto para monitorizar y evaluar modelos de ML
Evidently ayuda a los equipos a saber si sus modelos funcionan. La biblioteca de código abierto calcula métricas y genera informes interactivos sobre deriva de datos, calidad de los datos, precisión del modelo y, en aplicaciones con modelos de lenguaje, aspectos como la relevancia y la seguridad. Puede ejecutarse en notebooks, en pipelines o como servicio de monitorización.
Para trabajo con LLM, Evidently admite evaluaciones con conjuntos de prueba, jueces automáticos y trazado, de modo que los equipos pueden comparar versiones de prompts y detectar regresiones. Una plataforma alojada añade paneles, alertas y colaboración, y el proyecto tiene una comunidad numerosa y material formativo sobre observabilidad de ML.
El núcleo de código abierto es gratuito, y la plataforma en la nube tiene niveles gratuito y de pago. Definir métricas y umbrales que importen requiere reflexión. Entre las alternativas están Arize Phoenix, Langfuse, WhyLabs, Fiddler y Deepchecks. Evidently encaja con equipos de ML que quieren una monitorización abierta y transparente.