Anyscale

Anyscale fue fundada por los creadores de Ray, un framework que facilita repartir código Python entre muchas máquinas. Ray se usa mucho en IA para tareas como el entrenamiento distribuido de modelos, el procesamiento de datos a gran escala, el aprendizaje por refuerzo y el despliegue de modelos, y es el motor de varios sistemas de IA de gran tamaño. Anyscale ofrece una plataforma gestionada que se encarga de la configuración, el escalado y la monitorización de clústeres, para que los equipos no tengan que operar la infraestructura ellos mismos.

La plataforma ofrece entornos de ejecución optimizados, programación de trabajos y herramientas para desarrollo y producción. Admite el entrenamiento y el fine-tuning de modelos grandes, la inferencia por lotes sobre grandes conjuntos de datos y el servicio en línea con escalado automático, con foco en la eficiencia de costes y el aprovechamiento de las GPU. Funciona en las principales nubes y en la cuenta en la nube del propio cliente, y trabaja con bibliotecas como PyTorch y vLLM.

Anyscale se vende con condiciones basadas en el uso y para empresas, y Ray es gratuito y de código abierto con licencia Apache 2.0, así que los equipos pueden ejecutarlo sin Anyscale. Entre las alternativas están Databricks, AWS SageMaker, Google Vertex AI, Modal para computación con GPU sin servidor y pilas basadas en Kubernetes con Kubeflow. Anyscale es adecuado para equipos de aprendizaje automático que quieren Ray sin la carga operativa.