Vast.ai
Marketplace de GPU para potencia de cálculo de IA a buen precio
Vast.ai conecta a quienes necesitan potencia de GPU con quienes tienen capacidad de sobra. Los anfitriones, desde particulares con equipos de juegos hasta centros de datos, publican sus máquinas con detalles y precios, y los usuarios buscan por tipo de GPU, memoria, ubicación y fiabilidad, y lanzan contenedores en ellas. La competencia entre anfitriones mantiene los precios por debajo de las tarifas bajo demanda de los grandes proveedores de nube.
La plataforma ofrece herramientas para lanzar entornos basados en Docker, cuadernos Jupyter y plantillas para los frameworks de IA más conocidos, y ofrece instancias interrumpibles con descuentos mayores además de opciones bajo demanda. Hay una gama amplia de GPU, desde tarjetas de consumo hasta modelos de centro de datos, lo que sirve para experimentar, renderizar, hacer fine-tuning e inferencia en equipos con presupuesto ajustado.
Vast.ai funciona con pago por uso. La calidad y la fiabilidad dependen del anfitrión, así que las máquinas pueden ser más lentas, sufrir interrupciones o ser menos seguras que una nube dedicada, y conviene tratar con cuidado los datos sensibles y usar anfitriones de centros de datos verificados. Entre las alternativas están Lambda, RunPod, CoreWeave, Together AI y las grandes nubes. Vast.ai es adecuado para investigadores y desarrolladores que valoran el bajo coste.