Vast.ai relie les gens qui ont besoin de calcul GPU à ceux qui ont de la capacité libre. Les hôtes, des particuliers avec des machines de jeu jusqu’aux data centers, listent des machines avec des détails et des prix, et les utilisateurs cherchent par type de GPU, mémoire, lieu et fiabilité, puis lancent des conteneurs dessus. La concurrence entre hôtes garde les prix plus bas que les tarifs à la demande des grands clouds.
La plateforme fournit des outils pour lancer des environnements basés sur Docker, des notebooks Jupyter et des modèles pour des frameworks d’IA courants, et propose des instances interruptibles à des remises plus fortes ainsi que des options à la demande. Une gamme de GPU est disponible, des cartes grand public aux modèles de data center, ce qui convient à l’expérimentation, au rendu, au fine-tuning et à l’inférence pour les équipes attentives au budget.
Vast.ai est au paiement à l’usage. La qualité et la fiabilité dépendent de l’hôte, donc les machines peuvent être plus lentes, interrompues ou moins sûres qu’un cloud dédié, et les données sensibles doivent être traitées avec soin, en utilisant des hôtes de data center vérifiés. Les alternatives incluent Lambda, RunPod, CoreWeave, Together AI et les grands clouds. Vast.ai convient aux chercheurs et aux développeurs qui privilégient le bas coût.