Modal enlève une bonne partie de la mise en place autour du calcul. Un développeur écrit du Python, ajoute des décorateurs qui disent quel matériel et quels paquets sont nécessaires, et Modal construit le conteneur, le démarre à la demande, le répartit sur beaucoup de machines et l’arrête une fois fini. Le démarrage est rapide, ce qui le rend pratique pour des charges en rafales.
Les usages courants incluent l’inférence de modèles, le fine-tuning, les jobs par lots, le traitement de données et l’exécution de bacs à sable pour des agents. Des fonctions comme les endpoints web, les jobs planifiés, les volumes de stockage et les notebooks couvrent des besoins variés. La facturation se fait à la seconde de calcul.
Modal a un crédit mensuel gratuit et une tarification à l’usage. Il est centré sur Python, et les équipes doivent accepter son modèle de programmation. Les alternatives incluent Baseten, Replicate, RunPod, Together AI, et AWS Lambda ou SageMaker. Modal convient aux développeurs qui font tourner des charges d’IA sans gérer de serveurs.