Jan
App de bureau open source pour faire tourner des modèles d'IA en local
Jan permet d’utiliser des modèles de langage sans envoyer de données ailleurs. Après l’installation de l’app, on parcourt un hub de modèles, on télécharge des modèles comme Llama, Mistral ou Qwen dans une taille que le hardware peut tenir, et on discute avec eux hors ligne. Tout tourne sur la machine, ce qui attire les gens soucieux de confidentialité ou qui travaillent sans accès internet, et ça évite les frais à l’usage.
C’est plus qu’une fenêtre de chat. Jan peut se connecter à des services distants comme OpenAI et Anthropic avec tes propres clés d’API, donc on peut passer des modèles locaux aux modèles cloud dans une seule interface. Un serveur local expose une API compatible OpenAI, pour que d’autres outils utilisent tes modèles, et la prise en charge du Model Context Protocol permet aux assistants d’utiliser des outils. Le projet développe aussi ses propres petits modèles ajustés pour des tâches.
Jan est gratuit et open source, sous la licence Apache 2.0. La qualité des modèles locaux dépend du hardware : les plus petits sont moins capables que les modèles cloud de pointe, et les plus grands demandent un GPU solide ou beaucoup de mémoire. Parmi les alternatives : LM Studio, Ollama, GPT4All, Open WebUI, et llama.cpp directement. Jan convient aux gens qui veulent une façon simple et tournée vers la confidentialité de faire tourner de l’IA en local.