Jan

Jan ermöglicht die Nutzung von Sprachmodellen, ohne Daten an einen externen Dienst zu senden. Nach der Installation wählen Nutzer im Modell-Hub etwa Llama, Mistral oder Qwen in einer Größe, die ihre Hardware bewältigt, und chatten offline damit. Alles läuft auf dem eigenen Rechner – praktisch für Datenschutzbedürfnisse oder Arbeiten ohne Internet und ohne nutzungsabhängige Gebühren.

Jan ist mehr als ein Chatfenster. Über eigene API-Schlüssel kann die App externe Dienste wie OpenAI und Anthropic verbinden, sodass lokale und Cloudmodelle in einer Oberfläche verfügbar sind. Ein lokaler Server stellt eine OpenAI-kompatible API für andere Werkzeuge bereit; Unterstützung für das Model Context Protocol ermöglicht Assistenten den Zugriff auf Werkzeuge. Das Projekt entwickelt außerdem eigene kleine, auf bestimmte Aufgaben abgestimmte Modelle.

Jan ist unter der Apache-2.0-Lizenz kostenlos und quelloffen. Die Qualität lokaler Modelle hängt von der Hardware ab: Kleine Modelle sind weniger leistungsfähig als führende Cloudmodelle, große benötigen eine starke GPU oder viel Arbeitsspeicher. Alternativen sind LM Studio, Ollama, GPT4All, Open WebUI und llama.cpp. Jan eignet sich für alle, die lokale KI einfach und datenschutzorientiert nutzen möchten.