Janを使うと、データをどこにも送らずに言語モデルを使えます。アプリをインストールしたら、モデルハブを見て、LlamaやMistral、Qwenといったモデルを手持ちのハードウェアで扱えるサイズでダウンロードし、オフラインでチャットします。すべてが自分のマシン上で動くので、プライバシーを気にする人やインターネットなしで作業する人に向いていて、使うたびの料金もかかりません。
チャット画面だけではありません。自分のAPIキーを使ってOpenAIやAnthropicなどのリモートのサービスにつなげられるので、1つの画面でローカルとクラウドのモデルを切り替えられます。ローカルサーバーはOpenAI互換のAPIを公開するため、ほかのツールからもモデルを使え、Model Context Protocolに対応しているので、アシスタントがツールを使えます。プロジェクトでは、タスク向けに調整した小さな独自モデルも開発しています。
JanはApache 2.0ライセンスの無料のオープンソースです。ローカルモデルの品質はハードウェア次第で、小さいモデルは最先端のクラウドモデルより性能が劣り、大きいモデルには高性能なGPUか大量のメモリが必要です。代わりになるものには、LM Studio、Ollama、GPT4All、Open WebUI、llama.cppを直接使う方法があります。Janは、プライバシーを重視した扱いやすい方法でローカルAIを動かしたい人に向いています。
