LM Studioを使うと、自分のコンピューターでモデルを動かすのが手軽になります。アプリを開き、Hugging Faceのモデルカタログを検索して、手元のハードウェアに合うものをダウンロードすれば、すぐにチャットを始められます。コマンドラインは要りません。すべてローカルで動くので、会話は自分のマシンの中にとどまり、オフラインでも使え、トークンごとの料金もかかりません。Llama、Qwen、Gemma、gpt-ossなど、人気のオープンモデルに対応しています。
開発者向けには、OpenAI APIを模したローカルサーバーを起動できます。既存のツールやスクリプトを、自分のモデルに向けられます。GGUFや、Macで効率よく動くAppleのMLXなど複数のモデル形式に対応し、コンテキスト長やGPUオフロードといった設定を調整でき、Model Context Protocolでツールとも連携します。コマンドライン版とSDKで自動化もできます。
アプリは個人利用でも業務利用でも無料ですが、コードは完全なオープンソースではありません。性能は手元のハードウェアしだいで、小さなローカルモデルは最先端のクラウドモデルほど高性能ではありません。代替には、よりコマンドライン寄りのOllama、Jan、GPT4All、インターフェースとしてのOpen WebUI、llama.cppの直接利用があります。ローカルAIを試すために、磨かれたアプリを求める人に向いています。
