GPT4Allは、言語モデルを個人のコンピュータで使えるようにします。Windows、macOS、Linuxにアプリを入れたあと、内蔵の一覧からモデルを選び、ダウンロードして、インターネットなしでチャットできます。処理は自分のCPUまたはGPUで行われ、プロンプトとファイルは遠隔のサーバーに送られません。
LocalDocsという機能では、ファイルのフォルダを指定すると、モデルが検索で関連箇所を引き、その内容への質問に答えます。非公開の調べものやメモのアシスタントとして使えます。プロジェクトはオープンソースで、ローカルモデルを自分のソフトウェアに組み込みたい開発者向けのライブラリとバインディングもあります。
アプリは無料です。性能はハードウェアとモデルの大きさにより、小さいローカルモデルは最大級のクラウドのシステムよりできることが限られます。開発のペースは時期によって違い、ローカルでモデルを動かしたい利用者の多くはOllamaやLM Studioにも集まっています。代替にはLM Studio、Ollama、Jan、Msty、Open WebUIがあります。GPT4Allは、シンプルでプライベートなローカルのチャットボットが欲しい人に向いています。
