AnythingLLMは、自分のファイルと話すための非公開の場所です。文書、ウェブページ、その他の内容をワークスペースに追加すると、アプリはそれらをベクトルデータベースにインデックスします。質問すると、関連する箇所を取り出して言語モデルへ送り、モデルは参照付きで答えます。
主な魅力は柔軟さです。OllamaやLM Studio経由のローカルモデル、またはOpenAIやAnthropicなどの提供元のクラウドモデルを選べ、ワークスペースを作り直さずに切り替えられます。ウェブを見たりツールを実行したりするエージェントがあり、サーバー版では複数のユーザーと権限に対応し、APIと埋め込み可能なチャットウィジェットもあります。
デスクトップ版は無料のオープンソースで、ホスト版と企業向けの選択肢もあります。ローカルモデルは最大級のクラウドモデルよりできることが少なく、性能はハードウェア次第です。代替にはOpen WebUI、GPT4All、Msty、LibreChat、Khojがあります。AnythingLLMは、非公開の文書チャットが欲しい個人やチームに向いています。