Haystackは、文書への質問に答えるアプリケーションを開発者が組み立てるのを助けます。パイプラインは、ファイルの変換、テキストの分割、埋め込みの作成、関連箇所の検索、言語モデルによる回答の生成といったコンポーネントをつなぎます。各コンポーネントは差し替えられるので、チームは全体を書き直さずにモデルやデータベースを変えられます。
このフレームワークは、多くのモデル提供元とベクトルストア、ハイブリッド検索、評価ツール、ツールを使うエージェントに対応しています。パイプラインをシリアライズする手段もあり、デプロイとテストに使えます。マネージドのホスティングと共同作業が欲しい企業向けに、deepsetはこれを囲む商用プラットフォームも出しています。
Haystackは無料のオープンソースです。習得には手間がかかり、ほかのオーケストレーション用フレームワークと競合します。代替にはLangChain、LlamaIndex、DSPy、Semantic Kernel、Vercel AI SDKがあります。Haystackは、本番の検索とRAGのシステムを作るエンジニアリングチームに向いています。