Heliconeは、チームが言語モデルの利用状況を見られるようにします。開発者がAPI呼び出しのベースURLを変え、通信をHelicone経由にします。各リクエストは、プロンプト、応答、レイテンシ、コスト、ユーザーとともに記録されます。ダッシュボードはモデル、ユーザー、機能ごとの支出を示し、エラーを示します。
本番での利用を管理する追加のツールもあります。キャッシュは繰り返すリクエストのコストを抑え、レート制限は予算を守り、プロンプト管理ではチームがプロンプトをバージョン管理して試せます。セッションは複数ステップのエージェントのトレースをまとめ、評価の機能は出力に点数を付けます。
Heliconeはオープンソースで、無料枠があり、より多い利用量とホストされた機能向けの有料プランもあります。プロキシはネットワークの経由をひとつ増やすので、SDKでの記録を好むチームもあります。代替にはLangfuse、LangSmith、Braintrust、Portkey、Arize Phoenixがあります。Heliconeは、コストと利用状況の監視をすぐ始めたい開発者に向いています。
