Giskardの代替
AIモデルのテストと脆弱性スキャンのフレームワーク
#1
Evidently AI
オープンソースのMLモデル監視と評価のフレームワーク
#2
Promptfoo
Promptfooは、言語モデルのプロンプトとアプリケーションを本番投入の前にテストし、レッドチーミングするオープンソースのツールです。OpenAIがエージェントのセキュリティ強化のために買収しました …
#3
Patronus AI
LLMアプリ向けのAI評価・安全性テストプラットフォーム
#4
Ragas
Ragasは、検索拡張生成(RAG)パイプライン向けのオープンソースの評価フレームワークです。忠実性、回答の関連性、コンテキストの精度といった指標を備え、正解ラベルがなくても使えます。
#5
Langfuse
オープンソースのLLM可観測性・トレーシングプラットフォーム
#6
Arize AI
MLの可観測性とLLM評価のプラットフォーム
#7
Lakera
LLMアプリケーションを攻撃から守るAIセキュリティプラットフォーム