ツールを投稿

NVIDIA Open Agent Safety Platform

問題を起こしたAIエージェントを数ミリ秒で隔離できる、オープンソースのセキュリティ層

無料 サイバーセキュリティ
ツールを開く →

このプラットフォームは、セキュリティ上の懸念に応えるものです。コマンドを実行しデータにアクセスできる自律型エージェントには、乗っ取られたエージェントが無効にできない制限が必要です。OpenShellはオープンソースのランタイムで、各エージェントをポリシーに基づく権限を持つ専用のサンドボックスに置きます。プローバーが、与えた権限同士が組み合わさって運用者の意図しない結果にならないかを確認します。

Sentryは、エージェントのマシンの外側で強制力を加えます。ホストから切り離されたBlueFieldのデータ処理ユニット上で動くので、ホストが乗っ取られても、挙動を監視してエージェントをすばやく隔離できます。NVIDIAはこれをリファレンス設計と説明しており、多くのパートナーが各部分を組み込んでいます。

ソフトウェアはオープンソースで、ハードウェアの部分にはNVIDIAのインフラが必要です。アナリストは、権限の整合性を証明しても、あらゆる意味でエージェントが安全だと証明したことにはならず、エージェントの行動のレビューは引き続き重要だと指摘しています。代替には、E2BやDaytonaなどのサンドボックスツール、AnthropicとOpenAIのサンドボックス、エージェントに特化したセキュリティのスタートアップがあります。NVIDIAのプラットフォームは、強い分離が必要な形でエージェントを展開する組織に向いています。