NVIDIA Open Agent Safety Platform
Open-Source-Sicherheitsschicht, die problematische KI-Agenten in Millisekunden isolieren kann
Die Plattform reagiert auf ein Sicherheitsrisiko: Autonome Agenten, die Befehle ausführen und auf Daten zugreifen können, brauchen Grenzen, die ein kompromittierter Agent nicht selbst ausschalten kann. OpenShell ist eine quelloffene Laufzeitumgebung, die jedem Agenten eine eigene Sandbox mit richtlinienbasierten Berechtigungen zuweist. Ein Prüfer stellt sicher, dass gewährte Rechte nicht ungewollt kombiniert werden können.
Sentry setzt Kontrollen außerhalb des Agentenrechners durch. Es läuft auf BlueField-Datenverarbeitungseinheiten, die vom Host getrennt sind, und kann so das Verhalten beobachten und einen Agenten schnell isolieren, selbst wenn der Host kompromittiert wurde. NVIDIA beschreibt die Lösung als Referenzdesign; zahlreiche Partner integrieren die Komponenten.
Die Software ist quelloffen, die Hardwarekomponente erfordert NVIDIA-Infrastruktur. Eine konsistente Berechtigungsprüfung beweist nicht, dass ein Agent in jeder Hinsicht sicher ist; die Aktionen der Agenten müssen weiterhin geprüft werden. Alternativen sind Sandbox-Werkzeuge wie E2B und Daytona, Sandbox-Lösungen von Anthropic und OpenAI sowie auf Agentensicherheit spezialisierte Start-ups. NVIDIAs Plattform eignet sich für Organisationen, die Agenten mit starker Isolation einsetzen.