Lakera

Lakera schützt Anwendungen, die auf Sprachmodellen basieren. Das Produkt Guard sitzt zwischen Nutzer:innen und Modell. Es prüft Prompts auf Versuche, Anweisungen zu überschreiben, Geheimnisse auszulesen oder schädliche Inhalte einzuschleusen, und kontrolliert Antworten auf Datenlecks und gefährliche Inhalte. Entwickler:innen binden es über einen API-Aufruf ein.

Das Unternehmen entstand aus der Forschung zu gegnerischen Angriffen und wurde mit Gandalf bekannt: In diesem öffentlichen Spiel versuchen Teilnehmende, ein Modell zur Preisgabe eines Passworts zu bringen. Daraus entstand ein großer Datensatz von Angriffen. Red-Team-Werkzeuge helfen, Anwendungen vor dem Start zu testen.

Der Cybersicherheitsanbieter Check Point übernahm Lakera, um KI-Sicherheit in seine Plattform aufzunehmen. Lakera bot einen kostenlosen Tarif und kostenpflichtige Pläne. Kein Filter erkennt alle Angriffe; mehrschichtige Abwehr und eingeschränkte Berechtigungen bleiben daher wichtig. Alternativen sind Prompt Security, Protect AI, HiddenLayer, Giskard und Schutzfunktionen von Cloudanbietern. Lakera eignet sich für Teams, die LLM-Anwendungen bereitstellen.