Lakeraは、言語モデルで作られたアプリケーションを守ります。Guardという製品はユーザーとモデルの間に入り、指示の上書き、機密の抜き取り、悪意あるコンテンツの注入を狙うプロンプトを調べ、出力に漏えいや有害な内容がないかも確認します。開発者はAPI呼び出しで組み込めます。
同社は敵対的攻撃の研究から生まれ、プレイヤーがモデルをだましてパスワードを聞き出そうとする公開ゲーム「Gandalf」で知られるようになりました。このゲームから、攻撃の大規模なデータセットが生まれました。レッドチーミングのツールは、公開前にアプリケーションをテストします。
サイバーセキュリティ企業のCheck Pointが、AIセキュリティを自社のプラットフォームに加えるためにLakeraを買収しました。Lakeraには無料枠と有料プランがありました。すべてを捕らえるフィルターはないため、多層的な防御と権限の制限が引き続き重要です。代替にはPrompt Security、Protect AI、HiddenLayer、Giskard、クラウド事業者のガードレールがあります。Lakeraは、LLMアプリケーションを運用するチームに向いています。
