Llama Guard 2

Llama Guard 2はMetaが2024年4月にLlama 3とともに公開した安全性分類モデルです。汎用チャットではなく、Llama 3の80億パラメータ版を基盤としています。LLMに入力するプロンプトと出力応答を確認し、MLCommonsの分類体系に基づく暴力、ヘイトスピーチ、性的コンテンツなど11種の危険カテゴリを検出します。回答生成ではなく別のLLMの前後に置くガードレールとして使います。MetaはLlama Guard 3に置き換えましたが、既存利用者向けにLlama 3 Community LicenseでHugging Faceから入手できます。