4096
コンテキストトークン
34B
パラメータ
Apache 2.0
ライセンス
2024
発売
Hermes 2は、独立系AI研究グループNous Researchが公開したオープンウェイトのファインチューニングモデル群です。同社は基盤モデルを一から作るのではなく、高性能な基盤モデルを選び、厳選した指示・会話データで再訓練することで知られています。Mistral 7B、Mixtral 8x7Bをベースにした版と、Yi-34Bをベースにした34B版があり、最大モデルのコンテキスト長は基盤モデルを引き継いだ4,096トークンです。Nousは一般的なアシスタント動作、関数呼び出し、商用チャットボットに比べた拒否の少なさを目指し、合成データと人が選別した会話で訓練しました。Apache 2.0で公開され、Hugging Faceから配布されています。llama.cppやOllamaなどを使ったローカル実行で、オープンソースLLMコミュニティに広まりました。後継のHermes 3は同じ調整手法をLlama 3.1など、より大規模で高性能な基盤モデルに適用しました。