Granite Code

Granite CodeはIBMのオープンコードモデル群です。2024年5月に、30億、80億、200億、340億パラメータの4サイズで公開されました。それぞれ基盤版と指示チューニング版があります。IBM Researchは116のプログラミング言語からなる約3兆〜4兆トークンで学習しました。生のコードとコードに関する自然言語を組み合わせ、コード生成、バグ修正、コードの説明を1つのモデル群で扱います。Apache 2.0で公開され、企業はライセンス上の制約を気にせずファインチューニングして再展開できます。IBMはクローズドなコードアシスタントを避けたい企業を主な対象にしました。公開時のベンチマークでは、HumanEvalなどで同規模のオープンコードモデルと同等以上の結果を示しました。Hugging Face、Ollama、AWS Bedrock、SageMakerから利用でき、後の規模拡張で一部モデルのコンテキスト長は128Kになりました。