512
コンテキストトークン
335M
パラメータ
Apache 2.0
ライセンス
2023
発売
GTE-largeはAlibaba DAMO Academyのテキスト埋め込みモデルです。2023年半ば、GTE-baseやGTE-smallとともにGeneral Text Embeddings(GTE)シリーズの一部としてHugging Faceで公開されました。335百万パラメータのBERT系エンコーダーで、ウェブと専門分野の幅広いテキストを使った複数段階の対照学習で訓練されています。最大512トークンの入力から1024次元のベクトルを生成します。検索、意味検索、クラスタリング、再ランキングを想定しており、公開時のMTEBベンチマークでは同規模のオープン埋め込みモデルの中で高いスコアを記録し、中国の他研究所のBGEやE5系と競いました。Apache 2.0のオープンウェイトで、推論は単一GPUまたはCPUで実行できます。Hugging FaceとAlibaba Cloudから利用でき、APIに依存しないコンパクトな埋め込みモデルを求めるチームによく使われています。