Gato

Gatoは、DeepMindが2022年5月に発表した単一のニューラルネットワークです。同じ重みのまま、600を超えるさまざまなタスクをこなせます。Atariのゲームをプレイし、画像にキャプションを付け、テキストで会話し、実際のロボットアームを操作してブロックを積むことまでできます。DeepMindはタスクごとにモデルを学習するのではなく、テキスト、画像、関節のトルク、ボタン操作といったすべての入力を、1本の平らなトークン列にシリアライズし、それらすべてで1つのtransformerを同時に学習しました。アーキテクチャは大規模言語モデルに似ていますが、トークンが単語だけでなく、動作やセンサーのデータも表します。

パラメータ数は11.8億で、GPT-3の1750億と比べるとごく小さく、個々のタスクでの性能は、そのタスク専用に作られた専門モデルに及びません。注目されたのは、1つのネットワークが、これほど異なるモダリティや制御の問題にわたって、そこそこの仕事をこなせることを示した点です。DeepMindはこれを、製品ではなく、より汎用的なエージェントへ向けた研究のステップだと説明しており、Gatoが一般公開されたり、APIで提供されたりすることはありませんでした。