テクノロジー

NVIDIA、「VLAを超えて」World Action Modelへの転換を提唱 Cosmos 3ベースの新方策を公開

3行まとめ
1VLAは言語・知覚のマッピング学習にとどまり類似デモが必要だが、World Action Model(WAM)は物理法則を多様なデータから学習し未知場面への汎化が効くと主張
2Cosmos 3のMixture-of-Transformers基盤から、Franka Panda向け16BパラメータのCosmos3-Nano-Policy-DROIDと、エッジ向け4BのCosmos3-Edge-Policy-DROIDを派生
3オムニアーキテクチャ採用でRoboLabベンチマークの成功率が28.1%から36.8%に向上。学習データは画像約7.67億枚・動画3.48億本・行動サンプル800万件
要約

NVIDIA Developer Blogが、VLA(Vision-Language-Action)モデルに代わる方策設計としてWorld Action Model(WAM)を提唱する記事を公開した。VLAは言語指示と行動軌跡のマッピングを学習するため、学習データと近い状況でしか安定して動かず、未知の物体配置や環境変化に弱いという課題を指摘。対してWAMは動画世界モデルをベースに物理法則そのものを学習するため、多様なデータからでも汎化しやすく、タスク特化データが少なくても適応が速いとする。根拠として論文「World Action Models are Zero-shot Policies」と、NVIDIAのJim FanによるWAM論の講演「Robotics' End Game」を引用している。

実装面では、開放型のomniモデルCosmos 3(Mixture-of-Transformers構成)をベースに、Franka Panda + Robotiqグリッパーを対象とするDROIDプラットフォーム向けの2方策を派生させた。フル規模のCosmos3-Nano-Policy-DROID(16Bパラメータ)と、オンデバイス推論向けに軽量化したCosmos3-Edge-Policy-DROID(4B)である。Cosmos 3自体は画像約7.67億枚、動画3.48億本、行動サンプル800万件で事前学習されており、omniアーキテクチャの採用によってRoboLabベンチマークの成功率が28.1%から36.8%に改善したとしている。Jetson上では640×360解像度で15Hzのリアルタイム制御を達成したという。VLA一辺倒だった潮流に対し、World Action Model系の論文が同時期のarXivにも複数投稿されており(後述)、パラダイム転換の主張は実装の実在からも裏付けられつつある。

出典: NVIDIA Developer Bloghttps://developer.nvidia.com/blog/beyond-vlas-how-world-action-models-reshape-robot-manipulation/公開:
原文