[논문리뷰] X-VLA: Soft-Prompted Transformer as Scalable Cross-Embodiment Vision-Language-Action Model

링크: 논문 PDF로 바로 열기

저자: Jinliang Zheng, Jianxiong Li, Zhihao Wang, Dongxiu Liu, Xirui Kang, Yuchun Feng, Yinan Zheng, Jiayin Zou, Yilun Chen, Jia Zeng, Ya-Qin Zhang, Jiangmiao Pang, Jingjing Liu, Tai Wang, Xianyuan Zhan

핵심 연구 목표

다양한 로봇 플랫폼과 이질적인 데이터셋 전반에서 효과적인 훈련을 통해 일반화된 Vision-Language-Action (VLA) 모델을 구축하는 것이 목표입니다. 특히, 하드웨어 구성 및 데이터 소스의 이질성으로 인해 발생하는 문제를 최소한의 파라미터 추가로 해결하여 확장 가능한 교차-embodiment VLA 모델을 개발하고자 합니다.

핵심 방법론

이 논문은 Soft Prompt 접근 방식을 제안하며, 각 데이터 소스별로 학습 가능한 임베딩을 도입하여 cross-embodiment 특징을 효과적으로 활용합니다. X-VLA라는 새로운 아키텍처는 soft-prompted 표준 Transformer 인코더만을 사용하여 flow-matching 기반으로 동작하며, 멀티모달 특성 융합과 정밀한 행동 생성을 수행합니다. 훈련은 **사전 훈련 (Pretraining)**과 **도메인 적응 (Domain Adaptation)**의 두 단계로 구성됩니다.

주요 결과

X-VLA-0.9B는 6개 시뮬레이션 벤치마크와 3개 실세계 로봇에서 SOTA 성능을 달성했습니다. 특히, LIBERO 벤치마크에서 93%의 성공률과 Simpler-WidowX에서 54%의 성공률을 기록했으며, 이는 **300배 적은 파라미터(9M vs. 3B)**만으로 πo 모델과 유사한 성능을 보였습니다. 모델 크기, 데이터 다양성, 데이터 볼륨에 따른 안정적인 스케일링 특성을 입증했습니다.

AI 실무자를 위한 시사점

Soft Prompt 메커니즘은 다양한 하드웨어 구성과 도메인 이질성을 효율적으로 처리하여 VLA 모델의 일반화 능력과 데이터 효율적인 적응 능력을 크게 향상시킵니다. 이는 로봇 학습 분야에서 대규모 이질적 데이터셋을 활용하여 일반화된 로봇 정책을 개발하는 데 중요한 방향을 제시하며, PEFT (Parameter-Efficient Finetuning) 기법을 통해 최소한의 비용으로 새로운 로봇에 빠르게 적응할 수 있는 실용적인 해결책을 제공합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.