作为Rollouts的注释:用于视频多模态大语言模型的高效可扩展强化学习
多模态大语言模型(MLLM)在统一视频感知领域占据主流,但在大规模多任务数据集上的后训练依然具有挑战性。现有强化学习方法即使采用计算昂贵的链式推理生成,也仅采样少量高质量的策略组。本文研究了视频MLLM强化学习后训练的样本效率与可扩展性,提出了OraRL方法。该方法将注释不仅用于评估,还作为oracle rollout直接作为正向优化目标。通过去耦优势估计器解决了“优势倒置”问题,同时采用符号平衡剪枝,只保留oracle及最强正负样本,显著提高效率。OraRL相较于基线在模型规模从0.8B到9B、数据量达到10万提示时均有提升。Video-ORA-9B解码速度从4780ms提升至130ms且无链式推理。实验中,其时间mIoU从62.5提升至66.0,追踪AO从73.0提升到78.2,分割从64.3提升到70.4,空间智能三大基准平均从51.0升至56.1,在VSI-Bench达73.1分,优于GPT-5和Gemini-3-Pro。
这条 研究论文 信号说明,来自 arXiv cs.CV 的信息已经不只是单点新闻,而是值得放进产品、研究和行业判断里的趋势线索。