大型语言模型（LLMs）的安全对齐常依赖于生成末阶段的拒绝机制，无法消除训练阶段对有害概念的基础认知。本文揭示了语义伪装攻击，即通过包裹在无害叙述中的恶意意图，绕过标准防护机制。通过分析Phi-3、Qwen2.5和Gemma-2b三种小型语言模型在攻击下的潜在激活轨迹，发现“意图地平线”现象，即模型约15-20%层深处，其对有害意图的独特表征因情境化为“安全”叙述而崩溃。尽管后期层表示难以区分伪装攻击和安全查询，早期层却保留明显的“有害特征”。基于此，提出轻量级探测防御方法——潜在意图验证（LIV）。在PKU-SafeRLHF数据集上的实验表明，LIV较标准防护提升20%-50%检测率，有效应对零日语义攻击且无需模型重训。
这条 研究论文 信号说明，来自 arXiv cs.AI 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.AI 发布了这条关于 研究论文 的更新：大型语言模型（LLMs）的安全对齐常依赖于生成末阶段的拒绝机制，无法消除训练阶段对有害概念的基础认知。本文揭示了语义伪装攻击，即通过包裹在无害叙述中的恶意意图，绕过标准防护机制。通过分析Phi-3、Qwen2.5和Gemma-2b三种小型语言模型在攻击下的潜在激活轨迹，发现“意图地平线”现象，即模型约15-20%层深处，其对有害意图的独特表征因情境化为“安全”叙述而崩溃。尽管后期层表示难以区分伪装攻击和安全查询，早期层却保留明显的“有害特征”。基于此，提出轻量级探测防御方法——潜在意图验证（LIV）。在PKU-SafeRLHF数据集上的实验表明，LIV较标准防护提升20%-50%检测率，有效应对零日语义攻击且无需模型重训。
这项研究揭示了现有安全机制对语义伪装攻击的盲点，首次发现模型早期层保存的有害意图信号并未被充分利用。提出的潜在意图验证方法有效提升检测能力，强化了模型安全性，推动了LLM安全对齐领域的新方向。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
世界动作模型（WAMs）通过将未来世界演变纳入动作生成来改进规划，但现有方法对每个场景分配固定的想象预算。我们提出了RISE（通过选择性展开细化想象）的系统级自适应想象框架，根据继续展开预期的规划收益做出顺序的展开/停止决策。在每一步，潜在评估器估计当前前缀揭示的风险及继续想象带来的规划改进潜力，而展开门则权衡预期收益与额外计算成本。鉴于事实驾驶日志仅暴露一种实现的未来，我们构建了包含多样结果和风险等级的反事实数据集CounterDrive，以丰富未来动态并提供局部风险监督。每个保留样本均经过专家验证及轨迹有效性、事件发生时点和因果类别的标注，为安全关键的世界建模研究提供可复用资源。在NAVSIM和nuScenes上的实验显示，RISE在减少不必要展开的同时实现了最佳整体规划性能，且转移实验支持其在不同WAM架构中的插件通用性。
视频语言模型将视频处理为密集的视觉令牌序列，存在大量冗余。压缩这些序列对于减轻语言模型解码过程中的视觉令牌负担至关重要。该方法通过最优传输将视频帧观察的密集经验测度映射到紧凑目标测度，从而构建压缩表示。该方法结合任务和空间维度调整压缩过程，针对问题条件优化传输成本，并在不同空间粒度上计算区域特定时间传输计划，实现对相关内容的关注。评估显示，AVIOT在多种视频理解基准上表现不逊于未压缩模型，且在高压缩率下依然保持强劲性能。
多模态大语言模型（MLLM）在统一视频感知领域占据主流，但在大规模多任务数据集上的后训练依然具有挑战性。现有强化学习方法即使采用计算昂贵的链式推理生成，也仅采样少量高质量的策略组。本文研究了视频MLLM强化学习后训练的样本效率与可扩展性，提出了OraRL方法。该方法将注释不仅用于评估，还作为oracle rollout直接作为正向优化目标。通过去耦优势估计器解决了“优势倒置”问题，同时采用符号平衡剪枝，只保留oracle及最强正负样本，显著提高效率。OraRL相较于基线在模型规模从0.8B到9B、数据量达到10万提示时均有提升。Video-ORA-9B解码速度从4780ms提升至130ms且无链式推理。实验中，其时间mIoU从62.5提升至66.0，追踪AO从73.0提升到78.2，分割从64.3提升到70.4，空间智能三大基准平均从51.0升至56.1，在VSI-Bench达73.1分，优于GPT-5和Gemini-3-Pro。