连续扩散语言模型如ELF报告了创纪录的低生成困惑度（Gen-PPL），但实际上这些模型重复内容远多于人类文本，而Gen-PPL反而奖励这种重复，导致其低分数高估了文本质量。通过去除重复，ELF-B的Gen-PPL从19.5升至27.7，最小模型因重复最多而获得最佳Gen-PPL。研究发现重复源于自条件反馈循环中的一个单一方向的收缩吸引子。作者提出了ACE（吸引-对比-逃逸）方法，在每一步中减去该方向，从而显著削减重复至接近人类水平，并保持质量竞争力。ACE方法在不同模型和采样器间具有良好迁移性，相较其它方法成本更低。
这条 研究论文 信号说明，来自 arXiv cs.CL 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.CL 发布了这条关于 研究论文 的更新：连续扩散语言模型如ELF报告了创纪录的低生成困惑度（Gen-PPL），但实际上这些模型重复内容远多于人类文本，而Gen-PPL反而奖励这种重复，导致其低分数高估了文本质量。通过去除重复，ELF-B的Gen-PPL从19.5升至27.7，最小模型因重复最多而获得最佳Gen-PPL。研究发现重复源于自条件反馈循环中的一个单一方向的收缩吸引子。作者提出了ACE（吸引-对比-逃逸）方法，在每一步中减去该方向，从而显著削减重复至接近人类水平，并保持质量竞争力。ACE方法在不同模型和采样器间具有良好迁移性，相较其它方法成本更低。
这项研究揭示了当前连续扩散语言模型中过度重复的问题本质，指出困惑度指标的局限性，提出简单有效的修正策略ACE，大幅提升文本质量及生成效率，对扩散语言模型的理解和优化具有重要意义。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
传统的AI对齐方法将人类偏好视为固定目标进行推断和优化，但实证研究表明偏好是分层、动态且通过与适应性技术互动建构的。随着AI系统日益个性化和社会化，它们影响人们的关注点、价值观和认同。本文提出“建设性对齐”范式，将对齐视为对不断演变的人类偏好轨迹的控制问题，利用控制理论模型描述AI系统如何共同影响世界状态与人类评价状态。对齐旨在规范AI对人类价值形成的影响，确保价值轨迹连贯、反思认可、知识基础扎实、防范操纵且在不确定下赋能。
本文提出了“有限道德”理论，这是一个用于分析有限智能体所面临的道德问题计算需求的形式框架。该框架基于赫伯特·西蒙的有限理性概念，将道德情境沿着道德广度（涉及的相关实体范围）和道德深度（评估其交互所需的推理复杂度）两条正交维度进行形式化。资源限制导致这两者间存在不可避免的权衡，从而定义出一个可行的道德计算空间。在这一空间内，伦理理论被视作适应不同需求环境的局部最优策略，而非道德真理的对立解释。该框架还提出了道德遗憾和有限约束下的道德进步的正式概念，暗示人工系统的道德对齐依赖于道德推理能力的规模和分配，而非单纯模拟人类判断。
本文提出MMM数据模型，解决了传统以文档为中心的信息系统在知识结构、更新和共享上的限制。MMM结合规范约束和自由文本标签，支持跨学科、跨应用的互操作性，无需语义收敛。通过参考实现和试点部署数据，验证了其可实现性和早期可用性。