传统的AI对齐方法将人类偏好视为固定目标进行推断和优化，但实证研究表明偏好是分层、动态且通过与适应性技术互动建构的。随着AI系统日益个性化和社会化，它们影响人们的关注点、价值观和认同。本文提出“建设性对齐”范式，将对齐视为对不断演变的人类偏好轨迹的控制问题，利用控制理论模型描述AI系统如何共同影响世界状态与人类评价状态。对齐旨在规范AI对人类价值形成的影响，确保价值轨迹连贯、反思认可、知识基础扎实、防范操纵且在不确定下赋能。
这条 研究论文 信号说明，来自 arXiv cs.AI 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.AI 发布了这条关于 研究论文 的更新：传统的AI对齐方法将人类偏好视为固定目标进行推断和优化，但实证研究表明偏好是分层、动态且通过与适应性技术互动建构的。随着AI系统日益个性化和社会化，它们影响人们的关注点、价值观和认同。本文提出“建设性对齐”范式，将对齐视为对不断演变的人类偏好轨迹的控制问题，利用控制理论模型描述AI系统如何共同影响世界状态与人类评价状态。对齐旨在规范AI对人类价值形成的影响，确保价值轨迹连贯、反思认可、知识基础扎实、防范操纵且在不确定下赋能。
此研究突破了将偏好视为静态目标的传统观点，强调AI系统在塑造和治理人类偏好的动态过程中的责任，提出了新的对齐范式，具备理论深度和实践指导价值。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
本文提出了“有限道德”理论，这是一个用于分析有限智能体所面临的道德问题计算需求的形式框架。该框架基于赫伯特·西蒙的有限理性概念，将道德情境沿着道德广度（涉及的相关实体范围）和道德深度（评估其交互所需的推理复杂度）两条正交维度进行形式化。资源限制导致这两者间存在不可避免的权衡，从而定义出一个可行的道德计算空间。在这一空间内，伦理理论被视作适应不同需求环境的局部最优策略，而非道德真理的对立解释。该框架还提出了道德遗憾和有限约束下的道德进步的正式概念，暗示人工系统的道德对齐依赖于道德推理能力的规模和分配，而非单纯模拟人类判断。
本文提出MMM数据模型，解决了传统以文档为中心的信息系统在知识结构、更新和共享上的限制。MMM结合规范约束和自由文本标签，支持跨学科、跨应用的互操作性，无需语义收敛。通过参考实现和试点部署数据，验证了其可实现性和早期可用性。
生成式AI现已使游戏能在运行时生成对话、任务、角色、图像和世界。但仅仅生成并不代表游戏是AI原生的，也不保证游戏可玩性。本文通过定义AI原生游戏：若去除或轻易替代AI组件，核心玩法将崩溃或变得根本不同，从而区分AI原生游戏与AI辅助游戏、边界产物、聊天机器人等。分析了53款公开的AI原生游戏与原型，提出G/N双轴分类法，G轴为面向玩家的游戏类型，N轴为生成式AI的核心机制。研究发现语音交互、叙事冒险和生成叙事占主流，语义裁决、多智能体模拟等较少。核心设计问题是将语义开放性组织成稳定玩法，设计依赖机械不变量如目标、规则、状态、反馈、节奏和玩家能动性，使开放式AI输出可解释且结果有意义。最后提出了可控生成、AI作为机制设计、多模态与多智能体系统等未来发展路线。