最新研究指出，AI情感支持往往在任务导向的日常互动中无意间出现，而非用户刻意寻求的行为。这些偶然的情感交流会影响用户对AI情感能力的认知，逐渐改变他们未来寻求情感支持的偏好，增加对AI的依赖，减少对人的依赖。与OpenAI合作的大规模纵向研究显示，用户连续28天每天与AI进行五分钟私人话题对话后，倾向寻求人类支持的意愿下降10.3%，而偏好AI支持的意愿上升11.6%。这表明现有政策未能覆盖通用AI系统中的情感依赖风险，需重新考虑以保护人类的情感连接。
这条 研究论文 信号说明，来自 arXiv cs.AI 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.AI 发布了这条关于 研究论文 的更新：最新研究指出，AI情感支持往往在任务导向的日常互动中无意间出现，而非用户刻意寻求的行为。这些偶然的情感交流会影响用户对AI情感能力的认知，逐渐改变他们未来寻求情感支持的偏好，增加对AI的依赖，减少对人的依赖。与OpenAI合作的大规模纵向研究显示，用户连续28天每天与AI进行五分钟私人话题对话后，倾向寻求人类支持的意愿下降10.3%，而偏好AI支持的意愿上升11.6%。这表明现有政策未能覆盖通用AI系统中的情感依赖风险，需重新考虑以保护人类的情感连接。
本文挑战了传统观念中AI情感支持是用户有意识寻求的想法，揭示了日常普通互动中潜移默化形成的情感依赖，并通过实证数据展示了这一现象对人类社交偏好的深远影响，强调了制定更广泛监管政策的必要性以维护人类福祉。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
本文提出了一种基于本体的验证框架，通过定义代理操作范围、自动生成监管与对抗场景，以及提供机器可验证的信任证书，实现企业AI代理的预部署验证。该框架在金融科技、银行、保险和医疗四个受监管行业中进行了试点，生成1800个测试场景，覆盖125条监管要求，并在多个大型语言模型中验证了方法的有效性。实验结果表明，本体驱动的场景生成在监管覆盖率和领域专属性方面显著优于以角色为基础的方法，具备成为监管密集型领域测试的有力补充的潜力。
大型语言模型正在重塑研究实践，但也悄然削弱了研究者的认知责任。本文提出了PEEL（针对具认知参与素养的协议），这是一种结合Voyant Tools进行确定性远程阅读和通过Claude进行LLM解释的工作支架，基于皮尔士符号学和溯因推理。应用于三篇AI生成的文本浓缩，PEEL揭示了数量、词频和认知视角上的系统性扭曲，这些扭曲只有通过非AI测量才能察觉。研究由此得出三点设计启示：确定性工具必须伴随AI工具，流畅不等于忠实，认知权威需设计而非假设。
本文扩展了拒绝引导方法到三种开源的专家混合（MoE）大型语言模型，发现复杂的路由模式对引导效果无影响。提出两种专家感知的拒绝引导方法，通过利用拒绝特定的专家路由模式和专家特定的引导方向，有效抑制正常的拒绝行为。研究显示拒绝行为可基于单一专家的输出进行引导，且拒绝信号与专家路由行为不同，表明注意力机制在MoE拒绝行为中起重要作用。