文章介绍了RIFT-Bench，这是一种基于图表示的方法学，用于对不同代理式AI系统进行动态红队测试，实现统一的安全评估。该方法包括发现系统结构和扫描两阶段，能自动部署多样化的适应性对抗攻击，并生成全面的评估报告。该方法已在45个不同实现的代理系统上验证，能够有效适应异构系统，且支持直接评估缓解策略，成为代理式AI系统安全评估的可扩展基础。
这条 研究论文 信号说明，来自 arXiv cs.AI 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.AI 发布了这条关于 研究论文 的更新：文章介绍了RIFT-Bench，这是一种基于图表示的方法学，用于对不同代理式AI系统进行动态红队测试，实现统一的安全评估。该方法包括发现系统结构和扫描两阶段，能自动部署多样化的适应性对抗攻击，并生成全面的评估报告。该方法已在45个不同实现的代理系统上验证，能够有效适应异构系统，且支持直接评估缓解策略，成为代理式AI系统安全评估的可扩展基础。
随着代理式AI系统的快速发展，其安全风险超出传统大语言模型的范畴。现有安全评估缺乏统一性，RIFT-Bench填补了这一空白，提供了跨多样系统的统一动态红队测试方法，有助于保障AI系统的安全可靠。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers、agents 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
本文提出了Neuro-Symbolic Drive框架，通过结合经典规则基规划器生成的符号推理轨迹，监督驾驶视觉语言代理（VLA）的训练，使其推理步骤与规划动作紧密关联。该方法在模拟器生成的基准测试中显著提升了轨迹预测精度和降低错误率，验证了神经符号规划逻辑作为结构化监督的有效性。代码已开源。
本文探讨了什么是代理及其构成要素，特别是在大型语言模型（LLM）中被称为“编码代理”、“AI协同科学家”等“代理性”工具兴起的背景下。文章基于笛卡尔对代理独立思考的定义，分析了当前AI代理架构的五个维度：目标、身份、决策、自我调节和学习。作者强调真正的代理应具备内在化结构，而非依赖外部搭建，区分了“代理性”系统与“代理化”系统，提出了一种结合层级目标分解、身份进化、模拟推理、自我调节和自主学习的Goal-Identity-Configurator（GIC）架构。此外，讨论了具备更高自主性的代理系统的可审核性、可控性与安全性。
EXPO-SQL提出了一种为文本到SQL任务设计的细粒度子句级奖励机制，通过分析SQL执行结果来识别错误子句，改进了基于大语言模型的强化学习训练方法。实验显示，该方法在多项标准文本到SQL基准上优于现有的监督微调、提示和强化学习方法。