基于大型语言模型驱动的自主智能代理AI系统带来新的安全、隐私和合规挑战。这类智能代理能调用工具、操作数据、安装软件并跨组织协作，需超越传统认证和访问控制，实施全面的企业治理管理，包括允许或禁止的行为、行动后的义务（如通知CISO）、义务的豁免条件及策略冲突的优先级。现有策略引擎如XACML、Rego和Cedar仅涵盖许可/禁止，缺乏义务生命周期管理、冲突解决和领域本体推理。我们提出了AgenticRei，基于Rei框架的义务逻辑策略语言，使用OWL表达并由独立于LLM的高性能逻辑引擎运行时评估，处理工具调用及代理间消息，能捕捉当前生产系统难以表达的安全与隐私治理约束，并与行业标准框架A2AS自然集成。
这条 研究论文 信号说明，来自 arXiv cs.AI 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.AI 发布了这条关于 研究论文 的更新：基于大型语言模型驱动的自主智能代理AI系统带来新的安全、隐私和合规挑战。这类智能代理能调用工具、操作数据、安装软件并跨组织协作，需超越传统认证和访问控制，实施全面的企业治理管理，包括允许或禁止的行为、行动后的义务（如通知CISO）、义务的豁免条件及策略冲突的优先级。现有策略引擎如XACML、Rego和Cedar仅涵盖许可/禁止，缺乏义务生命周期管理、冲突解决和领域本体推理。我们提出了AgenticRei，基于Rei框架的义务逻辑策略语言，使用OWL表达并由独立于LLM的高性能逻辑引擎运行时评估，处理工具调用及代理间消息，能捕捉当前生产系统难以表达的安全与隐私治理约束，并与行业标准框架A2AS自然集成。
该研究提出的AgenticRei系统解决了当前智能代理治理中的关键不足，特别是在处理义务、冲突和本体推理方面的挑战。这对保护安全、隐私和合规至关重要，推动了复杂AI系统的可信运行，具备实用价值和广泛应用前景。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers、agents 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
本科计算机科学教育遵循每十年修订一次的国际课程指导方针，但缺乏可靠且可复制的方法来评估课程对当前指导方针的覆盖完整度及其随指导方针重构而变化的情况。该研究提出了一个人机结合的流程，以结构化语料库表示课程和指导方针，利用语义检索生成课程与知识单元的匹配候选，并通过人工判断确认覆盖情况。实证应用于一项通过认证的计算机科学本科课程，分别针对CS2013与CS2023，发现该课程对CS2023和CS2013的知识单元覆盖率分别约为49.7%和50.9%，近十年变化甚微。能力表达方面，课程能满足约88%的覆盖单元，但在CS2023的认知深度达标率为76%，低于CS2013的95%，反映了新版指导方针对深度的更高要求。研究还区分了课程结构性缺口与标准演进引起的差异。此工具可复用且作者提供索取。
大型语言模型通过自回归生成实现了强大的任务表现。近年来，扩散语言模型作为替代范式，通过迭代去噪而非逐词预测生成文本，支持序列的并行优化。本文系统评测了八种先进的扩散语言模型，覆盖推理、编程、翻译、知识及结构化问题解决八个基准，综合考察生成质量与计算效率。并分析关键推理时因素如去噪步数、上下文长度、块大小及并行解码策略的影响，同时在相同条件下对小模型进行对比。研究揭示了任务、架构与推理预算对模型性能的影响及设计选择带来的性能与效率折中。研究为当代扩散语言模型的能力和部署特性提供了实用见解。
大型语言模型在多步推理方面表现出色，但推理成本较高。本文提出了一种名为因果归因剪枝（CAP）的无训练方法，通过测量注意力头对推理任务的因果影响，识别关键注意力头，指导细粒度权重剪枝。CAP基于小规模校准集，估计屏蔽每个注意力头时的性能下降，并将因果得分转化为权重的重要性值。与仅基于权重大小或激活值的方法不同，CAP的干预测量直接反映注意力头的功能贡献，在20%稀疏率下，在ARC-Challenge数据集上相较于Wanda方法获得最高61%的相对准确率提升。在GSM8K、StrategyQA和ARC-Challenge数据集上的多种模型和稀疏率（10%、20%、50%）测试中，CAP大多优于Wanda，尤其是Llama-3模型在ARC-Challenge上的表现显著提升。结果表明，基于因果归因的注意力头剪枝在保持推理性能方面胜过相关性剪枝准则，但在50%高稀疏率下受限于粗粒度的MLP归因。