代理模型批判
本文探讨了“代理”及其构成,特别是在大型语言模型(LLM)兴起、被称为“编码代理”“AI共同科学家”等工具背景下的代理定义。文章梳理了AI代理的现状,从目标、身份、决策、自我调节和学习五个维度分析代理架构,强调真正的代理性需要这些结构内化于系统自身,而非依赖外部组成。区分了“代理性”系统(依赖外部工程流程)与“代理化”系统(内生能力包括社会交互),界定了自动化与自主性的边界。基于此,提出了通用代理模型——目标-身份-配置器(GIC)架构,融合分层目标分解、身份演进、基于世界模型的模拟推理、自我调节与自主学习。并讨论了拥有更大自主性的系统在审计、控制和安全方面的见解。
这条 研究论文 信号说明,来自 arXiv cs.AI 的信息已经不只是单点新闻,而是值得放进产品、研究和行业判断里的趋势线索。