本文综述了专家混合模型（Mixture-of-Experts, MoE）在大语言模型中的架构演进，围绕专家粒度、拓扑结构、路由自由度、负载均衡范围和执行结构五个维度进行系统归纳。文章提出了八个架构里程碑的依赖图，分析了专家拓扑、路由、负载平衡与专家并行四个控制平面，揭示算法设计与系统实现之间的联系。研究指出当前趋势是从单纯激活更多稀疏参数转向语义路由、计算预算和物理执行的解耦。
这条 研究论文 信号说明，来自 arXiv cs.CL 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.CL 发布了这条关于 研究论文 的更新：本文综述了专家混合模型（Mixture-of-Experts, MoE）在大语言模型中的架构演进，围绕专家粒度、拓扑结构、路由自由度、负载均衡范围和执行结构五个维度进行系统归纳。文章提出了八个架构里程碑的依赖图，分析了专家拓扑、路由、负载平衡与专家并行四个控制平面，揭示算法设计与系统实现之间的联系。研究指出当前趋势是从单纯激活更多稀疏参数转向语义路由、计算预算和物理执行的解耦。
这项工作系统整合MoE模型的多维度设计与实现，为理解大规模语言模型中专家混合架构的发展提供扎实框架，对于研究和优化相关模型架构具有重要指导意义。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers、models 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
本文提出评估型人工智能（EAI）作为支持人类决策的新方式，不是产出单一建议，而是呈现带有正反证据的竞争假设。作者主张采用计算论证作为EAI的形式化、可计算基础，以实现可解释和可争辩的系统，推动面向分布式和以人为中心的EAI长期研究。
本文针对在高损失领域，当AI输出速度超过人类认知极限时，传统人类监督机制难以为继的问题。研究指出认知负担由输出速度与每项任务的认知负载共同决定，每项认知负载包括筛选、判断和响应，其对AI能力提升的响应不对称。提出了“逐流”治理范式，通过基于形式化可计数特征的认知成本评分非线性地控制高产量，并以机构容量上限控制处理量，避免内容判断，从而绕过人类认知瓶颈。文中还定义了四个设计不变性，展示了实现路径及其实际挑战，并通过蒙特卡洛分析验证该方法相较单一监督增强更优。
本文提出了一个形式化框架，用于从多重结构理论构造规范解释。结构理论由符号、 公理和推理策略组成，其容许的解释集合包含所有全局一致的结构结论分配。文章区分了三种规范化层次：闭包稳定（针对单一起点的收敛）、全局完成（起点无关的收敛）及确定化（唯一容许解释）。非确定性分为认知多元（类型E）和结构多元（类型S），且S-强子类特点为缺乏共同上界。两种规范化机制为基于算子的完成和基于选择器的构造。研究证明了这些机制存在的充分结构条件，并在正向、非回退规则下，将纯推理完成归约为饱和闭包算子。类型E理论可实现闭包稳定，而完全确定化依赖一个未解决的全局合流性属性。类型S-强理论通过规范选择实现确定化。多层规范化形成一个结构上非交换的系统，且框架适用于结合LLM推理，视幻觉为不支持的规范化。