点火指数：语言模型中全球工作空间动态的量化测量

arXiv cs.AI 发布了这条关于 研究论文 的更新：本文介绍了点火指数（Ignition Index，I），一种经过验证的标量指标，用于将全球工作空间理论（GWT）的全或无点火预测运用于变换器语言模型。该指标通过拟合四参数Sigmoid函数，基于输入信号强度来分析每层线性探针准确率，提取陡峭度参数beta-hat：高值表示突发点火式转变，低值则为渐进式增长。在涵盖五种架构家族的11个模型中，洗牌标签对照实验显示该指标对真实语言结构的选择性是伪探针能力的9.6倍（p<0.001）。主要发现包括：1）前馈变换器的beta-hat平均比状态空间模型高89%（p<1e-13）；2）Huginn-3.5B在迭代轴上展现出比深度轴高2.12倍的点火趋势，证明循环架构沿迭代维度体现工作空间式转变；3）Pythia-410M在训练步骤256时检测到相变，早于归纳头形成；4）点火与模型规模和信号强度的假设未被证实，暗示变换器架构可能已饱和其点火机制。点火指数为GWT动态预测与机制可解释性之间建立了首个经过验证的定量桥梁，展现前所未有的选择性和架构区分能力。代码公开于：https://github.com/saman-rahbar/ignition-index

点火指数首次实现了全球工作空间理论动态预测与语言模型机制可解释性之间的量化连接，揭示了不同架构的动态处理差异，为理解模型内部信息广播和转变机制提供了科学工具，推动AI解释性和理论认知的结合。

研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers、models 的团队。

接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。