半参数语言模型在自然语言处理任务中展现了潜力，但其非参数记忆作为静态存储缺乏学习能力，限制了可扩展性和效率。本文基于语言模型解释理论，将非参数记忆$k$NN-LM重新构想为可学习的邻居混合归纳记忆（MoNIM），结合了注意力机制的归纳能力与前馈网络的记忆力。MoNIM集成于Transformer信息流中，作为类前馈网络的旁路层，有效学习新知识。大量实验表明，MoNIM在数据和模型规模上均具备良好的持续学习能力，提升了半参数语言模型的可扩展性和持续学习表现。
这条 研究论文 信号说明，来自 arXiv cs.CL 的信息已经不只是单点新闻，而是值得放进产品、研究和行业判断里的趋势线索。
arXiv cs.CL 发布了这条关于 研究论文 的更新：半参数语言模型在自然语言处理任务中展现了潜力，但其非参数记忆作为静态存储缺乏学习能力，限制了可扩展性和效率。本文基于语言模型解释理论，将非参数记忆$k$NN-LM重新构想为可学习的邻居混合归纳记忆（MoNIM），结合了注意力机制的归纳能力与前馈网络的记忆力。MoNIM集成于Transformer信息流中，作为类前馈网络的旁路层，有效学习新知识。大量实验表明，MoNIM在数据和模型规模上均具备良好的持续学习能力，提升了半参数语言模型的可扩展性和持续学习表现。
本研究通过将非参数记忆设计为可学习结构，解决了传统半参数语言模型中记忆静态且不可更新的问题，显著提升了模型对新知识的学习与保持能力，促进了持续学习和可扩展应用的发展。
研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers、models 的团队。
接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。
人脸表情识别是计算机视觉中的重要任务，应用于人机交互、心理健康监测、驾驶员警示和行为分析。虽然卷积神经网络（CNN）在现代表情识别中占主导地位，手工特征描述符如定向梯度直方图（HOG）和局部二值模式（LBP）仍是经典基线。该研究比较了HOG+支持向量机（SVM）、LBP+逻辑回归以及轻量级CNN在FER-2013、CK+和KDEF三个数据集上的表现。结果显示，CNN整体表现最佳，尤其在复杂数据上，而HOG在受控环境中表现强劲，LBP表现较差。研究强调数据集复杂度显著影响表现，稳定的特征学习对实际应用至关重要。
AI生成视频通常包含跨帧不一致引起的微妙时间伪影。捕捉这些伪影的检测器应受益于视频预训练骨干网络，而非仅用图像预训练网络。但实际上，采用标准全局读出的视频骨干网络未必能超越强大的图像预训练探针。主要原因在于读出中过度的时空聚合，将每帧压缩成单个全局描述符，抑制了局部补丁级时间动态，丢失了重要的补丁间关系。基于此，作者提出Velocity Gated Patch Velocity Profiling (V-PVP)，一种轻量级读出模块，通过双流处理补丁速度场，仅增加约0.5M参数。V-PVP作为即插即用模块，在多种视频骨干和训练设置下均能稳定提升性能。该方法在完全冻结骨干情况下，在AIGVDBench上达到了95.28的AUC，证明替换聚合层激活了视频骨干的时间潜力，恢复其在AI生成视频检测上的优势。代码已公开。
广义少样本三维点云分割（GFS-PCS）旨在对场景中的基础类别和少量新类别进行分割。现有顶尖方法需基于三维标签、每次训练和少样本标注，利用稠密但有噪声的三维视觉语言先验来识别新类别。本文提出完全免训练、无三维标签且不依赖少样本支持的管道，将冻结的三维视觉语言模型RegionPLC与可提示概念分割器SAM3结合，通过多视图一致性确保新类别标签。该方法在ScanNet200数据集上使新类别mIoU提升2.6，基础类别准确率仅下降0.5，接近有监督方法三分之一的性能差距；在更难的ScanNet++上新类别mIoU几乎翻倍，提升显著。