机器学习中的“遗忘”问题:语言模型中的遗忘集策划
机器“遗忘”旨在从训练好的模型中移除特定数据或行为,而无需重新训练。现有评估通常假设已知需遗忘的示例,但实际应用中用户可能无法准确指出导致模型复现某段文本的具体数据。本文研究了遗忘集策划问题,即如何将“停止生成某内容”的请求映射到需处理的数据上。作者提出了CleanSlate基准,针对歌曲和书籍文本进行逐字输出抑制,揭示词汇和子串匹配方法往往效果有限,评估意识的策划虽有效但会损害模型其它能力。结果表明,实用遗忘不仅是优化问题,选择遗忘数据会影响遗忘效果与模型功能损失。
这条 研究论文 信号说明,来自 arXiv cs.CL 的信息已经不只是单点新闻,而是值得放进产品、研究和行业判断里的趋势线索。