小规模编辑,大型模型:维基百科倡导如何影响大型语言模型的价值观
一项研究表明,一小群志愿者通过编辑维基百科,能够影响人工智能系统关于动物福利的讨论。维基百科内容在各大语言模型的训练数据中占有重要地位。一个名为Pro-Animal Wikipedians (PAW)的动物福利倡导团体进行了125次编辑,覆盖115个条目。通过多种归因方法分析,这些编辑显著提升了模型在动物福利相关查询中的表现,且该影响仅针对相关话题,非一般实体信息。进一步微调模型时,专门训练于PAW内容的模型在动物福利文本上的困惑度显著降低。该研究表明,一场小规模、有组织的维基百科编辑活动可以显著塑造语言模型对相关话题的处理方式。
这条 研究论文 信号说明,来自 arXiv cs.CL 的信息已经不只是单点新闻,而是值得放进产品、研究和行业判断里的趋势线索。