主题作为社会人口统计代理:对话上下文如何影响大型语言模型回答
本文研究表明,大型语言模型(LLMs)难以仅凭单次对话历史推断用户的社会人口统计特征。尽管不同群体间的结果存在差异,但差异幅度有限。通过分析对话主题、情绪和易读性等语言特征,发现对话主题是预测LLM生成建议的最主要因素,这些主题在一定程度上代替了社会人口统计群体的作用,且往往以不可预测的方式影响建议。这提示在高风险应用场景下,应关注对话上下文对LLM输出的影响并进行研究和干预。
这条 研究论文 信号说明,来自 arXiv cs.CL 的信息已经不只是单点新闻,而是值得放进产品、研究和行业判断里的趋势线索。