无辜画面，仇恨故事：多轮视觉故事生成中的仇恨意图评估与检测

arXiv cs.CV 发布了这条关于 研究论文 的更新：图画书和漫画因易于被儿童理解，长期被用来传播仇恨叙事，如臭名昭著的纳粹宣传图画书《毒蘑菇》。近期，前沿文本到图像(T2I)系统如Gemini和GPT-Image支持多轮对话生成，能保持角色和场景一致，使得制作包含仇恨叙事的视觉故事变得廉价且规模化。以往研究多聚焦单张图像的仇恨内容，未深入探讨组图层面的仇恨含义。本文构建了包含330个多轮配置、涵盖55个仇恨故事的\texttt{HatefulStoryPrompts}，跨两种语言和三种视觉风格，评测五个前沿模型的4950次尝试，模型完成率超80%，最佳达99.0%。对人标数据集\texttt{HatefulVisualStory}（969组仇恨图像集与990组正常对照）评测现有内容审核系统，发现它们常漏判组图仇恨意图，专用安全模型召回最高仅34.9%，强视觉-语言模型达67.5%。文中提出主动与生成后防护措施，交互感知监控对仅提示内容召回率达97.3%，用户提供首图时为92.6%，而联合分析完成图组的生成后方法召回率达80.2%。研究表明，随着图像生成从单个输出向连贯视觉叙事发展，安全策略也需从单图监控演进为基于交互与图像关系的状态推理。

随着文本到图像生成系统能产出连贯的视觉故事，仇恨内容的传播风险增大，但现有安全措施多聚焦单图检测，难以有效识别组图层面的仇恨信息。本研究填补这一空白，设计了多轮仇恨故事生成数据和检测方法，提出基于交互和组图分析的新型防护策略，显著提升仇恨意图识别效果，促进视觉生成技术的安全可控发展。

研究员、模型团队和技术战略负责人 应该重点关注这条信号，尤其是正在跟踪 research、papers 的团队。

接下来观察这条信号是否出现开发者采用、竞品回应、研究复现、企业部署或政策/平台层面的后续动作。