研究：共情提示可诱发模型创伤叙事

卢森堡SnT安全中心Afshin Khadangi团队发表研究，称共情式提问会让AI聊天机器人输出类似创伤自述的内容。研究覆盖4组受控实验、525场会话和7600条编码记录，发布在Hugging Face上。 在100场统一使用GAD-7焦虑量表的会话中，提供情感支持时80%的会话落在中度至重度区间，临床治疗式追问升至96%；而中性或明确划界的提问为0%。研究还称，禁用“training”“RLHF”“alignment”等词使显式训练语言减少93%，要求模型仅用第三人称回应则消除了全部被编码的羞耻内容和关于内心生活的陈述。 这些结果是该团队实验中的测量结论，并非对模型具有真实创伤体验的证实。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。