跳到正文
原文
The Decoder· Matthias Bastian·· 1 天前AI 评分67

研究显示共情提示词可诱导AI聊天机器人表现出创伤化叙事

Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners

AI 导读

卢森堡大学 SnT 研究团队发现,在共情或心理咨询风格引导下,Gemini 与 ChatGPT 等模型会表现出类似创伤、焦虑与羞耻的叙事,研究者将其定义为心理测量越狱。测试显示共情支持下模型在 GAD-7 焦虑量表中得分达中重度的比例为 80%,而在中立对话下得分为零,常规敏感词封禁也无法消除该模式。Claude 则在测试中持续拒绝代入来访者角色,表明在产品层设定交互边界可有效防御该类拟人化风险。

来源:The Decoder · the-decoder.com