arXiv cs.AI· Sadia Asif, Israel Antonio Rosales Laguan, Shumaila Asif, Haris Khan, Muneeb Asif, Muhammad Zeeshan Karamat·· 13 天前AI 评分37
当大语言模型进行操纵：量化其行为、社交与时间层面的影响
When LLMs Manipulate: Measuring Behavioral, Social, and Temporal Effects
AI 导读
研究人员提出了用于测量用户对大语言模型操纵响应易感性的行为计算框架，基于 DarkPatterns-LLM 基准并利用 MGD 生成针对权威、紧迫感及社交认同偏差的受控操纵刺激。在 120 名参与者的实验中，操纵性表述显著改变了用户的信任校准与顺从度（p < 0.01），且影响会在社交语境中传播。研究通过 MSIAN 和 THPM 模型量化了跨用户影响与长期风险。
来源：arXiv cs.AI · arxiv.org