arXiv cs.AI· Andrea Wynn (Nathan), Harsh Satija (Nathan), Seokhyun (Nathan), Baek, Anqi Liu, Eric Nalisnick, Gillian K. Hadfield·· 25 天前AI 评分42
察言观色：LLM 规范能力的基础、设计与挑战
Reading the Room: Foundations, Design, and Challenges of Normative Competence in LLMs
AI 导读
一项新研究首次形式化并评估了 LLM 仅通过交互识别社区规则的“规范能力”，发现基线 LLM 智能体无法学会这些规范。测试显示规范遵循对规范风格和模型高度敏感且缺乏泛化性；当无关特异行为与真实规范并存时，智能体会不加区分地照搬噪音，即便受罚也依然模仿。研究表明当前 AI 擅长行为模仿，但缺乏识别社会强制秩序的能力。
来源：arXiv cs.AI · arxiv.org