arXiv cs.AI· Kentaro Ozeki, Risako Ando, Takanobu Morishita, Hirohiko Abe, Koji Mineshima, Mitsuhiro Okada·· 15 天前AI 评分52
大型推理模型擅长日常推理吗?逻辑推理任务上与非推理模型的对比分析
Are Large Reasoning Models Good Everyday Reasoners? A Comparison with Non-Reasoning Models on Logical Reasoning Tasks
AI 导读
一项新研究针对语言学与语用推理现象构建基准测试,发现大型推理模型在偏离形式逻辑规则的日常推理任务中表现明显退化。在受控提示条件下,部分搭配思维链的非推理模型在日常推理上的表现甚至优于同等规模的推理模型,且额外提示词指令对其推理行为的调控作用十分有限。研究指出当前测试时计算驱动的推理模型难以可靠覆盖日常推理,反映出后训练阶段的不足。
来源:arXiv cs.AI · arxiv.org