arXiv cs.AI· Nouar AlDahoul, Yasir Zaki·· 3 天前AI 评分39
从宽容到怀疑：开源后训练配方如何改变 LLM 事实核查的信任偏见
From Leniency to Suspicion: How an Open Post-Training Recipe Changes Whom LLM Fact-Checkers Believe
AI 导读
研究发现开源 Tülu-3 后训练配方会诱发 LLM 事实核查中的职业偏见，使 OLMo-2 32B 和 Tülu-3 70B 对低地位职业发帖人更倾向判定为假，效应虽小于 1 个百分点但统计学显著。该判断反转由残差流中的单一方位承载，且发生在监督微调阶段。Meta、Alibaba、Mistral 的训练配方及 7 款商用部署模型均未出现此类偏见。
来源：arXiv cs.AI · arxiv.org