arXiv cs.AI· Jingxuan Chen, Mohammad Taher Pilehvar, Jose Camacho-Collados·· 11 天前AI 评分54
实例顺序是否同等重要?大语言模型多实例处理中的顺序效应
Does Every Instance Count Equally? Order Effects in LLM Multi-Instance Processing
AI 导读
一项新研究评估了 15 个大语言模型在多实例处理(MIP)聚合预测中的表现,发现模型存在显著的输入顺序敏感性,最优与最差顺序模式间的准确率差异可达约 90 个百分点。当多数标签样本出现在开头时模型准确率通常显著高于出现在中间或末尾。推理轨迹与基于梯度的归因分析显示,模型的推理过程不成比例地偏向早期实例,且首尾位置的归因权重普遍高于中间位置。
来源:arXiv cs.AI · arxiv.org