arXiv stat.ML· Achref Doula, Max M\"uhlh\"auser·· 12 天前AI 评分37
审视推理时模型偏移下的语言模型符合预测
Auditing Conformal Prediction for Language Models Under Inference-Time Model Shift
AI 导读
NeurIPS 2026 入选研究指出，量化模式与推理温度等配置变化会引发“推理时模型偏移”，破坏语言模型符合预测（CP）的可交换性，导致传统评估大幅高估部署时的覆盖率。该研究在 8 个语言模型、4 个有限标签基准和 12 种推理配置下进行评测，证实该影响具有异质性，并呼吁将推理配置列为符合预测评估的一等实验维度。
来源：arXiv stat.ML · arxiv.org