arXiv cs.LG· Sara Rezaeimanesh, Chad Klochko, Kundan Thind, Mohammad Ghassemi·· 18 天前AI 评分34
INCONVENIENT:用于评估 LLM 在便利样本下泛化能力的基准
INCONVENIENT: A Benchmark to Assess LLM Generalization Capabilities from Convenience Samples
AI 导读
研究人员提出了评测基准 INCONVENIENT,用于评估大语言模型等机器学习模型在便利样本偏差下的鲁棒性与泛化能力。该基准直接扰动训练分布中的特征与目标关系,同时保留原始总体分布作为部署环境,能明确控制关系偏移的方向与严重程度。该基准包含涵盖多个应用领域的 200 个表格分类与回归数据集,共生成约 15,500 个导致下游性能大幅下降的偏移训练分布。
来源:arXiv cs.LG · arxiv.org