跳到正文
原文
arXiv cs.LG· Mohamed Bouadi, Nassim Bouarour, Shivam Dubey, Aditya Tanna, Vinay Kumar Sankarapu·· 29 天前AI 评分36

从行为到溯源:将表格基础模型归因于合成预训练数据

From Behavior to Provenance: Attributing Tabular Foundation Models to Synthetic Pretraining Data

AI 导读

研究人员利用合成任务生成器 O'PRIOR 构建可控测试基准,通过反事实重训与干预实验验证了表格基础模型的预训练数据归因。在留存的真实任务评测中,移除归因排名前 5% 的合成任务使平均 ROC-AUC 下降 0.013(随机移除仅下降 0.002±0.004),移除垫底任务则使性能提升 0.003。针对捷径任务定向移除的效果达 0.043,证明合成数据溯源可用于可验证的因果归因。

来源:arXiv cs.LG · arxiv.org