跳到正文
原文
arXiv cs.LG· Shixuan Liu, Tongli Zhou, Junwei Deng, Pingbang Hu, Jiaqi W. Ma·· 2026-10-02AI 评分42

dattri-LLM:面向大语言模型规模训练数据归因的统一高效库

dattri-LLM: A Unified and Efficient Library for Training Data Attribution at LLM Scale

AI 导读

开源库 dattri-LLM 面向大语言模型规模提供高效训练数据归因(TDA),可在 4 张 H200 GPU 上将多种归因方法扩展至 110B 参数模型。该库无需修改训练循环即可兼容 DDP、FSDP 以及 HuggingFace Transformers、TRL 等流程,平均吞吐量达同类最快库的 3.2x。其支持梯度相似度、曲率影响力和在线数据选择等多种方法与应用,代码已开源。

来源:arXiv cs.LG · arxiv.org