arXiv stat.ML· Davide Wiest, Ahanaf Hasan Ariq, Abdul Monaf Chowdhury·· 22 天前AI 评分38
KPSA：用于摊销条件可解释性的核化参数敏感度图谱
Kernelized Parameter Sensitivity Atlases for Amortized Conditional Interpretability
AI 导读
研究人员提出基于经验神经正切核分块分解的核化参数敏感度图谱（KPSA），通过轻量核函数预估未见输入的参数敏感度，以摊销重复的反向传播计算成本。在 Transformer 的 MLP 特征激活归因测试中，KPSA 将批量查询吞吐量从 551 提升至 2,041 images/s，并将峰值 GPU 显存从 4.55GB 降至 0.44GB。
来源：arXiv stat.ML · arxiv.org