跳到正文
原文
arXiv stat.ML· Fady Rezk, Royson Lee, Henry Gouk, Timothy Hospedales, Minyoung Kim·· 13 天前AI 评分30

权重空间学习实现可验证少样本迁移学习

Weight Space Learning for Certifiable Few-shot Transfer Learning

AI 导读

研究人员提出一种基于权重空间学习的迁移学习方法,通过生成 PEFT 参数分布为少样本下游任务提供可验证的理论泛化保证。该方法利用扩散模型从上游任务学习 PEFT 参数分布,并在下游数据中通过采样与评估筛选出似然最高的参数。相比神经网络权重典型的连续假设空间,将假设限制在有限样本内能提供更紧的风险认证。

来源:arXiv stat.ML · arxiv.org