跳到正文
原文
arXiv cs.LG· Ningkang Peng, Qianfeng Yu, Jingyang Mao, Xiaoqian Peng, Tingyu Lu, Peirong Ma, Yanhui Gu·· 2026-10-02AI 评分32

概率对比学习中共享温度是否意味着共享角尺度?

Does a Shared Temperature Imply a Shared Angular Scale in Probabilistic Contrastive Learning?

AI 导读

研究发现在高维分布概率对比学习中共享温度并不代表共享角尺度,ProCo 采用的精确 vMF 分数会保留类别相关的领先角增益。在 CIFAR-LT、ImageNet-LT 等数据集的 16 个冻结表示设置中,该理论预测一致性达 98.43-99.99%。受控训练表明,Pure Angular 编辑有效改善了 CIFAR-10/100 各不平衡因子及 ImageNet-LT 的表示学习。

来源:arXiv cs.LG · arxiv.org