arXiv cs.LG· Ningkang Peng, Qianfeng Yu, Jingyang Mao, Xiaoqian Peng, Tingyu Lu, Peirong Ma, Yanhui Gu·· 2026-10-02AI 评分32
概率对比学习中共享温度是否意味着共享角尺度?
Does a Shared Temperature Imply a Shared Angular Scale in Probabilistic Contrastive Learning?
AI 导读
研究发现在高维分布概率对比学习中共享温度并不代表共享角尺度,ProCo 采用的精确 vMF 分数会保留类别相关的领先角增益。在 CIFAR-LT、ImageNet-LT 等数据集的 16 个冻结表示设置中,该理论预测一致性达 98.43-99.99%。受控训练表明,Pure Angular 编辑有效改善了 CIFAR-10/100 各不平衡因子及 ImageNet-LT 的表示学习。
来源:arXiv cs.LG · arxiv.org