arXiv cs.LG· Wang Ru·· 12 天前AI 评分37
高斯先验何时失效？强化学习微调下的潜在几何结构研究
When Do Gaussian Priors Fail? A Latent Geometry Investigation of RL Fine-Tuning
AI 导读
研究指出潜在扩散模型的标准 VAE 高斯先验在强化学习微调下存在结构性缺陷，多模态数据会导致不同模态在潜在空间重叠并引发模式崩塌。在丙氨酸二肽玻尔兹曼分布测试中，高斯先验 VAE 在 beta_c = 0.224 时发生崩塌，而模式追踪高斯混合先验在 0.00316 时才崩塌，差距达 71 倍。该放大效应源自学习到的策略，且模式分离先验能带来不可替代的覆盖率优势。
来源：arXiv cs.LG · arxiv.org