arXiv stat.ML· Ian Osband·· 29 天前AI 评分44
Planning to Learn:连接交叉熵与精确策略梯度的 Horizon Loss
Planning to Learn
AI 导读
研究针对策略梯度在分类任务中表现短视的问题提出 Horizon Loss,通过单行代码修改让模型在训练接近尾声时从交叉熵平滑过渡到精确策略梯度。在 MNIST 以及基于 ResNet-50、ResNet-101 和 ViT-S/16 的 ImageNet 实验中,该损失函数在恒定学习率下均提升了 Top-1 准确率,且增益随标签噪声增加而扩大。
来源:arXiv stat.ML · arxiv.org