跳到正文
原文
arXiv stat.ML· Abiel Malkani Talwar, Christopher Nemeth, Henry Moss·· 22 天前AI 评分45

对 LLM 测试期锐化中幂采样的批判性审视

A Critical Look at Power Sampling when Test Time Sharpening LLMs

AI 导读

用于 LLM 测试期锐化的幂采样在现实算力下难以收敛至目标分布,其收益大多可通过简单的 Best-of-N 结合适当评分复现。即使通过微调让模型直接拟合目标分布,带来的性能增益也充满噪声且不稳定。幂采样的实际价值不在于精确逼近目标分布,而仅在于提取基座模型已判定为高概率的序列。

来源:arXiv stat.ML · arxiv.org