arXiv cs.AI· Zhipeng Wei, Michael Lee, N. Benjamin Erichson·· 15 天前AI 评分43
多轮越狱中的有效视界压缩研究
Multiple Turns, Short Horizons: Measuring Effective-Horizon Compression in Jailbreaks
AI 导读
研究发现多轮越狱攻击中平均仅需原始查询序列约一半的长度,即可恢复相同的攻击进展,该现象被称为有效视界压缩。这种更短的历史序列不仅能重现未成功攻击中达到的最佳状态并提供更好的后续攻击起点,还能用于降低训练时冗余早期查询的权重以提升攻击表现。此外,较短的奖励传播窗口也能维持接近全轨迹回报的防御校准性能。
来源:arXiv cs.AI · arxiv.org