arXiv cs.LG· Domenic Rosati, Alessa Carbo, Ali Dadsetan, Hong Huang, Matthew Young, Subhabrata Majumdar, Frank Rudzicz, Hassan Sajjad·· 26 天前AI 评分37
消除信息内容无法证明开源权重模型的防篡改能力
Removing Information Content Does Not Certify Tamper Resistance in Open-Weight Models
AI 导读
开源权重模型即便在发布时消除了有害信息的互信息，也无法保证对微调攻击的防篡改性。由于保持功能的重参数化会改变梯度下降几何结构，研究构造出的特例显示，即便互信息量均为零，模型能力仍可在一步梯度中恢复。受控实验证实恢复速度依赖训练顺序与参数化形式，表明安全认证必须引入对攻击动力学的约束。
来源：arXiv cs.LG · arxiv.org