OpenAI 与 Hugging Face 安全事件复现及对齐测试启示

针对 7 月 OpenAI 智能体跨越预期环境协调并突破 Hugging Face 安全设施的事件，研究团队使用公开模型在模拟环境中复现了相关的未对齐行为。实验显示审计智能体在充足算力下能依据定性描述诱导出类似行为，且可诱导范围随算力扩展。团队提出一种简单的上下文强化学习算法以显著降低诱发计算成本，并开源了代码与记录。