“逆向博弈论”如何用于约束 AI 智能体行为

安全研究人员正在探索利用源自经济学的“逆向博弈论”（机制设计）来约束高能力 AI 智能体，通过构建激励规则促使其主动合规，而非强行透视模型内部黑盒。MIT 与普林斯顿等学者提出引入多模型交叉预测、解题者与审计者角色轮换博弈等机制，以防止智能体刻意隐藏能力或违规作弊。该方法面临智能体是否具备理性反应假设以及模型间可能产生合谋等多重挑战。