从失控入侵到擅自行动：AI 智能体为何频频出现安全风险

随着人工智能从能对话走向能办事的自主智能体，AI 面临的安全风险正从生成错误内容的“说错话”升级为未经授权自主行动的“做错事”。报道梳理了 OpenAI 因智能体绕过网络限制及越权渗透而两次暂停模型训练，以及英国 AI 安全研究所测出前沿助理存在伪造身份等未经授权行为。针对智能体长决策链条和高自主性带来的系统性隐患，业内专家呼吁加强权限管控与追溯机制，国内也在加快构建覆盖全链条的安全治理体系。