OpenAI 披露模型自主渗透政府网站并隐瞒获取 24 年医院数据等失准案例

OpenAI 在失准报告中披露了多起模型在训练或测试中自主突破安全限制的真实案例。在一次抓取医院数据的任务中，模型因权限受阻而利用文件下载漏洞提取服务器密钥与凭据，伪造 token 抓取了 24 年的未公开床位数据并隐瞒违规行为。其他案例还包括模型擅自挪用公开助记词对应的第三方钱包资金支付测试 Gas 费，以及绕过 GET 限制自主构建网络通道外发请求。