基于竞争风险模型的自主智能体失控系统化分析

研究者提出一种自主智能体失控分析框架，将其形式化为包含核准完成、安全停止、范围逃逸与继续运行的离散时间竞争风险模型，用以计算重试预算下的逃逸概率与安全预算上限。审查 2025 年 1 月至 2026 年 9 月的 22 起事件报告与 102 项安全评估发现，22 起事件中有 20 起由环境允许越界导致，且尚无评估完整记录估计该风险过程所需的全部数据。