arXiv cs.AI· De Wang, Peng Qi·· 13 天前AI 评分49
可恢复性与验证器强度：AI 智能体无人值守自我改进的两个量化前提
Recoverability and Verifier Strength: Two Measured Preconditions for Unattended Agent Self-Improvement
AI 导读
研究提出了可恢复性与验证器强度两个量化指标，用于判断 AI 智能体能否安全进行无人值守的自我改进闭环。在 $\tau^2$-bench 等测试中，平台 LLM 评审在 37 种设置中有 9 种给出完全相同分数且未报错，且不良变更在部署期间会使 17% 任务的结果发生不可逆改变。平台据此允许提示词、工具与技能编辑无人值守运行，权重更新则仍须人工审批。
来源：arXiv cs.AI · arxiv.org