arXiv cs.AI· J\'er\'emie Lumbroso·· 2026-10-02AI 评分40
控制论与认识论:可信 AI 智能体委托缺失的分析语汇
Cybernetic and Epistemic: A Missing Vocabulary for Trustworthy Agentic Delegation
AI 导读
针对代码生成向 AI 智能体委托时的监管漏洞,一项新研究提出区分协调行动(控制论)与协调理解(认识论)的治理标准,指出智能体每个重大决策都必须附带第三方可检验的反事实条件。该研究将该准则转化为两部分重构测试进行操作化评估,并提出审议记录规范 ORRCF,确保智能体决策背后的理由可检索、可检验,防止人工监管沦为形式主义走过场。
来源:arXiv cs.AI · arxiv.org