跳到正文
原文
arXiv cs.AI· J\'er\'emie Lumbroso·· 2026-10-02AI 评分40

控制论与认识论:可信 AI 智能体委托缺失的分析语汇

Cybernetic and Epistemic: A Missing Vocabulary for Trustworthy Agentic Delegation

AI 导读

针对代码生成向 AI 智能体委托时的监管漏洞,一项新研究提出区分协调行动(控制论)与协调理解(认识论)的治理标准,指出智能体每个重大决策都必须附带第三方可检验的反事实条件。该研究将该准则转化为两部分重构测试进行操作化评估,并提出审议记录规范 ORRCF,确保智能体决策背后的理由可检索、可检验,防止人工监管沦为形式主义走过场。

来源:arXiv cs.AI · arxiv.org