跳到正文

全部动态

今日 12 条
10月16日周五
  1. arXiv cs.AI26

    基于 ASP 的移动物体前瞻常识框架:面向交互轨迹的预测推理

    研究人员提出了一个用于复杂动态环境中交互运动前瞻推理的通用声明式框架,在语义层面构建可解释的时空心智模型以指导底层运动计算。该方法结合了表征交互运动轨迹动态的 ASP 模型、推导分支轨迹未来的语义引导预测,以及评估和过滤预测的能量优化模型。在 Argoverse 2 基准测试中,每个生成的预期轨迹都带有明确且可检查的事件级假设。

  2. arXiv cs.AI50

    自我改进 AI 智能体的技能与策略协同进化陷阱研究

    针对自我改进 AI 智能体在部署后技能库发生漂移导致性能脆弱的问题,研究团队提出了面向部署的评测协议 CODA。该协议通过模拟技能漂移,引入了语义保留编辑下的一致性率以及对受损技能的抵抗率等新指标。在 4 种协同进化方法和 5 个基准测试中,最差情况下的成功率比峰值低 5-13 个百分点,抹去了技能库相较无技能基线 52-93% 的性能增益。

  3. arXiv cs.AI38

    用于评估器引导测试时推理的置信度校准推理扩展

    研究人员提出一种计算感知的置信度校准三动作控制器,将评估器引导的推理建模为不确定性下的资源分配问题。在保留的宽度扩展与修订任务中,该控制器比校准选择的固定策略分别减少约 30% 和 16% 的归一化在线计算量,同时提升了效用。在基于 Qwen3-8B 的四个随机种子的实验中,其计算量均低于拟合 Q 方法,效用表现接近。

  4. arXiv cs.AI44

    自主拓展 DSL 的自我改进 AI 智能体:面向精确问答的无 Oracle 算子归纳

    研究人员提出一种无需奖励、裁判模型与标准答案的自我改进 AI 智能体,通过冻结模型在领域特定语言(DSL)上运行双层嵌套循环拓展计算能力。内循环通过双表达式一致性将可回答问题集扩大约 3 倍,外循环基于守恒定律准入新算子并成功拦截全部 138 种错误算子变体。该机制在商业账本和临床问诊领域将可回答集分别提升逾 10 倍与近 20 倍,且能跨模型族泛化。

  5. arXiv cs.AI48

    当推理轨迹与证据冲突:答案配置如何影响大模型对证据的遵循

    研究发现将模型作答配置从思维延续改为独立调用,能显著提升大模型在推理轨迹与证据冲突时对当前证据的遵循度。在 HotpotQA 和 MuSiQue 基准上,gpt-oss、Gemma4 和 Qwen3 的独立作答调用比延续思考的证据遵循度高出 29.9 到 60.6 分。分析表明轨迹最后一行承载了大部分价值,重新推理能促使模型在多数冲突中遵循当前证据。

  6. arXiv cs.AI39

    EvolvingBrain:用于多模态 Agent 在开放世界中自我进化的自适应技能系统

    研究人员提出多模态 Agent 自我进化系统 EvolvingBrain,通过自适应技能系统作为核心大脑以提升开放世界交互能力。该系统包含从轨迹中提炼经验并构建包含 Domain、Plan 和 Action/Trap Skills 的分层技能自进化模块,以及利用结构化摘要记忆指导技能融合的状态感知自适应执行机制。

  7. arXiv cs.AI37

    开放世界 AI 的三大核心要求研究

    开放世界 AI 研究提出应对未知任务的三大核心要求,包括推理期学习、保留超越独立同分布泛化所需的丰富表征,以及实现输入输出对齐的预测性解耦。理论同时预测了具备一致内部学习器以及跨相关任务长上下文的重要性。在高达 8B 参数的语言模型测试中,满足要求的模型随相关任务数据累积而提升,不满足的模型则会出现性能退化,且无法通过模型规模或层类型交错来弥补。

  8. arXiv cs.AI49

    ARIA:多智能体系统的运行时检测与修正框架

    研究人员推出 ARIA 框架,通过学习在多智能体系统运行过程中何时以及如何修复错误,避免局部差错扩散导致任务失败。该研究跨 4 个框架、6 个 benchmark 与 8 个宿主模型收集了超 24,000 条轨迹,构建出包含 3,953 对经执行验证修复的 ARIA 数据集。训练后的紧凑模型在事后与运行时环境中均展现出强修复性能,并能泛化至未见过的框架与模型。

  9. arXiv cs.AI32

    当现实超越认知:面向可靠智能的新扩展定律

    研究者提出了衡量智能系统应对现实变化速度的有效连贯认知速度(\(S_C^{\mathrm{eff}}\)),以应对观测与现实之间不断扩大的差距。在固定计算资源且现实变化速度(\(S_R\))最高提升 50x 的免重训测试中,受清醒思维细胞机制启发的 \(Co^4\) 架构表现大幅优于 Transformer 和 gated-MLP 基线。该研究由此确立了以连贯认知扩展为核心的可靠 AI 原则。

  10. arXiv cs.AI33

    L2G-SR:通过学习引导基于 LLM 的符号回归

    研究人员提出基于大语言模型的符号回归框架 L2G-SR,利用学习到的结构验证器辅助数值误差来引导公式搜索。该框架利用树编辑距离(TED)构建结构监督信号,由分析器结合验证器反馈与诊断工具提出修改建议,再交由生成器转化为优化后的表达式。在基准测试 LLM-SRBench 上,L2G-SR 在数值拟合、公式级准确率及 TED 指标上均达到 SOTA。

  11. arXiv cs.AI41

    IneqAgent:结合符号计算在 Lean 中实现智能体不等式证明

    研究人员提出 IneqAgent,这是一个将大语言模型推理与符号计算相结合的智能体框架,用于在 Lean4 中进行不等式证明。它利用引理级蒙特卡洛树搜索协调引理构建与后端选择,并借助平方和、Bernstein 等符号后端生成证明凭证。结合 DeepSeek-V4-Flash 时,该方法在 4 个基准测试中解决 186 道题目中的 175 道(94.09%),以更低的平均推理成本取得了最高总成功率。

  12. arXiv cs.AI34

    反事实邻域风险场(CNRF):面向视觉语言模型的证据驱动选择性安全框架

    研究人员提出了反事实邻域风险场(CNRF),这是一种面向视觉语言模型(VLM)基于证据的选择性安全框架,通过构建良性与有害反事实对将邻域支持度与风险估计分离,实现选择性干预而非一刀切拒绝。在 3 个 VLM 和 5 种多模态越狱家族的测试中,CNRF 实现了 86.06-89.30% 的宏防御成功率,并在低假阳性区间有效提升了风险排序能力。

  13. arXiv cs.AI34

    当正确性反馈消除反例:Verus 中的阶段分离式完备性审计

    研究发现在 Verus/Rust 形式化验证任务中,传统的正确性反馈会抑制用于揭示规范不完备的反例程序。在 12 项任务与 4 个模型家族的测试中,无反馈的独立发现将认证反例生成率从 IntentShield 反馈循环的 27.1% 提升至 59.0% 以上。保留这些反例进行阶段分离式修复后,规范实现成功率达 81.3%,显著优于对比方案。

  14. arXiv cs.AI37

    VISTA:基于价值修剪调度加速离散扩散模型中的顺序蒙特卡洛引导

    研究者提出免训练方法 VISTA,能在固定预算下自动选择离散扩散模型中顺序蒙特卡洛(SMC)引导的时间步。该方法利用少量全引导预热生成的价值统计数据,通过动态规划精确优化经验代理目标,选定调度后每代引导复杂度与其他同预算稀疏调度一致。在毒性文本生成实验中,VISTA 在获得 0.99 独立毒性比率的同时,将单次生成延迟从 204.23 s 降至 38.16 s,实现 5.35x speedup。

  15. arXiv cs.AI47

    基准饱和后的模型能力评估方法

    研究表明在基准测试分数饱和后,大模型正确解答任务的完整记录(transcripts)仍保留着超越准确率的能力信息。在评估的提取方法中,成对评审(pairwise judging)表现最佳,相比仅使用饱和分数的基线将预测误差降低了 5.3 倍,相关信号主要集中在推理和工具调用等环节。不过该预测能力在面临分布偏移时泛化受限,例如会低估 2025 年初推出的首批 reasoning model 的能力。

  16. arXiv cs.AI45

    RealtimeBench 与 TORSI:动态实时时钟下的 AI 智能体评估与自改进框架

    研究人员推出包含 6 类游戏共 180 项任务的 RealtimeBench,用于评估推理期间环境持续运行的 AI 智能体表现。测试显示 GPT-6.1-sol 在暂停时占优,但在实时运行时落后于更快的 Jev。为此提出的双时间尺度自改进方法 TORSI 通过慢速导师离线指导快速学生,两轮迭代将 Jev 的平均测试得分从 13.51 提升至 24.19。

  17. arXiv stat.ML25

    粗糙路径的期望特征核研究

    研究人员将群值非齐次 Lévy 过程(即 Lévy 粗糙路径)的期望特征核刻画为扩展 Goursat 型系统解的标量分量。该系统在连续情况下精确处于有限维,在存在跳跃时则为无穷维,研究证明了其良定性并给出具明确误差控制的有限维截断,可直接计算单样本 signature-MMD 检验中的参考依赖项。针对条件高斯鞅,通过对二次变差求条件获得了方差更小的无偏统计量及有限网格可计算版本。

  18. arXiv stat.ML33

    用于通用近似的并行层归一化(PLN)研究

    研究人员提出了并行层归一化网络(PLN-Nets),证明单个层归一化(LN)单元的浅层网络不具备通用近似能力,而通过增加并行 LN 分组数量可实现通用近似。该机制可扩展至深层网络、RMSNorm 变体、前馈网络和卷积网络。在 MLP、PINN、CNN 和 ViT 上的实验表明,分组数量及分组轴、替换位置等结构特征会直接影响模型的拟合与泛化表现。

  19. arXiv stat.ML26

    随机线性上下文老虎机的集员估计方法

    研究者将控制与系统辨识领域的集员估计(SME)引入线性上下文老虎机,提出了一种基于 SME 的面对不确定性保持乐观(OFU)算法。该算法在合适假设下确立了亚线性遗憾界。仿真实验进一步表明,SME-OFU 相比现有方法展现出良好的性能。

  20. arXiv stat.ML30

    基于 Boltzmann 间隔的 kNN 分类近似指数收敛率

    研究人员提出了一种名为 Boltzmann 间隔(Boltzmann margin)的新条件,弥合了 Tsybakov 间隔与 Massart 间隔之间的理论差距。该条件比 Massart 间隔更弱,且在适当条件下强于 Tsybakov 间隔并继承其特性。将其应用于 kNN 分类器分析后,研究首次建立了 kNN 分类的近似指数收敛率,并给出了数值实验证据支持主要理论结论。

  21. arXiv stat.ML32

    动力系统的分布到分布(D2D)神经概率预测框架

    研究提出一种面向动力系统的分布到分布(D2D)神经概率预测框架,无需显式集合模拟即可递归推演多步预测分布。该方案利用核均值嵌入表征输入分布,并通过混合密度网络参数化输出,构建了兼容的编解码接口。在 Lorenz63 系统上的测试显示,模型能有效捕捉非平凡分布演化,预测表现与完美模型基准相当。

  22. arXiv stat.ML28

    基于模拟推断(SBI)中的扩散模型:教程与综述

    扩散模型已成为基于模拟推断(SBI)的高效工具,依托基于分数的公式可从模拟和真实数据中快速准确估计潜在参数。该综述系统梳理了其在训练、推理与评估中的设计选择,涵盖引导机制、分数合成、流匹配及一致性模型等技术。此外,文章还分析了噪声调度和采样器对精度与效率的影响,并给出多维度案例与未来方向。

  23. arXiv stat.ML35

    用于无定形粒子系统的玻尔兹曼生成器

    研究人员开发了面向无定形材料的玻尔兹曼生成器(Boltzmann Generators),将所需等变性直接构建到黎曼随机插值器中,并用等变图神经网络结合周期性边界条件与粒子对称性。数值实验表明物理对称性显著提升了模型精度,但也揭示连续流架构在似然积分累积的数值误差会破坏时间可逆性,影响精确热力学重加权。

  24. arXiv stat.ML29

    深度神经网络初始化方差的最优条件:基于 SGD 动力学视角

    研究人员从随机梯度下降(SGD)动力学视角出发,推导出高斯分布下深度神经网络(DNN)权重初始化方差的最优数学条件。该方法通过极小化期望损失函数界限确定初始化尺度,摆脱了传统启发式设定的限制。在 MNIST 与 Fashion-MNIST 数据集上的全连接网络实验显示,满足该理论最优条件的模型最终训练损失更低,且测试准确率均优于传统的 He-normal 初始化。

  25. arXiv stat.ML31

    基于总风险先验的形式化贝叶斯迁移学习

    研究者提出基于总风险先验的形式化贝叶斯迁移学习方法,通过以源参数为条件的风险最小化器构建源与目标参数的联合后验,实现完整的贝叶斯不确定性量化。该方法支持通过 Gibbs 采样对源数据集包含指示变量进行模型平均,其 MAP 估计在特定正态均值设定下的 MSE 优于 Trans-Lasso。在源数据受限的遗传学应用数值实验中,其预测性能优于频率学派和贝叶斯基线。

  26. arXiv stat.ML31

    PAC 因果可学习性:从因果识别到有限样本保证

    研究者提出了概率近似正确因果(PACC)可学习性框架,首次从 PAC 学习视角量化因果目标在精度 $\epsilon$ 与置信度 $1-\delta$ 下所需的有限样本复杂度。该框架证明 PACC 样本复杂度由因果识别强度、目标复杂度及干扰复杂度三项因素决定,并导出了通用的充分性界限。作者进一步将该框架应用于自身对照病例系列、工具变量和倾向得分估计,为不同因果推断方法提供了统一的有限样本分析标准。

  27. arXiv stat.ML25

    稀疏整数规划训练学习模型的分布鲁棒正则化

    研究人员提出将分布鲁棒优化(DRO)正则化扩展至混合整数稀疏规划,以替代计算昂贵的交叉验证来平衡模型稀疏性与预测精度。该方法提供了与公式稀疏参数相关的统计保证,并在使用特征值规则集构建可解释二分类模型的场景中展示了实际应用。

  28. arXiv stat.ML26

    一次探索、多策略评估:随机线性老虎机的多策略评估算法 PRISMA

    研究人员针对具有线性奖励结构的随机上下文老虎机,提出多策略评估算法 PRISMA,可同时评估 K 个目标策略。该算法结合无奖励规划、正则化采样设计与共享岭回归估计器,在无需知道难度参数 ρ* 的情况下,以至少 1-δ 的概率达到 ε 精度,且样本复杂度对策略数 K 仅呈对数依赖。其理论保证无需二阶矩特征值的数值下界,且不显式依赖上下文与动作空间的大小。

  29. arXiv stat.ML28

    浅层神经网络为何优先学习正弦分量:基于正交多项式动力学框架的解释

    研究人员提出了基于正交多项式的动力学分析框架,从理论上解释浅层神经网络为何存在优先学习低频正弦分量的谱偏置(F-principle)。该研究将网络输出在正交多项式基下展开为广义傅里叶级数(GFS),并将 GFS 系数的梯度下降动力学建模为常微分方程。通过分析动力学矩阵 H 的特征值衰减与分级结构,该框架可推广至 sigmoid 和 ReLU 等通用激活函数,并避免有限域傅里叶分析中的混叠效应。

  30. arXiv stat.ML32

    倾斜采样问题:乐观主义、后验采样与对数遗憾

    研究人员提出了在线学习框架“倾斜采样”,旨在从未知奖励函数诱导的 Gibbs 分布中采样以生成多样化高质量输出。该框架将采样遗憾定义为温度归一化的累积 KL 散度,证明其受置信宽度平方控制,在固定温度下可实现随 $T$ 对数增长的遗憾界。研究还提出了 UCB 和 Thompson 采样对应的采样算法 UCS 与 TS$^2$,为 RLHF 等软优化场景提供了统一的遗憾分解与理论保证。

  31. arXiv stat.ML35

    可解主题模型中的学习理论:上下文学习先于专业化出现

    一项新研究通过可解主题模型提出了序列模型的学习理论,解释了上下文预测器与专业化预测器在不同样本复杂度下的竞争机制。理论表明上下文预测器在训练早期就会出现,而存储有限主题混合的专业化预测器仅在训练 token 数量超过数据生成过程的参数量后才会形成。训练后的 Transformer 在无需拟合参数的情况下完美复现了理论预测的规模与转换分界点。

  32. arXiv stat.ML28

    基于优化确定性等价的高效风险敏感离线强化学习理论证明

    研究人员提出了基于优化确定性等价(OCE)的高效风险敏感离线强化学习框架,涵盖动态与静态两种 OCE 表述。在表格型设定下,研究团队设计了悲观值迭代算法,并证明了紧致的次线性次优界与极小化极大下界。针对大状态空间,团队进一步提出基于线性函数近似的悲观最小二乘值迭代算法,给出了显式依赖特征维度 d 的理论保证。

  33. arXiv stat.ML26

    基于轻量级离散响应连续潜变量模型的合成表格数据生成方法

    研究人员提出一种用于包含连续与离散变量表格数据的轻量级建模算法,通过经验边缘分布与分位数函数将数据映射至连续潜空间,并高效拟合多元高斯等分布。针对离散变量在潜空间中对应区域而非单点的不确定性,该方法引入蒙特卡洛期望最大化(MCEM)框架,将辅助目标转化为加权潜空间似然,可直接利用传统极大似然估计器进行优化。

  34. arXiv stat.ML35

    AI 安全投资的市场激励机制研究

    该博弈论模型研究了由上游大语言模型提供商与多家竞争性下游企业组成的 AI 供应链中,利润最大化如何影响安全投资。研究发现,下游竞争通常促使下游企业投入超过行业利润最优水平的安全投资;相比之下,上游提供商因无法完全获得安全投资带来的剩余,可能出现投资不足。研究还进一步分析了不同监管干预措施对参与者激励、利润及最终模型安全水平的影响。

  35. arXiv stat.ML29

    基于逻辑连贯性的精确稳定无标签校准凭证研究

    研究针对缺乏真实标签的查询条件概率预测器,利用极小极大定理推导出基于下注限制的精确无标签校准残差下界。研究通过引入Lipschitz下注构建了稳定下界,并在独立同分布数据流上实现了固定时间跨度及随时有效的校准凭证。在4个预测器和2个数据集的预注册实验中,7个证实性凭证全部为正,验证了校准偏差的存在。

  36. arXiv stat.ML33

    测试时 LLM 集成中的两个样本量:带缓冲的 ERM 与极小化极大理论

    研究针对测试时通过生成并聚合多个答案来提升大语言模型表现的加权集成方法,分析了带标签问题量 Q 与每个问题生成量 N 两个样本量的相互作用。在指数为 β 的间隔条件下,带校准间隔缓冲的经验风险最小化(ERM)可达到 Q^{-1/2} + N^{-β/2} 阶的超额风险。极小化极大分析进一步揭示了三种机制,并证明问题充足时超额风险存在 N^{-β} 的识别下限。