WAKMan:工作负载感知的 KV cache 管理器
研究人员提出工作负载感知的 KV cache 管理器 WAKMan,无需获知请求类型或读取提示词,即可自适应选择淘汰策略,将缓存命中率较 LRU 平均提升 5 个百分点。针对 20 种混合流量下单一策略无法通用的问题,它有效兼顾了偏好时间局部性的智能体步骤与偏好频率的长对话,在所有策略中取得了最低的平均与最坏情况最优性差距。
研究人员提出工作负载感知的 KV cache 管理器 WAKMan,无需获知请求类型或读取提示词,即可自适应选择淘汰策略,将缓存命中率较 LRU 平均提升 5 个百分点。针对 20 种混合流量下单一策略无法通用的问题,它有效兼顾了偏好时间局部性的智能体步骤与偏好频率的长对话,在所有策略中取得了最低的平均与最坏情况最优性差距。
研究者通过运行原始代码的“可执行考古”方法,成功复现了赫伯特·西蒙的 Heuristic Compiler(1961)和 MIT 的编程助手原型 KBEmacs(1984)。
研究人员提出 OA-RAG 智能体,将形式化推理与 LLM 推理融合,利用领域本体的逻辑结构提升回答保真度并减少模型幻觉。系统为每个回答提供本体证据,并给出评估的扎实度等级(entailed、supported、related 或 unrelated)以指示可靠性。在 3 个大规模本体基准和 6 个真实医学问答任务中,OA-RAG 综合表现超越主流 RAG 与本体微调方法。
研究团队基于 Nvidia DCGM 开发出 100 ms 采样间隔的细粒度监控工具,对拥有 89 节点、319 块 GPU 的集群展开实测。对 7,399 个任务的分析显示,超 70% 任务 GPU 显存占用低于 20%,50% 任务平均 SM 利用率不足 5%,且 80% 任务申请与实际时长严重不符。结果表明可通过优化调度和 GPU 多任务大幅提升利用率,该监控工具已开源。
研究者提出一种面向可解释鉴别诊断的本体引导多智能体框架,通过将 LLM 推理锚定在专家整理的结构化医学知识库中,模拟临床医生的迭代推理过程。该系统将诊断分解为明确、可审计的推理步骤,在减少模型幻觉的同时识别最具辨别力的缺失症状并生成针对性追问。目前该项目的源代码已公开可用。
一项针对 MemoryAgentBench 的研究表明,AI 智能体仅检索到最新事实并不足够,证据中混入的过时陈述会严重破坏生成准确率。实验显示,在证据中仅将一条无关陈述替换为过时陈述,千问 Qwen2.5 准确率即从 100% 降至 44.6%,Qwen3-14B 降至 87.8%。
脉冲神经网络(SNN)在黑盒模型窃取攻击中表现出显著强于传统人工神经网络(ANN)的抗窃取能力。在 MNIST、Fashion-MNIST 与 CIFAR-10 测试中,SNN 替代模型与目标模型的一致性比 ANN 低 10% 至 20%,对抗迁移性低 15% 至 25%。这种抗性源于 SNN 基于脉冲和时间依赖的动态计算机制,其决策边界极难被替代模型拟合逼近。
该研究提出一种基于双目标优化的智能即时预订筛选模型,在保证整体预订率不下降的前提下最大化即时预订率。全球 A/B 测试表明,该模型在即时预订率与整体预订率指标上均优于此前的人工调优模型,并提升了房东的即时预订采纳率。目前该系统已正式部署于生产环境,每日服务数百万用户。
研究提出序列推荐框架 BehaveRec,融合会话、90 天长期历史与行为图信号,在包含 12.6M 用户的工业数据集上将 R@5 较 SASRec 提升 +3.2%。分析表明其优势随历史丰富度单调递增,交互超 101 次时提升达 +0.017 R@5,由此确立约 20 次交互的落地部署阈值。BehaveRec 参数量仅 5.67M,单张 GPU 不到两天即可完成训练。
研究提出模块化跨模型原型系统 MARQ,通过融入 INCOSE 标准等系统工程知识来增强 LLM 的需求质量评估能力。在专家标注的 NASA 需求集上,MARQ 使 Claude Opus 5、GPT-5.6 Sol 与开源模型 Gemma 3 12B 的中位数 F1 分数分别从开箱基线的 0.55、0.52 和 0.18 提升至 0.80、0.62 与 0.53。
研究人员提出 Skill Dreaming 框架,通过从已验证的 Pull Request(PR)流中提取可执行知识,构建并持续演化代码仓库专属技能库。该技能库可指导代码智能体在实现功能的同时,协同维护相关测试、文档、兼容性及仓库规范。通过整合 PR 分析、技能管理、代码执行与持续集成,系统实现了技能演进与代码维护的端到端闭环。
该研究将体育运动中的到达时间(TTA)建模为条件分位数回归,通过学习运动时间下分位数预测球员的最短到达时间。基于 64 场比赛的 PFF FC FIFA World Cup 2022 光学追踪数据,轻量级 MLP 在各项指标上均优于 6 种基于物理的基线模型。团队还在篮球和单场 NFL 追踪数据上进行了评估,分析运动动力学的跨项目迁移性。
研究提出解决大模型检索上下文与自身知识冲突需要独立评估两方证据并引入上下文正确率先验 $\pi$,而非依赖固定规则。该机制在 GRACE 基准上使 Qwen3.5-35B-A3B 和 Llama-3.1-8B 分别获得 45.3 与 35.0 分,最高领先最佳基线 26 分。在 ClashEval 上,该方法比同骨干的 CK-PLUG 和 TCR 分别提升 12 与 26 分。
研究人员提出结构感知提示词编辑器 StruPO,通过校准场景图将外部结构反馈转化为可复用的文生图编辑策略。在 3 个 2K 提示词测试集与 4 个冻结骨干网络的实验中,该方法改善了保真度与美学权衡,并持续提升关系保真度。15 名标注员研究与自动评测表明,关系越复杂人类偏好优势越明显,且校准后可单次生成优化提示词,无需迭代重写。
论文提出基于“人类理解”与“人类指引”的双重测试框架,用于规范当 AI 达到或超越人类研究者时如何将科研任务委托给 AI。该测试要求科研界保留解释和质疑研究成果的能力,并将问题选择与结论意义的判断权保留给负责任的人类。该框架覆盖 CRediT 划分的各研究阶段,强调即便 AI 能力更优,科学研究仍须服务于人类对世界的持久集体理解。
CohortFlow 是一种用于临床队列构建的可控 AI 智能体,通过将自然语言修正转化为局部更新并结合持久化执行图,可选择性重算受影响节点并保留已有结果。在基于 8B 模型的 100 个临床试验场景中,该方法达到 77.0% 的 requirement micro-F1,修正完成后的平均延迟降低 64.8%,模型调用减少 38.1%,并在 MIMIC 评估中成功执行全部 13 个队列状态。
研究提出面向多模态智能体的递归自我提升框架 The Trinity,通过 Creator、Explorer 和 Evolver 三个角色将世界生成与 Harness 演化耦合。
研究人员提出一种结合传统增强、CutMix、MixUp 及 DCGANs 合成图像生成的数据策略,用于解决橄榄树病害分类中的数据不足与类别不平衡问题。该方案设计了平衡类别分布(S1)、增加单类样本量(S2)与保持平衡扩增数据集(S3)三种场景。在预训练和微调的 EfficientNetV2B0 架构测试中,实验结果显著提升了分类准确率。
该研究提出应从包含缺陷遗漏的反事实视角衡量 AI 辅助节省的时间,而非单纯记录操作耗时。作者建立了复核基线模型并复现 METR 开发者公开数据,发现盲目信任会以整体时间损失换取表面耗时减少;在实验中,低估 AI 起草错误率会导致复核者减少核对,使错误率从零上升至 22.5%。
推荐理由:该研究指出单纯记录耗时会忽略漏检错误带来的代价,为评估大模型在实际工作流中的真实生产力提供了更严谨的反事实框架。
研究人员提出广义 Sobolev IPM(GSI),利用 Orlicz-Sobolev 与 Musielak 范数的联系构建高效正则化方案,打破传统方法受限于 $L^p$ 几何的瓶颈。该方法通过底层图结构将优化简化为单变量问题,使计算速度比 Orlicz-Wasserstein(OW)快数个数量级,并在文档分类与拓扑数据分析中表现优异。
一项针对可解释 AI 中概念激活向量(CAVs)构建过程的理论分析表明,CAV 的方差随随机样本数 N 的增加大致呈 1/N 比例下降。该通用结论在 4 种不同模态的多个真实数据集实验中得到证实。研究据此提出了资源高效型应用 CAV 方法的实用建议。
研究人员提出用于密度比估计的加法树模型,通过引入平衡损失(balancing loss)解决两样本比较问题,并支持梯度提升等监督算法训练。该平衡损失还可作为伪似然实现广义贝叶斯推断,为高维且数据受限分布下的密度比提供不确定性量化。实验表明提升算法计算成本低且精度高,该方法已成功用于评估微生物组组成数据生成模型的质量。
针对贝叶斯优化问题,该研究证明了高斯过程上置信界(GP-UCB)算法在特定平滑度的 Matérn 核下能以高概率实现 $\tilde{O}(\sqrt{T})$ 累积遗憾。
研究者提出了一种面向大语言模型的双重稳健偏好优化算法,旨在解决 RLHF 因偏好模型或参考策略设定错误导致微调偏差的问题。该算法只要在偏好模型或参考策略其中之一设定正确时即可保持一致性,理论和实践性能均优于现有 SOTA 算法。该论文已被 NeurIPS 2025 接收,相关代码已开源。
研究人员提出利用目标学习(Targeted Learning)非参数推断框架,用于评估训练数据生成过程中的数据公平性。该方法针对人口统计学均等(demographic parity)、机会均等(equal opportunity)及条件互信息推导了相应估计量。仿真结果显示,相比固定模型推断,该数据公平性估计量提升了置信区间覆盖率,并减少了对总体不公平性的误检。
针对严防预算耗尽的操作控制场景,研究提出带凸正则化的截断障碍策略梯度方法,通过在状态中保留预算并将奖励下限截断至 -m,将 m 直接作为失败风险的定价。理论证明,在足够强的凸正则化下总体训练流具备指数收敛性,成功将策略梯度的平均场收敛从相对熵拓展至权重衰减,并保证风险超出对比策略的幅度在 1/m 阶以内。
普通时序差分(TD)学习在表格型设定下无需预先选择子图或满足全局覆盖,即可自动融合 TD 的渐近效率与蒙特卡洛(MC)对局部访问的要求。论文提出了连接两者的子图 Bellman 方差,并证明全 TD 的均方误差被任意包含目标且充分覆盖的子图方差除以样本量所界定。有限样本极小极大下界与实验进一步表明,罕见状态被充分观测前无法达到渐近方差。
该研究通过对矩阵最后一列进行单一重参数化,将稀疏精度矩阵与稀疏协方差矩阵的惩罚极大似然估计统一到同一框架中。该重参数化将似然函数解耦为一个一维极小化问题及后续的惩罚多元回归,适用于非对角线元素可分且对角线呈线性的任意惩罚项。当惩罚项采用 $\ell_1$ 范数时,该方法直接统一了 graphical Lasso 与 covariance graphical Lasso 算法。
针对噪声精度未知的核范数正则贝叶斯矩阵补全模型,研究提出了首个具备明确非渐近保证的采样器。该方法将精度离散化至网格并通过热力学积分估计后验,能在矩阵维度和目标精度倒数的多项式步数内收敛至预设的全变差或 Wasserstein 距离。该成果确立了此类非对数凹模型的理论可行性,但其多项式复杂度暂不针对当前规模的实际应用。
研究针对生成模型核心架构 rectified flow 展开理论分析,证明迭代 c-rectified flow 在适度假设下始终收敛至最优传输耦合,解决了普通方法失效的问题。团队进一步在二次与强凸位移成本下确立了单步收缩与指数收敛保证。结合新分数估计率,该框架在维度 $d \ge 3$ 时实现了最优传输的速率最优估计,在 $d=1,2$ 时达到近参数速率。
PSD-Impute 模型利用半正定(PSD)核密度估计将完全随机缺失(MCAR)下的插补重构为凸经验风险问题,可通过牛顿内点法求解闭式边缘分布。该模型支持从同一拟合密度中生成单重与多重插补,并提供自适应超参数选择的非凸扩展。其具备统计一致性并在规则概率分布下克服维度灾难,分布精度优于主流插补 baseline。
该研究利用高维渐近随机矩阵理论,推导出上下文学习中思维链(CoT)泛化误差关于推理深度、预训练数据量与上下文长度的精确公式。分析揭示了指数改善、饱和及过度思考间的相变,表明更深推理需充足预训练和上下文支持,否则易导致误差放大或饱和。相关预测已在线性注意力和 softmax 注意力模型实验中得到验证。
针对条件矩函数双层优化中插件超梯度易继承非参数估计误差的问题,该研究提出了正交化超梯度估计器 OBiGrad。OBiGrad 将投影梯度下降的期望稳态误差从直接插件法的 $O(T^{-1/2}+n^{-1/2}+n^{-\nu/b})$ 优化至 $O(T^{-1/2}+n^{-1/2}+n^{-2\nu/b})$。
多变量保形预测(MCP)框架通过在单一优化问题中联合优化并校准多个预测集参数,消除了校准数据划分并保留有限样本覆盖保证。该框架基于情景理论,提出了泛化传统划分保形预测的 RemMCP,以及支持非凸问题的 RelMCP 两种变体。实验表明,两者均稳定达到目标覆盖率,校准方差更低,且在多数设定下生成的预测集尺寸更小或相当。
研究人员提出一种融合专家先验知识的类别条件拟合优度评分框架,用于解决含信息缺失场景下的可解释分类问题。该框架利用专家指导模型量化观测与缺失数据特征,并结合透明辅助指标驱动简单判别分类器,生成易于审查的决策规则。该方法已应用于全面禁止核试验条约的地震监测场景,且在小样本仿真中性能优于标准机器学习分类器。
OneFlowSBI 提出了一种掩码流匹配框架,通过在参数与观测的联合分布上训练单一网络,仅切换三元掩码即可采样任意条件或边际分布。该方法将掩码作为直接输入,避免了 Transformer 架构注意力成本随变量数量二次增长的问题,无须重新训练即可处理缺失区域。实验显示,其在高维任务中采样速度显著快于 Transformer,并在多数 SBIBM 任务中达到或超过神经后验估计。
研究人员提出潜在非线性去噪得分匹配(LNDSM),将结构感知的非线性潜在扩散模型与变分自编码器(VAE)框架相结合,以增强对结构化数据分布的学习。该方法在前向扩散中引入高斯混合模型等预设参考分布,通过 Euler-Maruyama 离散化近似交叉熵上界并去除高方差控制变量,实现编码器、解码器与潜在得分网络的稳定联合训练。
一项新研究针对单头 Transformer 提出了两阶段微调方案,证明了在任务共享几何结构时的可验证分布外(OOD)适应。该方案将共享几何结构编码至 Key 矩阵与 Value 分解因子 C,微调时仅需优化因子 A,构成凸优化问题。
研究人员提出机器学习新框架 Foreclassing,将时间序列的类别标签定义为其未来观测值的函数。论文给出了误差界等理论分析,并提出联合执行预测与分类的神经网络模型族 ForeClassNet。在天气、能源和金融数据集上的实验表明,该方法能有效提升分类性能、概率预测质量及下游决策效果。
该研究深入分析了 ROCKET、MiniROCKET 等模型共用的正值比例(PPV)池化算子,确立了其平移不变性与随机特征几何集中规律。在 UCR 数据集上的实验表明,增加核数量带来的表征增益递减,且最佳测试表现出现在中等卷积核长度,证明非线性池化利于线性分离但表征过度丰富并不必然提升泛化能力。