数据价值何时等同于类别平衡?单样本数据估值的覆盖视角
研究指出单样本数据估值的固定 top-k 筛选规则因无法反映样本交互,易在已覆盖模式上浪费预算。当标签能识别模式时应使用类别平衡,无法识别时应采用显式覆盖;无标签场景下无标签覆盖可提升准确率达 +0.20,而原始 top-k 甚至低于随机选择。该优势依赖特征表示,若相关模式未在模型几何中表达则覆盖策略失效。
研究指出单样本数据估值的固定 top-k 筛选规则因无法反映样本交互,易在已覆盖模式上浪费预算。当标签能识别模式时应使用类别平衡,无法识别时应采用显式覆盖;无标签场景下无标签覆盖可提升准确率达 +0.20,而原始 top-k 甚至低于随机选择。该优势依赖特征表示,若相关模式未在模型几何中表达则覆盖策略失效。
QD-PINN 框架提出利用物理信息神经网络估计高维扩散过程贝叶斯最速检测的最优停止边界,以克服维度灾难。理论上,该工作建立了自由边界 PDE 与无限维随机优化问题的新等价性,为有限维神经网络逼近提供依据。实验通过深度集成和蒙特卡洛 Dropout 量化不确定性,证明其边界估计稳定、变异性低,且与参考数值解高度吻合。
新提出的自适应图聚合框架 ExpectileGCN 引入可学习 expectile 水平,在极小与极大值行为间连续调节聚合,以捕获超越传统均值的邻域分布信息。该框架基于 sigmoid 平滑与不动点迭代实现端到端优化,并提供理论稳定性与直推式泛化保证。同质与异质图基准实验表明,其预测性能优异,且在特征损坏与结构扰动下具备更强鲁棒性。
研究者提出端到端框架 SIGMA,将密度估计与原则性不确定性量化相结合,解决物理科学中生成模型因忽略训练统计误差而被标准检验错误否决的问题。该框架利用高斯混合模型,将不确定性作为冗余参数纳入拟合优度检验,把传统点零假设检验升级为复合检验。在二维模型与对撞机物理 QCD 背景基准测试中,该方法使同一模型可信的测试集规模提升达一个数量级。
针对簇数 $K$ 远大于维度 $d$ 的混合分布聚类,新研究证明在多对数中心间距下,低阶多项式算法所需的样本量下界为 $n \gtrsim K^2d^{3/2}$。该下界通过基于对偶 BCH 码构建的 $2K$ 个乘积伯努利混合分布($K=(d+1)^m$)推导得出。通过高斯化论证,该计算硬度结果可进一步推广至各向同性高斯混合模型。
DR-KTE-Deep 是一种针对图像、文本和图等高维结构化结局的双重稳健深度核检验方法,用于检验两种干预是否诱发相同的结局分布。该方法将干预分布表示为深度特征上的均值嵌入,并通过最大化估计功效准则来优化特征。实验表明,DR-KTE-Deep 在保持良好校准的第一类错误的同时,检验功效显著优于传统核基准方法。
一项新研究提出针对 ReLU 等连续分段线性(CPWL)网络的内在信息论分析框架,利用输入空间几何分区的离散区域标签直接分解互信息(MI)。其主导项“路由信息”支持即插即用估计器,并在分区饱和时通过单一参数的功能等价商恢复度量有效性。实验显示该路由估计器的测量结果与 3 个既有 MI 基线高度一致。
在凸体上的加权变差空间中,定义域的边界几何特征决定了浅层 ReLU 神经网络的最优 $L^q$ 逼近指数。论文确立了任意凸体的上下界,确定了所有平面凸体及其多胞体乘积、以及主曲率全为正的 $C^2$ 凸体在所有有限 $q \ge 2$ 时的最优指数。当目标为有限 ReLU 网络时,该上界可由仅使用原神经元的压缩网络实现,且不增加加权系数和。
研究提出一种基于模型的 boosting 方法,用于拟合结构化加性分布 Copula 回归模型,重点联合建模保险理赔频率与理赔严重度。该方法基于 GAMLSS 框架,使响应分布的多个参数均依赖协变量,相比黑盒模型具备内在可解释性与审计性。合成与真实数据实验表明,该框架能有效恢复依赖结构并识别重要变量,取得了具竞争力的预测性能。
研究提出针对统计图模型分离准则的高效检验算法,证明所研究准则均可通过可达性(reachability)的模块化变体实现检验。除 $\sigma$-separation 外,该方法对所有准则均达到线性时间复杂度,匹敌图加载的理论最优时间。团队基于 CIfly 框架提供了 R 与 Python 代码实现,并通过仿真实验验证了运行效率与扩展表现。
新研究拓展了概率测度空间上的二阶 Sinkhorn 几何,推导出 Levi-Civita 协变导数以及 RKHS 上的测地线和平行移动常微分方程。通过对方程解进行线性化,该理论证明了指数映射、对数映射和平行移动等插件估计量满足 $\sqrt{n}$ 极限高斯过程。这在最优传输几何中首次为典型几何运算确立了 $\sqrt{n}$ 极限定理与非参数 bootstrap 一致性。
一项理论研究探讨了去噪分值匹配的统计效率,证明一维 Ornstein-Uhlenbeck 流下的多项式近似会导致分值估计方差随次数呈指数级增长。提出的算子先验分值匹配(OISM)虽能降低固定次数方差,但在时间足够小时仍无法消除该不稳定性。而在环面热流下,三角多项式 OISM 能有效控制有限样本误差,并在期望 KL 损失下达到经典极大极小速率。
研究提出了一种针对数据流分布函数的时间任意有效置信带,即使样本对历史数据存在任意依赖,也能在全时段与全定义域上同时保持有效。该方法推导了时间平均条件累积分布函数(CDF)的置信带,其宽度由二叉搜索树的深度决定。该成果进一步拓展为适用于任意索引分布函数族的统一框架,并应用于重要性加权、右截尾及多元 CDF 场景。
最新研究表明,当模型容量有限时最优模型必然会打破对称性,且这一代价可被精确量化。对于高斯双线性预测问题,对称性的对数损失代价精确为 $(U_k-I_k)/(2\sigma^2)$;注意力头同样受头维度秩限制,在三维方向拟合中打破对称性的表现与理论预测一致(RMSE 0.004)。在尖锐 softmax 注意力下,破缺头在 20 个测试头维度中的 16 个均击败了全对称头。
研究提出一种基于非线性概率流粗粒化与模拟推理的方法,利用低维代理过程构建加速动力学中的即时准稳态诊断。该方法通过在有效流粒子近似上训练 RNN 来估计去相关时间的后验概率,并将其迁移至高维粒子近似的集体变量轨迹。在合成示例与分子系统测试中,该 RNN 诊断在 ROC 分析中表现优于传统 MCMC 诊断,保守性更低、失败次数更少且具有可解释的决策阈值。
研究人员提出用于非平滑目标分布采样的锚定斯坦变分梯度下降(Anchored SVGD)算法。该方法通过引入更平滑的参考势函数与锚定权重,无需计算目标势函数的梯度即可完成采样,并将标准 SVGD 涵盖为特例。研究还推导出再生核希尔伯特空间中的最速下降方向,并证明了该算法在锚定核化斯坦差异下的非渐近收敛界。
Google DeepMind 发布世界模型 Genie 4 研究预览,支持实时生成可交互场景并原生生成配套音频。开源模型方面,蚂蚁百灵开源 5600 亿参数的 Ling-3.1-flash-1019,商汤开源 SenseNova 6.8 Code2Video,百度开源 Unlimited OCR 2。
Retell 采用 OpenAI 模型支撑每月 1 亿次通话。在 Retell 的语音智能体基准评测中,GPT-6 Astra 位列第一;同时 Codex 助力该公司实现了每名员工 $1.6M 的年化营收运行率。
研究团队提出自我改进的研究智能体系统 AutoTavern,在 20 天内自主构建出酒馆战棋完整模拟器 TavernGym,并训练出强化学习智能体 TavernAgent。
推荐理由:该研究展示了 LLM 智能体自主构建复杂游戏环境与强化学习策略的完整闭环,为科研自动化落地提供了范例。
研究者提出 EnvLunch 预热训练阶段,无需人工或模型生成任务描述,直接利用可执行环境自身的交互与执行结果训练智能体。该方法通过采样有效动作轨迹并训练模型仅凭最终观察恢复等价轨迹,在各预算下游训练中平均超越基线 9 分以上。在少标注场景下,基线需 8 至 32 倍标注样本才能追平其最小预算下的准确率。
研究者提出语言模型 Rectified Language Flow(ReLF),通过 rectified flow 将噪声传输至 token embedding 实现并行文本生成。
DynaReason-Pro 首次实现了从构象系综联合预测 GO terms 并生成自然语言功能解释,将蛋白质动力学与功能相连接。该框架在源自 Protein Ensemble Database(PED)的内源无序蛋白(IDP)基准上进行了防数据泄露评估。变异度分层评测显示,其在构象高变异性区间取得了最显著的性能提升。
研究人员系统评估了在医学问答(MQA)中向语言模型注入 UMLS 知识图谱的方案,指出该技术目前通常仅带来微弱的性能提升。研究深入排查了此前未被讨论的方法论缺陷,指出存在 UMLS 低覆盖率与弱子图检索流程等关键瓶颈,并给出了释放其潜力的可行建议。目前相关代码与文献标注均已开源。
研究人员提出结构化剪枝与微调框架 SPAFT,通过基于参数重要性和结构冗余将自适应微调约束在紧凑的相关参数空间中,提升 PPG 基础模型对穿戴设备信号的适配能力。在涵盖 4 个 PPG 基础模型、5 个 benchmark 数据集和 10 个下游任务的实验中,SPAFT 在回归与分类任务上分别取得 82.8% 和 87.5% 的胜率,达到了 SOTA 性能。
研究人员推出物理推理基准 InfiniteWorld,通过将问题与系统性修改物理参数的模拟视频配对,测试视频语言模型能否依据视觉证据进行推理。该基准涵盖定律识别、参数估计和定律归纳等 5 项任务,并提供纯文本与视频帧等 5 种配对输入设置。评测显示现有模型普遍依赖地球常规规律,在观测物理动态改变时仍频繁给出常规答案。
研究者发布关于 System 1 决策模型的综合指南,探讨如何通过单次前向传播直接输出结构化决策,解决大语言模型自回归推理在路由、门控、打分和分类等常规决策中延迟高与成本贵的问题。
推荐理由:该文梳理了单次前向传播的快速决策架构,为高吞吐工作流中降低模型延迟与调用成本提供了系统参考。
研究人员提出结合傅里叶神经算子与混合专家的 FNO-MoE 模型,单次调用即可预测 30 分钟内的完整近显式大气化学状态。该网络利用专家间的分歧进行主动采样训练,并通过长轨迹微调确保数小时连续模拟的稳定性。模型能高保真还原数千种化学物质的演变,且运行速度比传统数值求解器快数个数量级。
针对现有方法在黑盒指令场景下失效的问题,研究人员提出利用局部熵波动检测 LLM 生成文本的新指标 RelPPR。该指标通过捕捉机器文本相较于人类平稳信息流所特有的剧烈局部熵突变来进行识别。跨模型族与数据集的测试表明,RelPPR 取得了 SOTA 的黑盒检测性能,且相关代码已开源。
研究发现视觉语言模型普遍存在“整合鸿沟”,即模型即便能准确识别各个局部事实,在多证据联合决策时仍会出现严重失效。例如 Gemma-3-27B 能正确恢复所有孤立单项事实,但在 8 项视觉实例上的全局有效率仅有 19.75%。探测与激活替换实验表明,仅在隐藏状态表征解相关信息不足以实现可靠推理,模型改进需专门针对证据整合能力。
HFG-MAIRL 框架提出了一种人类反馈引导的多智能体逆强化学习方法,用于交互式驾驶行为建模。该框架在局部马尔可夫博弈中通过有限边际响应迭代避免动作空间膨胀,并借助 Bradley-Terry 似然将驾驶员情绪等反馈转化为偏好监督。在 AIDE 数据集上的实验表明,HFG-MAIRL 优于代表性 IRL 基线,可生成与反馈对齐的可解释奖励模式。
研究团队推出多模态决策框架 Iris,支持图像与文本候选输入,在保证严格顺序不变性的同时实现精确缓存复用。跨请求复用图像候选使延迟在 K=256 与 K=2048 时分别降低 37x 和 191x,并在新基准上达到最高 91.7% 准确率且零翻转率。此外,Iris-4B 在 JevBench 评测中达到 100% 准确率超越 30B 模型,代码与权重已开源。
研究人员提出 PACE,一种支持自适应猜想探索与证明开发的研究证明 AI 智能体。该系统结合独立验证器与证据追踪记忆动态管理依赖,并配套推出了包含 51 个已知任务与 6 个开放问题的应用数学基准 ResearchProofBench。在 51 个已知证明任务中,PACE 取得 75.16 的综合 Proof Score 并完成 20 项证明,评审得分均高于对比基线。
研究人员提出自进化训练框架 MORE,可针对不同任务自适应选择推理模式(直接回答、长短 CoT、代码推理)与 token 支出。MORE 采用两阶段范式,先建立模式先验,再通过 MATE-PPO 在生成的可验证任务流上自进化,无需人工精选数据。在 3B 至 14B 规模的模型上,MORE 在代码、数学和通用推理基准中均实现了更高准确率、更短回复长度与更少推理时间。
研究人员提出 Meta-CLIP 框架,利用 DICOM 标头采集相似度重新加权跨模态负样本,以提升医学视觉语言预训练与零样本疾病推理表现。该方法在推理时沿用标准双编码器架构且无需输入元数据。在 CT-RATE 基准上,Meta-CLIP 较 CT-CLIP 将 macro-AUROC 提升 1.41 点,并在 5 个 CXR 基准中的 4 个取得最高 macro-AUROC,代码将公开。
研究者提出 SWE-Ladder,通过将软件修复过程分解为定位、复现与修复的阶段性特权自蒸馏,并结合 GRPO 优化端到端轨迹。在 SWE-bench Verified 基准上基于 Qwen3-4B-Instruct-2507 评测,R2E-Gym 脚手架下的 pass@1 从 9.6% 提升至 16.4%,优于纯 GRPO 的 10.4% 和全补丁 OPSD 的 12.4%。
研究者提出 PoT-LIF 神经元,通过发射幅值为 2 的幂次的离散脉冲,为视觉-语言-动作(VLA)模型实现低功耗事件驱动推理。将其集成至 $\pi_{0.5}$ 模型并在 LIBERO 闭环评测中测试,Heartbeat 模式成功率达 97.25%,优于连续激活基线的 96.70%。
研究人员提出一种面向配电网社区储能协调的物理信息安全强化学习算法 LDCPPO,在控制运行成本的同时将关键电压越限程度降低高达 80.5%。该方法构建结合线路阻抗与物理损失的双层物理信息图表征建模时空交互,并通过独立的奖励与成本 Critic 保持异构信号。测试表明,该算法同时取得了最低的电压越限次数与线路过载程度。
研究人员提出偏好-行为模型(PBM),将偏好表征与不完全效用最大化机制结合,通过逆博弈问题联合推断大语言模型的偏好与行为参数。在公共品博弈、集体风险及公共池塘资源三种社会困境中的评估显示,传统行为经济学工具估算的偏好无法一致预测其决策,而 PBM 跨困境仍具预测价值。该方法还能检验模型与人设指令的对齐情况,揭示传统引出工具容易遗漏的权衡行为模式。
新提出的对抗蒸馏方法 TAD 无需在线教师打分或环境奖励,仅依靠固定教师轨迹即可对 VLA 策略进行在线蒸馏。在 ManiSkill 评测中,TAD 将 7B 规模的 OpenVLA-OFT 成功率从 26.2% 提升至 76.6%,最终成功率从 20.3% 提至 58.6%。其表现仅落后白盒在线蒸馏(OPD)0.8 至 5.0 个百分点,但需消耗 OPD 5 倍的学生交互预算。
研究团队推出科研构想生成评测基准 AlphaIdeaBench,包含 100 个带有资源预算的任务,在 12 个维度评估方案的有效性、新颖性与可行性。基准使用 600 篇顶会论文审稿意见校准裁判,Gemini 3.7 Flash 在问题和方法新颖性上与审稿人评分符合率达 94-97%。评测中 CoI-Agent 获最高综合分,相关任务与细则已开源。