大语言模型安全相关行为的探测与干预研究
研究人员针对 Llama-3.1-8B-Instruct 模型,评估了激活探测在欺骗、高风险意识和阿谀奉承三种安全相关行为中的检测与干预表现。实验发现逻辑回归探测在欺骗和高风险场景下更擅长检测,而均值差方向更擅长干预,但该规律在阿谀奉承任务中出现反转。相关探测器与干预方向已接入交互式界面,支持用户直接评分并干预文本输出。
研究人员针对 Llama-3.1-8B-Instruct 模型,评估了激活探测在欺骗、高风险意识和阿谀奉承三种安全相关行为中的检测与干预表现。实验发现逻辑回归探测在欺骗和高风险场景下更擅长检测,而均值差方向更擅长干预,但该规律在阿谀奉承任务中出现反转。相关探测器与干预方向已接入交互式界面,支持用户直接评分并干预文本输出。
研究人员提出 CTRL-FM 框架,通过将结构引导转化为推理期决策,解决长周期传感器节点中断下的流式虚拟传感问题。该方法采用仅针对缺失项的 flow-matching 主干并严格固定观测值,基于存活测量构建自监督代理中断以选择并局部调节无控制、图主导、时间主导或平衡控制策略。
研究人员提出了一种面向脉冲神经网络(SNN)的脉冲感知基于梯度的混合精度量化框架,利用一阶梯度自适应分配位宽,无需昂贵的高阶 Hessian 计算。在 ImageNet 上的 ResNet-34 评测中,该方法在 4.78x 压缩下达到 73.30% 准确率,效果匹敌 HAWQ-V2 的同时将内存开销降低 2.31x,位分配运行时间缩短 100x。
GAV 是一个面向 PDE 智能体的科学实验环境,利用制造解方法反向构造新偏微分方程问题,实现无需单独求解即可直接验证。系统包含生成器、智能体与验证器,可依据精度与计算成本反馈迭代优化程序,并针对弱点生成测试。在数值 Navier-Stokes 任务中,GAV 将 3 个现有 PDE 智能体的平均测试误差降低了一个数量级以上,代码已开源。
研究者提出名为 duet sampling 的 Metropolis-Hastings 泛化算法,通过在每次迭代中从候选池选择两个提议分布,分别用于生成候选状态和评估返回当前状态。该方法支持同时对有向无环图(DAG)中多个节点的父节点进行重采样,在不增加额外计算成本的前提下提升马尔可夫链的混合效率。实验表明,新设计的采样操作无论单独还是组合使用,表现均超越以往 SOTA 方法。
SWE-Verifier 是基于 Qwen3.5-4B 训练的轻量生成模型,通过对候选动作打分来选择性触发采样、验证与重排,大幅降低代码智能体的无效开销。
研究人员通过矩阵二次型理论分析了优化器 Muon 核心的正交化更新 PolarGD,揭示了其训练大语言模型优于 AdamW 的机理与潜在瓶颈。分析表明,PolarGD 的收敛速度取决于当前迭代矩阵的条件数而非 Hessian 矩阵,但极小的奇异值会导致其速度远慢于梯度下降。Muon 采用的少数次 Newton-Schulz 迭代恰好缓解了微小奇异值的负面影响,收敛速度甚至快于精确正交化。
研究人员提出用于多模态推理的最小编辑策略内知识蒸馏方法,利用教师模型评估错误推理并仅对教师不认可的 token 进行针对性修正,正确推理则接受任务奖励强化学习。该方法在测试阶段无需图像描述即可达到或超越基准模型输入参考描述的性能,显著增强了几何感知能力,且使用同尺寸冻结模型作为教师同样有效。
研究人员提出一种医疗 AI 隐私风险自动化筛查工具,能在生产模型训练前利用四个小型模型提前识别易受成员推理攻击的高风险患者记录。该研究在 6 个临床数据集和 4 种模态下测试了 7,789 个模型,发现高风险患者群体在不同架构、训练配方与基座模型中基本重合。增强权重衰减最多可将暴露群体规模减少至三分之一,团队建议将隐私筛查直接纳入临床 AI 的数据准备流程。
一项针对工业旋转机械预测性维护的研究评测了 9 类异构计算平台上的 4 种模型压缩技术,结果显示知识蒸馏表现最有效。经知识蒸馏压缩的卷积神经网络模型体积缩减 98.9%,在所有设备上实现超过 90% 的推理加速,同时保持了 91.22% 的平衡 F-score,显著降低了计算与能源开销。
研究人员提出了轻量级群等变注意力网络 GANet,专用于 38 种植物病害的预测与监测。该模型引入了群注意力模块与逐群特征融合模块,仅包含 0.001M 参数,在 PlantVillage 数据集上取得了 99.99% 的准确率。GANet 针对边缘设备进行了部署优化,在 Raspberry Pi 4b 和 Jetson Nano 上分别达到 5 FPS 和 11 FPS。
一项针对 GPT-5.5 的探索性研究测试了 9 种风格的提示词,发现没有任何单一提示词在竞赛编程中表现最佳,最优选择取决于任务类型以及采用平均值还是中位数评估。研究涵盖 3 项国际信息学奥林匹克(IOI)准确率任务和 2 项 NP-hard 运行速度任务,指出均值差异多由少数离群运行导致。与人类 IOI 参赛者相比,GPT-5.5 在一项任务中超过平均选手,但另两项表现落后。
知识追踪模型的作答预测准确率无法保证题目参数恢复,区分度更新直接受估计能力尺度影响。将序列表征宽度 $d_S$ 与参数键宽度 $d_M$ 解耦并采用 SK(64,8) 组合,可在不增加模型大小或降低精度下改善参数恢复与跨顺序一致性。在 TIMSS 和 EdNet 上加宽 $d_M$ 持续提升了与离线 IRT 的一致性,表明题目参数须脱离预测独立评估。
研究人员针对 M/EEG 神经源成像等病态逆问题,提出了一种基于先验预条件正向算子奇异值结构的光谱框架。该框架将后验协方差精确分解为数据可知成分与由传感几何决定的不可约认知不确定性成分。团队还推导出了等效减法分解,可精确定量稀疏贝叶斯学习中的不确定性消除程度,为线性高斯贝叶斯逆问题求解器提供了可解释的不确定性量化工具。
MoEZip 是一种面向稀疏 MoE 大模型的路由感知 KV cache 压缩方法,解决了 KV 淘汰改变专家路由并损害生成质量的问题。该方法基于路由分布的 Fisher 信息矩阵评估敏感度,并结合注意力权重对上下文评分。在 10% 的 KV 保留率下,MoEZip 在 LongBench 和 RULER 上较 SOTA 基准平均提升 +24 和 +20 分,分别达到 2.3x 和 4.9x。
研究人员结合神经张量网络与神经反流态模拟,在大规模 GPU 计算支持下于多达 1024 个格点的晶格上达到了前所未有的变分精度。在 1/8 掺杂纯 Hubbard 模型及次近邻跃迁条件下,计算揭示了低能均匀 d 波态、超导条纹态与非超导条纹态在 milli-t 能量尺度上近乎简并。该发现颠覆了单一主导序的传统观点,表明条纹序与超导之间存在极度激烈的竞争。
研究人员提出一种利用 AI Agent 自动化优化量子线路的通用方法,通过冻结的精确验证器确保每个优化结果均可被确证。该方法应用于费米子到量子比特编码、哈密顿量布局与酉算子合成三项任务,在最大测试规模下将优化成本最高降低 73%,性能超越现有 SOTA 优化器。每次程序提交均附带 Agent 笔记,便于后续 Agent 持续迭代。
研究提出一种基于随机微分方程量子求解器的可训练生成模型,通过参数化朗之万过程势能并求解福克-普朗克方程实现分布建模。该方法利用量子奇异值变换求解厄米化方程并编码平稳密度的平方根,支持通过计算基测量直接采样。得益于物理启发的归纳偏置,该模型具备凸优化特性且不受维度限制,在大规模高维数据下仍保持可训练。
研究人员提出利用双量子比特纠缠的新型量子特征图,以捕捉物联网(IoT)数据中的多变量相关性并优化投影量子核(PQK)。该研究通过对比未调优与调优 PQK 及 RBF 基准,评估其在脱离经典超参数调优掩盖下的原生归纳偏置。结果表明,所提纠缠拓扑展现出显著更强的原生归纳偏置,证实量子力学特性可直接带来结构性提升。
研究者提出将 MLP Mixer 作为量子多体系统的波函数拟设,利用轻量级信息混合策略兼顾长程关联捕捉能力与低计算成本。在二维量子多体系统基态表征基准测试中,该架构性能可媲美 RNN 和 Transformer 模型。进一步将该模型与 Transformer 分层结合后,在大型量子系统上的表现超越了现有 SOTA 架构。
Lean-QuantumAlg 是一套基于 Lean 4 的量子算法形式化框架,旨在帮助 AI 智能体生成兼具正确性与资源边界保证的人类可信量子算法。该框架在 Grover 搜索以及针对 RSA-2048 和 P-256 的量子攻击等 9 个 AI 形式化算法上完成验证。在共享框架审计完成后,每个算法仅需不到 1% 的导入源代码接受语句级人工审查。
研究人员推出 WhatIf-Bench 基准,包含 37,665 个任务,用于评估时间序列基础模型(TSFM)与前沿 LLM 利用协变量预测目标对未来事件响应的能力。
研究重新评估了天山与帕米尔区域每周地震计数的神经网络负二项模型,发现神经网络相比带有每网格截距的线性模型并无显著优势,偏差仅改善 3.4%(p=0.57)且若剔除单一网格周则反而落后 0.7%。评估证实包含 ETAS 在内的泊松预测严重低估了高频活动周的概率,存在 8.3 倍差距,而引入离散参数可消除此偏差。2024 年至 2026 年 9 月的盲测进一步验证了引入离散参数的模型优于泊松模型。
研究者提出一种在多动作框架下利用观测数据推导策略规则的方法,通过加权 K-means 算法估计条件平均因果效应(CATE),并结合标准决策树落地可行规则。该方法应用于 HIV/HCV 共感染患者的丙肝治疗方案,成功识别出一个无需治疗即有约 80% 自发清除 HCV 概率的患者亚组。测算表明,在提升总体健康收益的同时,重新分配治疗可降低 CAN$2.5-4.5 million 的总治疗成本。
研究证明了 K-Means 是归一化高斯 RBF 层的零温极限,其软质心映射在间隔 $\Delta_{\min}>0$ 下以 $O(e^{-\Delta_{\min}/2\sigma^2})$ 速率逼近 Lloyd 算法。
针对 KL 正则化多臂老虎机(MAB)的统计效率问题,新研究通过对 KL-UCB 算法进行 peeling 分析,首次推导出与臂数 $K$ 呈线性关系的高概率遗憾上界 $\tilde{O}(\eta K\log^2T)$。
研究人员提出了一个面向多群体的惩罚公平回归通用框架,旨在减少医疗领域的社会偏见。该方法通过真阳性率差异惩罚处理二元结局,可转化为代价敏感分类问题高效实现,并引入新型评分函数自动选择惩罚权重。在全美多中心慢性肾脏病初级保健研究的实际应用中,该模型显著提升了多个种族和族裔群体的公平性,且未造成整体拟合度的明显损失。
研究者结合半参数理论与共形方法,提出了针对粗化数据进行预测推断的通用框架,以解决现有共形预测方法假设训练和校准数据完全可观测的问题。
研究人员提出 Meta-VQT 与 NN-Meta VQT 两种元学习算法,用于在 NISQ 设备上高效制备参数化多体哈密顿量的量子吉布斯态。该方法在最高 8 个量子比特的横向场伊辛模型(TFIM)上验证了有效性,元学习参数可作为热启动初始化显著改善优化效果。在量子玻尔兹曼机(QBM)训练应用中,该算法相比基于 VarQITE 的方案实现了 30 倍的运行加速。
研究提出 HELIA 架构与两套协同训练方法,通过将梯度估计卸载至经典硬件,显著减少变分量子算法对 QPU 的调用需求。在 6 至 18 量子比特的 VQE 基态估计中,该方案相比 Full-PSR 训练将逻辑量子评估次数平均减少高达 60%;在最高 12 量子比特的量子相位分类任务中,平均峰值测试准确率最高提升 2.8 个百分点。
研究人员提出了一种多视图线性结构方程模型(SEM),利用不同视图间的相关性替代传统的非高斯扰动假设,并证明了该模型在有向无环图下的可识别性。受单视图算法 DirectLiNGAM、PairwiseLiNGAM 和 ICA-LiNGAM 启发,团队进一步开发了多种多视图因果发现算法。模拟实验和神经影像数据应用验证了新方法的有效性,成功估计出大脑区域间的因果图。
研究人员提出一套将自动微分(AD)应用于部分可观测非线性随机动态系统的新算法框架,通过权衡偏差与方差大幅降低了均方误差。该方法仅需隐动态系统的可微模拟器,无需获取系统转移概率即可实现似然最大化。基准测试显示,结合迭代滤波与 AD 的混合算法在科学基准问题上较现有 SOTA 方法取得显著改进。
研究者提出了混合多层随机块模型(MMSBM)下的网络聚类方法,确立了由 Chernoff 信息表征的指数形式极小化极大最优网络聚类错误率。该研究构建了一种结合张量初始化、节点与样本拆分以及似然精炼的两阶段估计器,在极端网络稀疏条件下以高概率达到最优速率。该框架还通过混合多层 Poisson 块模型拓展至计权网络,并在两组真实数据分析中验证了有效性。
研究者提出一种名为并行梯度提升(parallel gradient boosting)的新算法,用于高效估计整个条件分布。该方法通过为所有训练样本采用公共下降方向,使每次迭代仅需训练一个基模型,摆脱了传统提升算法对特定损失函数和基学习器的依赖。在多重分位数回归设定下,其预测质量媲美 XGBoost,同时训练速度提升数个数量级,并在高维及含缺失协变量场景中优于其他非参数与半参数估计器。
针对样本量与维度成比例增长的高维非凸多指标模型,研究建立了多轮次 SGD 学习动态的渐近精确表征。在次线性批大小 $\kappa \asymp n^\alpha$($\alpha \in [0,1)$)与临界学习率下,SGD 坐标动态收敛至由标量泊松跳跃过程驱动的动态平均场方程连续时间极限。
研究者提出了多项 Logit(MNL)选择模型下的随机匹配多臂老虎机框架,解决 $N$ 个智能体与 $K$ 个臂匹配时的长期收益最大化和后悔值最小化问题。针对每轮求解 NP-hard 组合优化带来的计算瓶颈,新算法将匹配策略的更新频率严格限制在整个时间范围 $T$ 内的 $\Theta(\log\log T)$ 次。
该研究将基于得分(score-based)的假设检验与变点检测停时规则扩展至基于扩散的对应形式,以解决得分方法通常弱于似然方法的问题。作者从理论上量化了该算法的性能并给出了可实现最优表现的场景,同时提出了一种数值优化权重矩阵的方法,数值模拟验证了基于扩散算法的优势。
研究针对带阶段约束的上下文老虎机问题提出 CS-UCCB 算法,结合了离线回归、成本置信集与反事实置信上界。在覆盖熵与离线估计误差满足多对数条件下,有限动作算法以高概率保证每轮决策的可行性,并实现无需 eluder-dimension 项的 $\widetilde{\mathcal O}(\sqrt T)$ 后悔界。该理论分析还进一步拓展至显式奖励设计条件下的无限动作场景。
该研究量化了部分可训练神经网络从固定随机特征到完全自适应表示过程中的相变模式,表现为逼近界与训练误差呈现出先快速改善后收益递减的趋势。针对宽度为 m 且可训练比例为 P 的两层网络,研究证明了其平方 L2 逼近率可达 $\mathcal{O}((\kappa_P\log(m/\delta)/m)^\alpha)$。
研究者提出基于概率密度空间惯性阻尼哈密顿动力学的加速注意力模块 SympFormer,为 softmax 注意力与线性注意力建立了严格的几何与微分流理论。该工作推导了连续矩爆炸与离散层深度 token 范数阈值的定量关联,并针对有限 token 几何提出更新校正。