跳到正文

#多模态

今日 2 条
今天11月3日周二
11月2日周一
  1. 量子位64

    商汤发布日日新 SenseNova 6.8 Flash 多模态智能体模型

    商汤科技发布多模态智能体模型日日新 SenseNova 6.8 Flash,主打用户仅需设定目标即可全流程自主执行的委派智能,已在小浣熊客户端限时免费开放。该模型支持 3D 动态网页、动态海报、SVG 动画及动态 PPT 生成,并在实测中展现了结合长期记忆主动核对与修订旧文档数据的办公能力;官方评测显示其在 TeamBench 和 DataAnalysis2.0 基准中取得第一。

  2. arXiv cs.LG33

    面向模态缺失多模态联邦学习的角色感知服务端优化 RASO

    针对模态缺失下的多模态联邦学习(MFL),研究人员提出角色感知服务端优化(RASO),协调贡献客户端选择与特定角色的服务端更新。该方法依据预测依赖性及本地优化参与情况筛选贡献客户端,保留编码器动量,并将共享预测模块同步至当前聚合。跨数据集和融合架构的实验验证了 RASO 在模态缺失场景下的有效性。

  3. arXiv cs.LG31

    MOSAIC:通过模态分区梯度路由解决任务-模态不均衡依赖

    研究提出 MOSAIC 架构,通过保留单模态表征并引入模态间跨注意力受控交互,利用特定模态损失引导梯度路由,以解决多任务场景中任务对模态的不均衡依赖。在日常日语会话语料库 CEJC 的 4 个任务测试中,MOSAIC 相比传统融合基线将平均 macro-F1 提升了 7.4 点,同时骨干网络参数量减少了 72%。

11月1日周日
  1. The Decoder60

    Adobe 联合团队提出 EditAgent,让 AI 智能体像专业修图师一样调度工具

    Adobe Research 与加州大学圣地亚哥分校研究人员推出图像编辑智能体 EditAgent,通过并行调用专用工具并基于量化验证数据筛选最佳结果。在 600 项编辑测试中,标准大语言模型结合编辑区特写、变化图及色彩亮度统计后,挑选可用方案的准确率达到 81.3%,超过了专门微调的 EditScore-72B。该系统还能防止后续步骤破坏先前的编辑成果,并产出高质量数据反哺编辑器微调。

  2. The Decoder57

    Google 联合团队提出 StreamVibe 视频智能体:探索主动判断介入时机

    Google 与斯坦福、牛津等机构联合推出 StreamVibe 视频智能体,旨在让 AI 在观察用户工作时自主判断何时该保持安静或主动提供指导。研究团队构建了涵盖 183 小时日常与软件录屏的 4,100 个基准样本,并基于 Qwen3.5-9B 与强化学习训练出 StreamVibe-VL 模型,搭配独立记忆系统跟踪任务状态以减少不必要打扰。

  3. 科学网60

    专访谢伟迪:谈 DeepRare 罕见病辅助诊断与生命科学模型落地

    上海交通大学副教授谢伟迪获颁 2026 世界顶尖科学家奖青年科学家奖,其团队开发的罕见病辅助诊断系统 DeepRare 2.0 已在新华医院部署运行,能在一个小时内综合分析症状、病历与基因数据并实现可溯源推理。谢伟迪在专访中表示,AI 是协助医生的循证工具,团队正通过构建虚拟细胞模型体系探索大规模药物筛选与生命科学通用 AI。

  4. arXiv cs.AI34

    A-RSI:面向零数据多模态自我改进的自适应任务刷新

    A-RSI 提出了一种面向零数据多模态自我改进的自适应任务刷新方法,通过监控训练日志中的奖励变化与准确率,在学习信号下降时更新任务池。该方法利用静态程序库生成多模态问题并导出可独立核验的答案,全流程无需外部训练数据或人工标注。在包含 11 个基准的主测试集上,A-RSI 仅凭 800 个新任务将平均成绩从 57.77 提升至 61.05。

  5. arXiv cs.AI30

    BridgeRouter:基于跨模态桥接组合的增益感知实例路由

    BridgeRouter 提出增益感知实例路由机制,无需重训主干即可将预训练 EEG 基础模型按样本分流至最优跨模态桥接路径。推理时仅观测目标模态且只执行单条路径,增益达标时选用最优路由,否则回退至默认求解器(SBS)。在 FOG 和 ISRUC 评测中,其平衡准确率达 81.38% 与 62.92%,较单一基线分别提高 11.49 和 3.83 个百分点。

  6. arXiv cs.AI26

    何为食物相似性?印度菜的视觉表征与检索

    一项研究基于扩展的 Khana 数据集与 7 种预训练视觉表征,评估了印度菜在卷积、Transformer、自监督及图文对齐模型中的图像检索与邻域结构。分析表明图像级邻域在不同表征间差异显著且常跨越菜品家族,聚合后的菜品级视觉结构与基于食谱计算的相似度关联较弱。结果证明食物相似度高度依赖表征形式与模态,仅靠识别性能无法充分刻画食物间的关联结构。

10月31日周六
  1. 科学网38

    北航脑机接口研究院正式揭牌

    10月30日,北航正式揭牌成立脑机接口研究院,由张广军院士出任院长。该研究院依托航空航天、信息和医学等学科整合10余个学院科研力量,设立感知、调控、编解码、医学等4个研究中心。其将重点围绕医疗康复和教育等需求,聚焦半侵入式与非侵入式技术路线,结合多模态大模型强化神经信号解码并推动与具身智能融合。

10月30日周五
  1. 量子位64

    智元发布具身基座模型GO-3 Preview与交互大模型WITA-OMNI

    智元在创新日发布具身基座模型GO-3 Preview与全模态端到端交互大模型WITA-OMNI,并提出衡量物理AI有效工时的单位Worken。GO-3 Preview采用具身原生架构WRAM以提升精细作业与跨本体迁移能力,WITA-OMNI则采用快慢双系统实现免唤醒词的自然交互。此外,智元还推出了第三代硬件架构AHA3、重载机器人精灵G2 Max以及计划开源的具身原生操作系统灵渠OS 1.0。

  2. 量子位70

    Genspark 发布视频智能体工作台 Media Studio

    Genspark 正式上线视频智能体工作台 Media Studio,接入 20 多家厂商的 70 多个模型版本,由大语言模型充当导演统一调度剧本、图像、视频与音频生成。平台提供故事圣经管理角色与场景设定,支持 3D 白模预演、代码渲染知识讲解片、局部重拍与单帧编辑,并可导出工程文件供专业软件精修。

10月29日周四
  1. arXiv cs.AI34

    AC-JEPA:面向视觉到符号翻译的锚定跨模态联合嵌入预测架构

    AC-JEPA 是一种兼容 SFT 的插件架构,通过双向预测跨模态掩蔽中间状态提升视觉到符号翻译对不完美数据的容错能力。在 WildMol 基准 Simple 测试集中,AC-JEPA 基于干净数据取得 76.07% 准确率,优于单独 SFT 的 67.40%。使用伪标签自训练时,AC-JEPA 准确率进一步升至 80.23%,而直接 SFT 则从 67.40% 下降至 63.47%。

  2. arXiv cs.AI44

    CogArena:在交互式行为实验中评测多模态 Agent

    研究人员推出 CogArena 评测基准,包含 10 个行为科学实验范式,让多模态 Agent 通过浏览器在与人类相同的视觉和交互界面下测试。该基准采用三级评分评估任务完成度、准确率及人类特征复现度;对 4 个多模态模型的测试显示,完成实验并不等同于能复现人类行为特征。CogArena 现已公开实验任务、评分代码与公共排行榜。

  3. arXiv cs.AI56

    红心代表递归:探索视觉语言模型中的视觉意义与沟通

    最新研究探讨了视觉语言模型(VLM)的视觉沟通能力,发现红心等简单视觉符号能够强烈引导模型在编程等无关任务中产生递归解。这种引导效应大部分是隐式的,模型的直接解释或思考链与其观察到的实际行为存在显著分歧。研究还表明模型间存在生成与解释的鸿沟,虽然模型能创造性地利用视觉传递意义,但其表达方式往往与人类习惯不同。

  4. arXiv cs.AI41

    RouteDRAG:用于多模态文档 RAG 的智能体路由与执行控制框架

    RouteDRAG 框架针对多模态文档 RAG 提出自适应路由与执行控制,通过图结构索引与策略学习动态决定是否调用 AI 智能体并管控工具使用与终止。在两个基准测试中,该方法仅将 79.3% 的查询分配给智能体,准确率相比短路径执行平均提升 3.47 个百分点,并以更少调用超越了全量智能体执行。该项目代码已开源。

  5. arXiv cs.AI39

    StruPO:从结构反馈到提示词策略,学习高保真文生图提示词编辑器

    研究人员提出结构感知提示词编辑器 StruPO,通过校准场景图将外部结构反馈转化为可复用的文生图编辑策略。在 3 个 2K 提示词测试集与 4 个冻结骨干网络的实验中,该方法改善了保真度与美学权衡,并持续提升关系保真度。15 名标注员研究与自动评测表明,关系越复杂人类偏好优势越明显,且校准后可单次生成优化提示词,无需迭代重写。

10月28日周三
  1. 科学网25

    第二十一届(2026)遥感遥测遥控学术年会在西安举办

    第二十一届(2026)遥感遥测遥控学术年会在西安举办,参会规模创历届新高并吸引千余名代表参会。大会以“感测低空全域·遥控万物智联”为主题设立4个专题分会场,聚焦低空智能遥感、低空融合感知及低空经济网络等方向。多位院士专家围绕低空感知、智能无人系统及低空具身智能世界模型等前沿课题分享进展,探讨低空智能化发展路径。

  2. 量子位72

    百度开源文心 Unlimited OCR 2:KV Cache 占用减少 96%,支持千页超长文档连续解析

    百度正式开源文心 Unlimited OCR 2,通过稀疏参考滑动窗口注意力机制与无限解码机制,实现千页级超长文档的连续解析。在百页级单序列测试中,该方案将峰值 KV Cache 占用从 47GB 降至 1.77GB,降幅达 96%,16 路并发下端到端吞吐量达 1315 Token/秒。目前相关代码和模型已在 GitHub 与 Hugging Face 正式开源。

  3. 量子位52

    皮克斯致谢禾赛科技 3D 数据终端 Kosmo,多传感器前融合方案切入物理 AI

    皮克斯在最新 3D 渲染教程中致谢禾赛科技的 3D 场景扫描方案 Kosmo,该方案正作为专用数据采集终端应用于影视制作与具身智能领域。Kosmo 结合手持采集硬件与云端重建系统,在硬件层面对激光雷达、超高清影像和 IMU 完成微秒级时空同步前融合,可直接输出包含绝对尺度约束的 3D 高斯泼溅、mesh 与深度数据。

  4. arXiv cs.AI44

    InfiniteWorld:将视觉证据与已知物理规律分离

    研究人员推出物理推理基准 InfiniteWorld,通过将问题与系统性修改物理参数的模拟视频配对,测试视频语言模型能否依据视觉证据进行推理。该基准涵盖定律识别、参数估计和定律归纳等 5 项任务,并提供纯文本与视频帧等 5 种配对输入设置。评测显示现有模型普遍依赖地球常规规律,在观测物理动态改变时仍频繁给出常规答案。

  5. arXiv cs.AI49

    掌握全部事实仍答错:视觉语言模型中的整合鸿沟

    研究发现视觉语言模型普遍存在“整合鸿沟”,即模型即便能准确识别各个局部事实,在多证据联合决策时仍会出现严重失效。例如 Gemma-3-27B 能正确恢复所有孤立单项事实,但在 8 项视觉实例上的全局有效率仅有 19.75%。探测与激活替换实验表明,仅在隐藏状态表征解相关信息不足以实现可靠推理,模型改进需专门针对证据整合能力。

  6. arXiv cs.AI44

    Iris:支持可复用选项记忆的视觉候选类型化决策框架

    研究团队推出多模态决策框架 Iris,支持图像与文本候选输入,在保证严格顺序不变性的同时实现精确缓存复用。跨请求复用图像候选使延迟在 K=256 与 K=2048 时分别降低 37x 和 191x,并在新基准上达到最高 91.7% 准确率且零翻转率。此外,Iris-4B 在 JevBench 评测中达到 100% 准确率超越 30B 模型,代码与权重已开源。

  7. arXiv cs.AI34

    Meta-CLIP:用于零样本疾病推理的元数据条件对比学习

    研究人员提出 Meta-CLIP 框架,利用 DICOM 标头采集相似度重新加权跨模态负样本,以提升医学视觉语言预训练与零样本疾病推理表现。该方法在推理时沿用标准双编码器架构且无需输入元数据。在 CT-RATE 基准上,Meta-CLIP 较 CT-CLIP 将 macro-AUROC 提升 1.41 点,并在 5 个 CXR 基准中的 4 个取得最高 macro-AUROC,代码将公开。

  8. arXiv cs.AI39

    TAD:仅凭教师轨迹蒸馏视觉-语言-动作(VLA)策略

    新提出的对抗蒸馏方法 TAD 无需在线教师打分或环境奖励,仅依靠固定教师轨迹即可对 VLA 策略进行在线蒸馏。在 ManiSkill 评测中,TAD 将 7B 规模的 OpenVLA-OFT 成功率从 26.2% 提升至 76.6%,最终成功率从 20.3% 提至 58.6%。其表现仅落后白盒在线蒸馏(OPD)0.8 至 5.0 个百分点,但需消耗 OPD 5 倍的学生交互预算。

  9. arXiv cs.AI36

    SMART-Med:基于不确定性感知路由的选择性多智能体医学推理

    研究人员提出本地多智能体医学推理方法 SMART-Med,通过不确定性驱动的路由机制自适应决定直接回答还是引入专家智能体协作。该方法结合新构建的数据集 MedVR-3K 并采用 GRPO 算法微调,在 Slake、PathVQA、VQA-RAD 和 PMC-VQA 四项基准上取得 6.7% 的平均提升。同时,SMART-Med 将推理时间缩短超过 3.8x,token 消耗降低 72%。