跳到正文

#多模态

今日 2 条
10月1日周四
  1. arXiv stat.ML36

    CAMOS:用于多模态临床时间序列的耦合振荡状态空间模型

    研究人员提出 CAMOS,一种用于多模态临床时间序列的耦合振荡状态空间模型,通过受可用性门控的耦合矩阵让转移算子自适应测量缺失,同时保留并行扫描。在 ADNI 基准上,CAMOS 在分期、界标预测和纵向预测中均优于未耦合模型与临床融合模型。在零样本迁移至 OASIS-3 时,它是唯一避免坍缩至多数类的模型。

  2. arXiv cs.LG30

    EnergyEminence:基于物理电网数字孪生的源感知环境校准与评估

    EnergyEminence 平台结合 IEEE 118 节点式图时序预测与非线性交流级联模拟,构建了具备野火检测校准的电网数字孪生测试环境。基于 16 个合成视频生成的 160 个电网场景测试中,该系统取得 10 个真阳性、8 个假阳性、22 个真阴性且无假阴性。该诊断揭示了随机划分掩盖的环境捷径学习,并为解耦环境预警与电气级联推理提供了可检验评估流程。

  3. arXiv cs.LG34

    面向地震与测井表征学习的物理跨模态掩码自编码器 CM-MAE

    CM-MAE 是一种物理跨模态掩码自编码器,通过四轴旋转位置嵌入与 MoE 层联合学习 3D 地震体与 1D 稀疏测井数据的表征。该模型在涵盖约 17.8 万平方公里的 23 个地震体及约 9.2 万口井上预训练,地震上下文使留出测井重构效果提升 9.73%。在离岸盐体识别评估中其 AUROC 达 0.910,并在陆上未知工区保留了地层构造。

  4. arXiv cs.AI43

    MemEvo:流式视频记忆机制的自动发现

    研究人员提出 MemEvo 框架,利用预训练 LLM 迭代生成与优化候选记忆程序,实现流式视频记忆机制的自动发现。该方案基于定义了表征、保留、整合等原语的轻量级领域特定语言,在底层视觉语言模型全程冻结下产出无需训练的有界记忆机制。在 StreamingBench 与 OVO-Bench 评测中,其流式视频理解性能突出且兼具极高的上下文与推理效率。

  5. arXiv cs.AI35

    视觉敏感度不等于断言可撤回性:面向多模态强化学习的持久性感知信用分配

    研究人员提出持久性感知信用门控(PACG),通过衰减异常持久视觉断言的正向信用,解决大视觉语言模型中无图像支持断言继承正确回答奖励的问题。该方法无需额外标注且不增加推理成本,在 Qwen2.5-VL-7B 上将 9 项基准测试的平均分在 DAPO 下从 58.1% 提升至 59.9%,在 VPPO 下从 59.8% 提升至 60.9%。

  6. arXiv cs.AI40

    AVIO:学习在音视频场景中添加与移除发声物体

    研究人员提出音视频编辑框架 AVIO 与数据集 AVIOBench,以联合学习在音视频场景中添加与移除发声物体。AVIOBench 包含涵盖 1,878 个目标物体名称的 37.9 小时配对音视频样本,关联各物体的视觉呈现与声音贡献。AVIO 通过特征调制与参考帧课程训练,使单个模型既能执行纯指令编辑,也支持通过可选视觉引导控制物体的外观与位置。

  7. arXiv cs.AI34

    MERID:基于递归自我改进智能体的多模态重度抑郁症分析框架

    研究人员提出多模态抑郁症分析框架 MERID,通过递归自我改进智能体自主优化分类与严重度评估流水线。该框架包含基础状态构建(GSC)、耦合流水线探索(CPE)与证据引导进化(EGE),可联合修改特征表征与融合策略,并基于反馈验证性能提升。实验显示 MERID 在多个抑郁症基准任务上取得最佳表现,相关代码已开源。

  8. arXiv cs.AI43

    FigAct:将科学图表转化为动态解释画布

    FigAct 是一个将静态科学图表转化为动态视觉演示的框架,通过在图体现有元素上生成解说序列并施加视觉动作来引导注意力。该框架采用分层搜索策略进行高效元素定位,将 token 消耗降低约 40×,并通过定位准确度、搜索效率和渲染质量三项奖励训练出 FigAct-8B。研究团队还基于真实论文图表构建了人工核验评测基准。

  9. arXiv cs.AI35

    VLA 的层级之谜:VLA 潜在接口的信息论分析

    针对视觉-语言-动作(VLA)策略潜在接口的信息论分析表明,多层融合优势有限,最佳单层随主干模型与任务基准显著变化。研究提出以动作条件 InfoNCE 作为层质量代理指标,在 LIBERO 和 CALVIN 基准上与策略成功率呈现最一致的正相关。该方法比穷举搜索节省 9-33 倍 GPU 计算量,将平均选择遗憾从选最深层的 17.89 个百分点降至 3.71 个百分点。

  10. arXiv cs.AI28

    GeoOutageBench:面向多模态停电与韧性分析的地理时空 KGQA 评测基准

    研究团队推出评测基准 GeoOutageBench,用于评估大语言模型在多模态停电与电力韧性分析中的地理时空知识图谱问答(KGQA)能力。该基准整合了停电记录、遥感与气象观测等多模态数据,涵盖自然语言转 SPARQL 解析、本体效用评估以及多模态检索回答准确率三项核心评测任务。目前该基准的源码、数据及评测结果已公开发布。

9月30日周三
  1. arXiv cs.LG35

    HeadGuard:低比特 VLM KV cache 量化的选择性注意力头保护方法

    HeadGuard 是一种低比特 VLM KV cache 保护方法,通过将约 1/8 关键物理头保留在 BF16 精度以大幅挽回量化精度损失。在 8 款 VLM 测试中,千问(Qwen)与 InternVL 提升最显著,2 bits 下 8 款模型的 6 项判别任务均分从 0.436 提升至 0.580。该方法无需替换底层量化器,且仅保护 keys 就能以更低存储开销实现显著恢复。

9月29日周二
  1. Microsoft Research56

    微软研究院推出生物学 AI 研究系统 Quine

    微软研究院推出面向生物学研究的 AI 系统 Quine,由生物多模态世界模型与连接文献、工具及实验团队的交互框架组成,用于在计算端预测干预效果并指导实验设计。在与 Broad Institute 合作的胰腺癌研究中,该系统在一个周末内完成了驱动肿瘤细胞状态转变的候选化合物筛选,并在湿实验中得到验证。该技术目前属于实验性质,官方已开放 Quine Fellows 计划供科研人员申请使用。

9月28日周一
  1. AWS Machine Learning Blog48

    使用 Amazon Nova Act 实现合成监控

    Amazon Nova Act 联合 Amazon Bedrock AgentCore 可实现智能体驱动的合成监控,用于自动化巡检登录、支付等关键用户旅程。其依托多模态大语言模型直接分析 UI 截图并执行自然语言操作,无需维护易碎的 DOM 选择器,在早期企业客户用例中浏览器工作流准确率超过 90%。

9月26日周六
9月25日周五
9月23日周三
9月21日周一
  1. 橘鸦AI早报35

    AI 早报:Qwen 开源 Qwen-Image-2.1,阶跃星辰发布 Step 5 Preview

    Qwen 正式开源图形生成与编辑模型 Qwen-Image-2.1,视觉生成部分为 7B 参数,原生支持 RGBA 透明图生成与编辑。阶跃星辰发布总参数量 600B、支持百万 Token 上下文的基座模型 Step 5 Preview,已上线官方 API 且权重将于 10 月 15 日开放。此外,Google 开源 Agentic 编排器 AX,腾讯开源文档解析模型 WeVisDoc。

9月16日周三
  1. Google AI Blog42

    Google:让 AI 适用于每一种语言与每个人

    Google 宣布其产品已支持超 300 种语言,并公布多项语言 AI 进展。Gemini 3.5 Live Translate 实现了 70 种语言与 2,000+ 语言对的实时口语翻译,并带来高精度语音转录模型 Gemini 3.5 Transcribe。此外,Google 推出支持 55 种语言的轻量开源端侧翻译模型家族 TranslateGemma,无需联网即可运行。

9月2日周三
  1. Google DeepMind81

    Google DeepMind 推出 Gemini 智能体视频理解功能

    Google DeepMind 在 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 中推出智能体视频理解功能,支持模型通过工具动态搜索、缩放和检查目标视频片段。

    推荐理由:官方给出了动态检索视频帧与音频的新机制,展示了长视频分析在大幅降低成本的同时提升定位精度的具体路径。

9月1日周二
8月28日周五
  1. Google DeepMind75

    Google DeepMind 推出 Gemini Omni 1.1 Flash 增强视频生成控制能力

    Google DeepMind 正式推出 Gemini Omni 1.1 Flash,为开发者带来更强可控性的视频生成与编辑能力。新版本支持分析前 10 秒上下文进行最高 40 秒的场景延展,新增首尾关键帧平滑过渡、参考视频输入以及最高 4K 分辨率放大功能。

    推荐理由:模型支持分析前十秒上下文并将单次视频延长至四十秒,有助于开发者构建更可控的影视级生成工作流。

8月26日周三
  1. Google AI Blog26

    用 Google Search 升级家居装饰的 5 种方式

    Google 介绍了利用 Google Search 及其 AI 工具升级家居装饰的 5 种功能。用户可通过 Search 的 AI Mode 上传房间照片生成家具摆放效果图,并用 Google Lens 与 Circle to Search 查找类似家居单品。此外,用户还能借助 Search Live 结合语音与实时摄像头画面获取 DIY 安装指导,并通过价格追踪功能比价。

8月13日周四
  1. Microsoft Research45

    MindTopo 揭示视觉语言模型的空间推理能力

    微软研究院推出全新评测基准 MindTopo,用于评估视觉语言模型在连通性、包围、顺序、分离和绳结五个维度的拓扑空间推理与规划能力。评测结果显示,受测闭源与开源模型在静态推理上的表现普遍显著优于交互规划,且两者均远低于人类水平。模型失误主要出现在行动规划阶段,难以在多步动作序列中持续追踪拓扑结构演变或遵守物理约束。

8月12日周三
7月30日周四
  1. Google DeepMind77

    Google DeepMind 发布具身推理模型 Gemini Robotics ER 2

    Google DeepMind 推出具身推理模型 Gemini Robotics ER 2,作为高层中枢为机器人提供连续视频理解、任务编排与多机协作能力。该模型支持边执行动作边规划后续步骤,可调度底层 VLA 模型及外部工具,在任务进度分类和关键时刻识别上分别取得 57.4% 与 91.3% 的准确率。

    推荐理由:该模型作为高层大脑支持边行动边规划与多机协同,读者可以了解具身智能在任务编排与进度感知上的系统设计。

  2. Google DeepMind63

    Google DeepMind 推出音乐生成模型 Lyria 3.5 并上线 Google Flow Music

    Google DeepMind 正式推出最新音乐生成模型 Lyria 3.5,并于即日起上线 Google Flow Music。该版本提升了旋律结构的自然度与丰富度,增强了歌词生成的结构感知与提示词遵循能力,同时改善了人声情感表现与发音。创作者还可在生成过程中更便捷地调节音乐的节奏与时长。

    推荐理由:该模型重点增强了旋律复杂度与人声情感表现,创作者可借此了解其在歌词对齐及节奏控制上的能力演进。

7月28日周二
7月15日周三
7月1日周三
6月9日周二
  1. Google DeepMind81

    Google 发布 Gemini 3.5 Live Translate 语音同传模型

    Google DeepMind 发布最新音频模型 Gemini 3.5 Live Translate,支持 70 多种语言的近实时语音转语音翻译。该模型打破了回合式等待限制,能够流式连续生成并保留说话人的语调与语速,音频内嵌 SynthID 水印。

    推荐理由:原文给出了流式同传的具体延迟表现与多端落地渠道,读者可以据此评估实时语音翻译在实际业务中的接入可行性。

  2. Google DeepMind83

    Google DeepMind 推出 Gemma 4 12B 无编码器统一多模态模型

    Google DeepMind 正式推出 Gemma 4 12B 多模态模型,采用无独立编码器的统一架构,原生支持视觉与音频输入直接接入 LLM 主干。该模型在标准基准上的性能接近 26B MoE 模型,内存占用减少超一半,可在具备 16GB 显存或统一内存的笔记本电脑上本地运行。模型采用 Apache 2.0 协议开源,支持通过 Hugging Face、Ollama 和 vLLM 等工具部署。

    推荐理由:原文解析了移除视觉和音频编码器的统一架构设计,为端侧设备部署低延迟多模态大模型提供了具体参考。

6月2日周二
  1. Together AI Blog68

    Together AI 详解 MiniMax-M3 推理优化:实现 1M 上下文与多模态高效部署

    Together AI 作为首选云合作伙伴,详解了为 MiniMax-M3 模型构建生产级高效推理系统的工程实践。团队针对 MiniMax 稀疏注意力重构了算子并整合进 PagedAttention,使预填充阶段加速超 9 倍、解码加速超 15 倍;同时借助 Rust 模型网关在 CPU 端预处理音视频,在典型智能体场景下将推理性能提升了 81% 至 125%。

    推荐理由:文章拆解了稀疏注意力的算子重排与网关层多模态预处理方案,对长上下文大模型的生产级部署具有直接的工程参考价值。

5月18日周一
  1. Google DeepMind73

    Google DeepMind 结合街景数据升级 Project Genie:支持生成真实世界交互环境

    Google DeepMind 宣布在实验原型 Project Genie 中引入 Google 街景锚定能力,支持基于真实地理图像生成可交互的虚拟环境,并逐步向全球 Google AI Ultra 订阅用户开放。用户可以在美国地图上选点并搭配特定艺术风格与角色提示词生成对应世界,为智能体与机器人导航交互提供仿真支持。该街景生成能力目前支持美国境内地点,未来将逐步扩展至更多地区。

    推荐理由:原文展示了世界模型结合真实地理街景生成交互环境的具体方式,为智能体与机器人仿真训练提供了现实落地的参考路径。

  2. Google DeepMind87

    Google DeepMind 发布多模态模型 Gemini Omni

    Google DeepMind 推出新一代多模态生成模型 Gemini Omni,并发布该系列的首个模型 Gemini Omni Flash。该模型支持组合图像、音频、视频和文本作为输入来生成视频,并允许用户通过多轮自然语言对话连续编辑动作、角色和场景细节,同时生成内容均嵌入 SynthID 数字水印。

    推荐理由:模型结合原生多模态与物理常识推理,支持通过自然语言对话多轮编辑视频,展示了基于世界知识生成连贯动态内容的新路径。

5月17日周日