用自然语言训练神经解码器
研究提出 Language as Supervision(LaS)框架,通过将神经特征与自然语言类别描述对齐来解码神经活动。在涵盖视觉、运动和语音解码的 7 种编码器架构测试中,LaS 相比类别标签监督基线将语音解码准确率最高提升 17.15 pp。该表征还支持候选集复用与受试者适应,并在稳态视觉诱发电位(SSVEP)中实现了条件未见频率解码。
研究提出 Language as Supervision(LaS)框架,通过将神经特征与自然语言类别描述对齐来解码神经活动。在涵盖视觉、运动和语音解码的 7 种编码器架构测试中,LaS 相比类别标签监督基线将语音解码准确率最高提升 17.15 pp。该表征还支持候选集复用与受试者适应,并在稳态视觉诱发电位(SSVEP)中实现了条件未见频率解码。
研究团队推出基准 GeoSpatialBench,基于 6 座真实城市数据评估 MLLM 在 28 种空间关系下的空间推理与受限编辑能力。评测显示前沿模型处理结构化 GeoJSON 的表现持续优于地图图像,且定性关系表现优于定量度量关系。在受限空间编辑任务中模型表现显著下滑,多数失败编辑均违反了指定的空间几何约束。
研究人员提出一种仅需 100 到 500 对样本即可实现单模态编码器对齐的方法。该方案利用少量配对锚点建立统一坐标系,通过解决全量数据的熵正则最优传输问题抵消集聚效应,并将匹配方案蒸馏至两个轻量级编码器以支持归纳推理。实验表明,在相同锚点预算下,该方法在 Flickr30k、MS-COCO 和 ChEBI-20 的图像-文本及分子-文本对齐评测中超越现有方案。
广州医科大学附属第一医院与金域医学联合发布肺癌病理基因多模态大模型 DeepGEM 2.0,正式进入大规模临床应用验证阶段。模型依托常规数字病理切片开展分析,最快 1 分钟即可完成国内已获批肺癌靶向药对应基因的预筛,预测精确度最高达 90%。该技术后续将轻量化部署至超 500 家医疗机构,有望通过初筛分流将肺癌基因检测费用降至数百元区间。
广州医科大学附属第一医院与金域医学联合发布肺癌病理基因多模态大模型 DeepGEM 2.0,最快 1 分钟即可基于常规数字病理切片预测相关基因变异。模型将可预测基因数量从 6 个扩展至 12 个,覆盖当前国内肺癌获批靶向药对应基因,预测精确度最高达 90%。全国 50 家医疗机构已启动多中心科研项目验证,未来计划部署至超 500 家医疗机构以降低检测门槛与成本。
广东保伦电子牵头研发的多源音视频协同调度与全数字会议系统两项科技成果通过专家鉴定,整体技术达到国际先进水平。其中音视频项目实现了码流16Mb/s下传输1080P画质、本地端到端时延10ms以内及多路视频毫秒级低延迟边缘推理;会议系统项目攻克了128路话筒并发低时延技术,并实现链路故障10ms内拓扑重构与隔离切换。
哈佛商学院在创业训练营 HBS Foundry 中上线了 7 位教师的 AI 交互数字分身,学员可通过视频通话反复进行路演和董事会模拟。该项目与视频生成公司 HeyGen 合作,定价 699 美元并刻意训练 AI 避免迎合倾向以主动质疑创业者,已在全美 100 多所大学测试。佐治亚理工、帝国理工商学院及伊利诺伊大学厄巴纳—香槟分校也在探索类似虚拟助教与课件自动生成。
青岛眼科医院研发的《基于大语言模型的高度近视风险预测模型研发》项目在2026年山东省数智健康大赛中斩获便民赛道一等奖。该项目融合大语言模型能力与眼科专业知识,可智能解析多模态临床数据,实现儿童青少年近视风险智能预判并自动生成个性化干预方案。目前该成果已在山东省内外多地落地推广。
华南师范大学李昕明团队提出一种融合力时间序列与空间形变场的双流视触觉感知方法,柔性物体分类准确率从单一信息的77.0%和79.0%提升至99.3%。集成至机械臂后,该方法在橙子与圣女果状态识别中准确率不低于98.5%,在18类不同硬度与形貌物体的测试中总体识别准确率约为99.3%。
Cloudflare 正式发布开源权重决策模型 Clef-omni,原生支持文本、图像、音频与视频联合输入,并在 Hugging Face 开源权重。该模型基于 Qwen3-Omni-30B-A3B-Instruct 架构构建,跳过输出 token 生成以实现低延迟直接打分。
推荐理由:原文给出了决策模型统一处理音视频输入的方法,适合需要精简多模态处理流水线的工程团队参考。
BEVPIPE 框架提出了一种利用便携式 GPU 计算 API 部署多模态 BEV 感知流水线的方法,解决了标准推理运行时与稀疏 3D 卷积等算子不匹配的部署难题。
研究人员提出认知导向情感框架 TRACE 及基准 TRACE-Bench,基于 646 个视频与 3,746 个问答对评估多模态大模型的情感追踪能力。评测发现模型表现显著落后于人类,常将外显行为误判为真实感受并在长链推理中捏造情节。基于该框架提出的结构化推理方法 TRACER,在涵盖因果推理与全链重构等 5 项任务上均超越所有基线模型。
研究人员提出通用多模态指令生成流水线 UniData,可将简单的用户需求转换为多轮多模态指令。该方法结合 any-to-any 大模型生成指令并修正冗余推理流,同时构建了涵盖 9 种模态、共 20,000 条数据的 UniDataset。实验表明 UniData 在数据质量上达到 SOTA 表现,能有效增强其他多模态模型的理解与生成能力。
研究人员提出多智能体框架 MedBenchAgent,将医疗 VLM 基准构建表述为受限编译过程,以系统化推导基准规范并生成评测项目。该框架采用基准中间表示(BIR)解耦规划与实例化阶段,取得 90.9% 的 Task-Space F1,抽样的 1,000 个项目中 994 个通过人工审核。该框架已成功迁移至专门医疗领域并评测了 12 个 VLM。
Harness Compilation(HC)通过教师模型优化冻结的小型视觉语言模型(VLM)与外部 harness 间的分工,部署时无需更新权重或调用教师模型。
研究者提出了 GameCommBench 评测基准与 TACE 评估框架,旨在统一棋盘游戏、体育和电竞等多模态场景下的 AI 游戏解说评估。TACE 通过类型感知结构化评测不同解说功能,并已通过人类一致性验证。评测代表性 AI 解说员的结果显示其能力分布不均,其中现场实时观察与策略分析是当前的核心瓶颈。
研究者提出了轨迹对齐指令翻译器 TGIT,在保持空中视觉语言导航智能体 OpenFly 冻结的前提下,将用户简短的意图型指令转化为可执行指令。TGIT 将弱指令输入的成功率提升至 37.93%,并零样本迁移至真实人类指令,将成功率从 11.33% 提升至 32.51%。
针对音频、视频与文本模态冲突问题,新研究构建了三通道受控信息获取与弃权基准,使策略能在权衡成本后决定请求第三通道或直接弃权。在合成测试集上,阈值策略跨 83 个随机种子取得 0.789 +/- 0.006 的目标决策准确率和 0.481 +/- 0.014 的效用,以更少信息超越多数投票基准。实验同时表明成对不确定性在各预算下效用均更高,证实请求前的选择价值取决于预算与模态排序。
研究人员提出多模态框架 PXtal,采用不平衡最优传输(UOT)与广义 KL(GKL)散度,解决粉末 X 射线衍射(PXRD)与晶体结构之间的跨模态信息不对称对齐难题。在包含 4 个零样本迁移集的 6 个测试集上,PXtal 在 PXRD 到晶体候选检索任务中均优于基线模型,所得编码器能更有效迁移至下游材料与晶体学任务。
研究人员提出融合 SFCN MRI 编码器、因果临床 Transformer 与 ODE-GRU 动力学的多模态框架,用于阿尔茨海默病诊断及进展预测。在涵盖 ADNI、OASIS-2 等数据集中 2,649 名受试者的验证中,内部混合诊断与阶段 1 进展 AUROC 分别达 0.951 和 0.909,下次随访 MMSE 的 MAE 为 1.61。
生数科技开放新一代视频生成旗舰模型 Vidu Q4 预览版,支持最高 4K 直出以及最多 15 张参考图和 3 段参考音频。该版本主打更细腻的人物情绪演绎、复杂镜头调度与环境光影交互,单条最长生成 16 秒。在成本方面,SaaS 端限时优惠下 720P 视频生成起步价约 0.09 元/秒,MaaS 端图生视频 720P 约 0.6 元/秒。
研究提出 P$^3$ 审计框架,用于评估医学世界模型是否真正基于患者纵向历史超越群体平均水平实现个性化。配合提出的 Cancer JEPA 模型可预测新辅助治疗期间未来的乳腺动态对比增强 MRI 表征。验证显示输入患者历史虽能降低误差,但与群体平均神经修正对比的 95% 区间包含零,表明 P$^3$ 能有效鉴别出真正的个体化预测价值。
研究人员提出非配对典型相关分析(UCCA),在训练期间完全无需配对样本即可学习线性投影,最大化潜在真实配对的相关性。该方法建立了二次分配问题(QAP)与 CCA 的理论关联,据此推导出仅利用非配对数据最大化相关性的实用方案。在真实多模态数据集上的实验表明,UCCA 在恢复真实相关性上显著优于近期的非配对对齐基线。
OpenAI 宣布在 ChatGPT 中推出 Intelligent UI 功能,聊天机器人可在文本中内嵌图表、表单与可点击按钮等交互组件,并同步接入 GPT-6 模型。付费订阅用户即日起可用中端 GPT-6 Sol 模型,免费及 Go 层级用户将于周四获得高效率的 GPT-6 Luna;新模型同时提升了联网搜索能力与安全防护表现。
推荐理由:原文梳理了交互界面更新与不同订阅层级模型的分发策略,读者可以了解文本交互向组件化工具演进的具体路径。
OpenAI 宣布 GPT-6 正式在 ChatGPT 中面向全球推出,并同步引入 Intelligent UI 界面。该版本提供更快的响应速度,支持可直接操作的视觉元素与交互式体验。
OpenAI 为 ChatGPT 推出名为 Intelligent UI 的全新界面,支持在对话中直接生成可点击按钮、定制计算器与可编辑图表等交互式视觉元素。该功能旨在降低复杂主题的学习门槛并支持用户调节视觉生成密度,已随 GPT-6 面向 Pro、Plus、Business 和 Enterprise 用户全球上线,随后向免费与低价 Go 订阅层开放。
推荐理由:报道展示了聊天机器人从纯文本向可交互微组件的演进,有助于评估日常任务和复杂知识学习的体验变化。
Google 正式向公众开放 SynthID Detector,允许用户检测图像、视频或音频是否包含来自 Gemini、Veo 或 Lyria 等模型的不可见 AI 水印。
研究人员提出评估基准 SSU-Bench,通过因果追踪分析视觉语言模型内部联合安全判决的形成机制。实验在 3 个视觉语言模型上表明,针对变动输入位置的状态干预在较早解码器层有效,而针对最终输入 token 的干预则在较晚层生效。此外,对最终 token 状态的线性读出能够预测模型自身的判决结果,且不同模型呈现出相似的变化模式。
该研究提出一种基于阿克曼转向移动机器人的视觉语言导航(VLN)Sim-to-Real 迁移方法,无需依赖导航图或全景视角即可在连续环境中运行。系统采用 Cross-Modal Attention(CMA)架构,结合车载相机与 LiDAR 数据,通过线性测光调整及少量真实回合微调实现实机适应并支持专用硬件离线运行。经 SPL 和 nDTW 指标评估,该方案验证了其鲁棒性与适应性。
研究人员提出面向视觉语言模型的多视角自我验证框架 MOTIVE,以提升多模态推理的回答可靠性。该框架从互补视角评估候选答案并计算可靠性评分,在推理阶段自主决定直接接受答案或触发重新思考。实验表明,MOTIVE 在多个基准上超越了现有的自我验证与自我纠错基线,同时减少了不必要的推理轮次。
研究人员揭示了 Vision Transformer 通过具体锚点概念桥接视觉信号与抽象语义的“转喻接地”机制。通过对 CLIP 与 DINO 视觉编码器应用 Transcoder,研究追踪到由感知基元、具体物体锚点再到抽象目标构成的结构化转喻电路。因果干预实验进一步证实,此类转喻中间特征在模型识别抽象概念中发挥着关键功能作用。
Google 上线全新 SynthID 验证网站,正式面向所有公众开放检测图像、视频和音频是否由 AI 生成的能力。该网站支持 JPG、MP4、WAV 等多种主流文件格式,涵盖 Gemini、Veo、Lyria 等模型及工具生成的内容,目前日均验证请求已达 100 万次。OpenAI 和 Nvidia 等厂商亦支持该标准,但当前各家水印检测工具仍存在无法稳定识别的局限。
Google 宣布推出改进版 SynthID AI 内容检测工具,并在新设立的专属网站面向全球开放使用。新检测器无需再通过 Gemini 问答查询,并且扩展支持了合作伙伴的水印,能够检测包括 ChatGPT 生成图片在内的跨平台 SynthID 标记。该技术将不可见信号嵌入 AI 生成图像、视频的像素和音频波形中,用于防范伪造内容。
AI 3D 多模态模型公司 Meshy 入选 a16z 首份“消费级 AI 应用月收入 Top 50”榜单并位列第 31 名,成为榜单中唯一的 AI 3D 公司。该公司专注于将文本和图像转化为生产级 3D 资产,目前全球注册用户超 1500 万,年度经常性收入(ARR)已突破 1 亿美元,并在 2026 年 7 月完成近 4 亿美元 B 轮融资。
EVFormer 结合当前 RGB 帧与前 200 ms 双腕表面肌电(sEMG)信号,通过双向交叉注意力与门控融合估计 44 个手指及手腕关节角度。在公开 EgoEMG 数据集测试中,EVFormer 取得 11.482 度的平均绝对误差,相比纯视觉基线和后期融合分别降低 13.20% 与 14.23%。此外,该模型在评估的 5 类手势中有 4 类取得最低误差。
Simon Willison 发布 llm-openai-decisions 0.1a0 插件,用于调用 OpenAI 全新的 Decisions API 与 gpt-6-luna 模型。
Google 开源多模态嵌入模型 EmbeddingGemma 2,参数量为 740M,支持将文本、图像、视频、音频与代码转为向量。该模型在浏览器端通过 WebGPU 单次查询耗时约 20 至 70 毫秒,仅需约 191 MB 内存,纯文本任务另提供 270M 版本。模型权重已上线 Hugging Face 与 Kaggle,可配合小型开源模型在本地离线运行 RAG 应用。
Google DeepMind 正式推出开源轻量多模态嵌入模型 EmbeddingGemma 2,采用 Apache 2.0 协议且全模态总参数量为 740M。
推荐理由:模型将跨模态统一嵌入压缩至 740M 参数量级并支持动态截断维度,为端侧离线检索与轻量 RAG 提供了低内存落地方案。
Pinterest 推出由其视觉智能与生成式 AI 技术驱动的“Beauty Guides”功能,可将用户保存的美妆灵感 Pins 转化为能直接带去沙龙的行动指南。用户在应用内点击“Get the Guide”即可获取专业术语建议、操作耗时、价格区间以及后期维护要求。该功能上线时支持发型、发色、指甲形状及效果相关的 Pins。
Mistral AI 推出拥有 1T 参数的大型多模态模型 Mistral Large 4(ML4,代号 Le Chonk),目前仅通过带防护栏的公开端点提供访问,并计划在三周安全测试后开源权重。该模型完全依托其自身算力训练且仅消耗 4000 张 NVIDIA GPU,重点针对网络安全、金融和芯片设计等关键场景进行了针对性优化。