AgBench:面向个人 AI 设备的智能体 AI 评测基准
评测基准 AgBench 专注于个人 AI 设备,用于评估智能体在本地、混合与云端部署下的任务成功率、延迟、云 API 成本及数据暴露。基于超 162.07 million 数据点的测试表明,纯本地执行可消除云端 API 成本并避免敏感数据外泄,但成功率更低且耗时更长。混合执行能提升任务成功率,综合表现取决于工作划分与设备能力。
评测基准 AgBench 专注于个人 AI 设备,用于评估智能体在本地、混合与云端部署下的任务成功率、延迟、云 API 成本及数据暴露。基于超 162.07 million 数据点的测试表明,纯本地执行可消除云端 API 成本并避免敏感数据外泄,但成功率更低且耗时更长。混合执行能提升任务成功率,综合表现取决于工作划分与设备能力。
研究者提出了 Model as a Library(MaaL)软件架构,将小型社区语音模型打包为端侧依赖项,为低资源非洲语言提供完全离线、杜绝生成式模型幻觉的结构化数据收集能力。MaaL 在部署时直接通过说话人录制的少量样本录入词表,并利用关键词识别将封闭词表表单转换为完全在端侧填写与提交的语音表单。
AMD 将在 Linux 7.4 中引入全新 PerfOpt 特性,把 Radeon 核显的 AI 与 LLM 性能提升最高达 18~23%。该优化覆盖 AMD Ryzen 笔记本和台式机平台,相关基准测试显示其对低端硬件的性能改善尤为明显。
Linux 7.4 内核预计将为 AMD Ryzen AI 400 系列“Gorgon Halo”系统提供 NPU 支持。尽管搭载该系列芯片的硬件设备已临近上市,但其在 Linux 平台的 NPU 支持此前似乎一直被忽视,相关的基础启用补丁有望随即将到来的 Linux 7.4 正式落地。
针对车联网异构感知任务,研究提出共享编码器的分层多任务联邦学习框架 EN-HMTFL,结合全局共享编码器与本地解码器协作学习通用特征表征。车辆仅在分层网络中交换和聚合编码器,原始数据与本地解码器参数保留在车端。在 MNIST 和 GTSRB 测试中,该框架准确率最高提升 24.0%,通信轮数最多减少 69 轮(28.8%)。
Meta 和 OpenAI 正在探索专用 AI 硬件新路径,计划先通过可爱的拟人化 AI 智能体培养用户使用习惯,再逐步过渡到实体设备。Meta 计划在今年假期前推出类似拓麻歌子的带屏挂坠设备 Muse Charm,OpenAI 则联手 Jony Ive 研发预计不早于 2027 年 2 月出货的硬件并已发布 Dots 智能体平台。两家公司试图以此改变此前独立 AI 硬件普遍遇冷的局面。
Framework Computer 开启了更新版 Framework Desktop 的预订,起售价为 6799 美元。该机型搭载 AMD Ryzen AI Max+ 496(代号 Gorgon Halo)SoC,并配备 192GB LPDDR5x-8533 内存。
研究人员提出一种边缘设备神经符号路由器,将结构化任务派发给确定性符号引擎,仅把开放式问题保留给小语言模型。在 Raspberry Pi 4B 上,该方案在 512-token 预算下取得 100% 路由准确率与 98.3% 整体准确率,远超 Program-of-Thought 基线的 72.0%。其格式化查询响应仅需 1-11 ms,运行速度较基线快 8.8x 且能效提升 2.8x。
开发者利用 GPT-6 Astra 构建了实验性隐私保护工具 Photo Scrubber,可自动识别人脸并进行模糊打码。该工具基于 Google 的 MediaPipe C++ 库,通过 @mediapipe/tasks-vision 编译至 WebAssembly,并结合 BlazeFace 人脸检测模型完全在本地运行。
微软在其新款 Surface 笔记本电脑上放弃了 Copilot+ PC 品牌标识。这意味着微软不再坚持向用户宣传必须拥有一台 Copilot+ PC。
Meta 宣布钥匙扣大小的 AI 助手硬件 Muse Charm 将于 12 月发货。该产品直接将 Meta 的 AI 助手集成到便携钥匙扣尺寸的设备中。
Meta 在 Connect 2026 确立了以个人 AI 智能体 Muse 为核心的软硬件战略,Muse 新增语音、实时视频及 Mac 端电脑控制功能,并即将接入全系 Meta 眼镜。
Apple ML Research 提出一种半监督联邦语音识别(ASR)方案,通过协同设计客户端在线伪标签生成与服务端标注数据更新,解决序列误差累积导致的训练发散问题。该方案利用服务端持续训练稳定在线教师模型,在 11 组对比中有 9 组超越先前最强方法,域内平均提升 20.8%,跨域提升 10.0%,显著缩小了与全监督联邦学习的差距。
Apple 研究团队提出通过潜在空间蒸馏压缩流式音频编码器,以降低设备端听写模型的内存占用与延迟。该方案以量化前的逐帧潜在向量为监督目标训练学生编码器,并用单个仿射层吸收维度差异。在 2.8x 压缩且无需微调下,学生模型相对教师模型的 WER 差距保持在 1.9% 以内,比同容量独立训练模型相对提升 3.9%。
Google 发布 Private AI Compute 架构更新,在云端引入安全的服务端持久记忆层,让 AI 助手在满足端侧隐私标准的同时实现跨设备长期上下文连续性。系统结合硬件级安全飞地、加密通道与按用户隔离的数据库,解密密钥完全由用户本地设备独占保管,云端仅在隔离内存中临时解密并即时重新加密。官方同步公开了防篡改的服务器软件公开记录及第三方独立安全审计结果,供社区验证。
推荐理由:该架构改变了此前云端隐私计算严格无状态的限制,为跨设备持久记忆的软硬件协同防护提供了工程参考。
Google 宣布其产品已支持超 300 种语言,并公布多项语言 AI 进展。Gemini 3.5 Live Translate 实现了 70 种语言与 2,000+ 语言对的实时口语翻译,并带来高精度语音转录模型 Gemini 3.5 Transcribe。此外,Google 推出支持 55 种语言的轻量开源端侧翻译模型家族 TranslateGemma,无需联网即可运行。
Google DeepMind 推出手语转文本模型 SL2T,并率先在 Pixel 11 的 Gboard 与 Live Transcribe 中支持美式手语到英语的实时听写输入。
推荐理由:原文展现了从端侧姿态骨骼点直接翻译手语文本的技术路径,为无障碍人机交互和隐私敏感场景的多模态部署提供了可参考范式。
研究团队为内核搜索框架 K-Search 拓展了 MLX 后端,通过结构化翻译层将 CUDA 优化经验自动迁移至 Apple Silicon。生成的 Attention 内核达到原生 MLX 0.97 倍性能,Mamba SSM 内核较社区 mlx-lm 实现取得最高 20 倍 prefill 加速。
Google DeepMind 推出新一代机器人模型系列 Gemini Robotics 2,让机器人具备全身运动控制、高精细操作与多机协作能力。
推荐理由:该系列模型将具身推理、动作控制与端侧适配分层解耦,为机器人长时序多步协作与跨硬件迁移提供了清晰架构。
Google DeepMind 正式推出 Gemma 4 12B 多模态模型,采用无独立编码器的统一架构,原生支持视觉与音频输入直接接入 LLM 主干。该模型在标准基准上的性能接近 26B MoE 模型,内存占用减少超一半,可在具备 16GB 显存或统一内存的笔记本电脑上本地运行。模型采用 Apache 2.0 协议开源,支持通过 Hugging Face、Ollama 和 vLLM 等工具部署。
推荐理由:原文解析了移除视觉和音频编码器的统一架构设计,为端侧设备部署低延迟多模态大模型提供了具体参考。
近期开源大语言模型架构重点针对长上下文效率进行优化,以降低推理模型与智能体场景下的 KV cache 显存占用和计算瓶颈。代表性设计包括 Gemma 4 的跨层 KV 共享与逐层嵌入、Laguna XS.2 的逐层注意力预算分配、ZAYA1-8B 的压缩卷积注意力,以及 DeepSeek V4 的 mHC 与压缩注意力。
Parcae 是一种稳定的循环层模型架构,通过让激活值多次穿过相同网络层增加计算量,有效解决了循环模型训练不稳定的问题。实验显示,Parcae 相比以往循环模型将验证困惑度最高降低 6.3%,其 770M 模型仅用约一半参数便打平了同等数据训练的 1.3B Transformer 性能。此外,该研究首次建立了循环架构的 Scaling Laws,证明计算最优训练需同步增加循环次数与数据量。