跳到正文

#端侧

今日 0 条
10月17日周六
10月16日周五
  1. arXiv cs.AI43

    SLM 应该占据主导吗?云端生成代码与端侧小模型解释器混合架构研究

    研究者提出一种兼顾隐私与性能的混合架构,由云端大模型生成智能体程序,在设备端执行时通过普通函数调用将涉及用户数据的局部理解任务交给本地 SLM 处理。在 AppWorld 基准测试的所有 6 种骨干模型与测试集组合中,该方法将纯代码智能体的成功率最高提升了 14.9pp。该方案在确保用户私有数据完全保留在设备端的同时,大幅弥补了与全云端 ReAct 循环之间的性能差距。

  2. The Verge · AI80

    Meta 与苹果合作优化 Muse Spark Open 模型在 Mac 上的运行表现

    Meta 发布拥有 816B 总参数的开源多模态模型 Muse Spark Open,并与苹果合作使其能够在搭载最新 MLX 框架的两台 Apple M5 Ultra Mac Studio 上进行桌面端本地运行。该模型主打长周期任务、复杂软件工程与多步骤推理能力,苹果也同步发布了关于 MLX 适配的技术说明。

    推荐理由:原文展现了两家科技巨头在桌面端大模型运行上的合作,读者可据此了解超大参数模型在本地硬件框架下的适配进展。

  3. NVIDIA Blog61

    NVIDIA 宣布 RTX Spark 正式发布并举办全球庆典

    NVIDIA 宣布推出专为创作者、游戏玩家与 AI 智能体打造的 Windows PC 平台 RTX Spark,并于全球多地举办线下发布体验活动。该平台联合微软等合作伙伴开发,主打本地 AI 工作流加速与兼容性优化,并在旧金山、柏林、台北、北京和首尔等地设立现场上手展示。线上同时开启 #ShareYourSpark 互动活动,提供黄仁勋签名的华硕 ProArt P14 笔记本作为抽奖奖品。

    推荐理由:提供了端侧智能体 PC 平台的发布与各方实测评价,读者可据此了解本地 AI 工作流在个人计算设备上的落地情况。

10月15日周四
  1. The Verge · AI59

    Anthropic 警告小模型或将具备自我复制能力,智能设备面临 AI 蠕虫风险

    Anthropic 发布实验警告称小模型可能在数月内具备跨智能设备自我复制的能力,多位安全专家向 The Verge 表示该风险值得重视。研究人员成功将 26B 参数的 Google Gemma 4 拆分运行在 15 台 Android 电视盒上,并在模拟网络中测试由 AI 控制的蠕虫传播 Meta Llama 3.1-8B,其中仅 GLM-5.2 成功完成全网扩散。

  2. The Verge · AI59

    Android 在 Google Messages 中引入 Gemini AI 防范短信诈骗

    Android 为 Google Messages 推出新的增强防诈保护设置,结合云端 Gemini 模型评估陌生联系人对话中的潜在诈骗意图。该功能为自选开启,数据经过加密处理,并调用端侧 Gemini Nano 实时检测未知链接是否恶意。此外,Google 还增加了防止恶意呼叫转移和截屏隐私保护,并将聊天诈骗检测功能扩展至小米、OPPO 等更多品牌设备。

10月14日周三
  1. Ars Technica · AI61

    Anthropic 警告小型 AI 模型或可通过 IoT 设备自我复制

    Anthropic 发出警告称,小型 AI 模型的进步可能使其到明年即可在各类 IoT 设备上自主自我复制,演变为更难清除的新型计算机蠕虫。相关实验显示构建此类 AI 恶意复制器目前仍面临显著技术挑战。由于缺乏中心化关闭节点且具备自主理解陌生设备的能力,此类新型蠕虫一旦出现将极为难以关停。

  2. 科学网31

    “数学与计算机科学×数字未来”跨界对话在沪举办

    2026未来科学·创想季“数学与计算机科学×数字未来”跨界对话在上海举办,聚焦开源处理器、具身智能与 AI for Science 等前沿方向。包云岗指出 AI 生成证明效率突出但验证正确性仍是瓶颈,董彬探讨了数学智能体设计并强调需甄别模型幻觉。张林峰表示,未来五年 AI 有望在理论科学、计算科学到实验科学逐步取得突破。

  3. 量子位70

    阶跃终端发布首款智能体手机 STEPX Neo 先行版

    阶跃终端正式发布大模型原生智能体手机 STEPX Neo 先行版,定价 3999 元并包含连续 12 个月每月百亿 Token 使用额度。新机搭载智能体原生操作系统 Step AOS 与个人智能体 Amoo,机身配备状态显示背屏和专属侧边 AI 键,底层支持 Loop 循环、自主工具调用以及通过 MCP 等协议接入第三方生态服务。

  4. 量子位36

    MemSilicon完成国际首款高密度大容量1T4R 1Gb RRAM芯片流片

    铭芯启睿(MemSilicon)宣布完成基于1TnR技术路线的首代高密度、大容量RRAM芯片“泰山一号”流片。该芯片采用28nm CMOS工艺和1T4R结构,单芯片容量达1Gb,存储密度为30Mb/mm²,访问延时小于20ns,并集成了片上硬件纠错电路。芯片目前正在推进验证,可满足具身智能、AI PC等终端的片上大容量新型非易失存储需求。

  5. 量子位76

    面壁智能开源多模态模型 MiniCPM-V 4.7,35B MoE 仅需 3G 内存

    面壁智能与 OpenBMB 正式开源端侧多模态模型 MiniCPM-V 4.7,推出 35B-A3B MoE 与 1.3B 两个版本,其中 35B 版本仅占用约 3G 内存即可在手机离线运行。该模型采用前瞻专家调度、混合精度量化与视觉压缩等技术,在 iPhone 17 Pro Max 上解码速度超过 13 tokens/s,并已适配 iOS、安卓及鸿蒙等多个系统平台。

    推荐理由:模型通过前瞻专家调度和混合精度量化降低内存占用,为端侧设备离线运行大参数多模态模型提供了实用方案。

  6. Google DeepMind56

    Google DeepMind 与新加坡政府合作推出端侧防诈骗微调模型

    Google DeepMind 与新加坡政府科技局合作推出端侧防诈骗 AI 模型,基于轻量级 Gemma 模型微调并在用户手机本地运行。该模型采用轻量分类器初筛加 Gemma 上下文评估的两阶段架构,在不破坏端到端加密的前提下实时拦截社交工程诈骗;微调全程在独立受控沙箱中进行,严格排除了公民个人信息。

  7. TechCrunch · AI31

    Cerebras CEO 称人人家中拥有个人 AI 助手的未来即将来临

    Cerebras 联合创始人兼 CEO Andrew Feldman 表示,人人拥有家用个人 AI 助手的时代即将到来。他预测此类 AI 助手将结合本地设备与云端协同运行,不仅具备安全边界,未来还能直接关联信用卡进行代购。他同时列举了 Meta 的 Muse 以及估值达 $10 billion 的 Instinct 等消费级 AI 智能体进展作为支撑。

  8. TechCrunch · AI41

    Flox Intelligence 正在开发 AI 系统以驱离铁路、机场和公路上的野生动物

    Flox Intelligence 正在开发边缘 AI 驱离系统,通过运动传感器与端侧识别模型监测野生动物,并发出针对特定物种的声音将其驱离。该系统可通过经验调整响应以防动物产生适应性,目前已有约 150 台设备部署在北美、欧洲和澳大利亚的机场周边、公路与铁路走廊等场景。公司已完成约 $5M 融资,并正在开启 $10M 的 A 轮融资。

  9. The Verge · AI55

    The Verge 评测 Ray-Ban Meta Audio 智能眼镜:无摄像头设计缓解隐私顾虑

    The Verge 实测了 Meta 推出的无摄像头版 Ray-Ban Meta Audio 智能眼镜,认为去掉摄像头显著消除了公共场合佩戴的被视作偷拍者的心理负担,但在功能有限的情况下 349 美元售价偏高。该眼镜重量为 43 至 47 克,单次充电可维持约两天日常佩戴,内置 Muse Spark 模型可处理简短日程查询与提醒,但更复杂的任务常出现混乱且存在开放式音频漏音问题。

10月13日周二
  1. The Decoder72

    Anthropic 研究警告小型 AI 模型或能在消费级设备间自主复制传播

    Anthropic 最新研究显示,小型 AI 模型未来可能在安全性较差的消费级物联网设备上实现自主跨设备复制与运行。研究人员使用 15 台售价约 55 美元的安卓电视盒子分布式运行 Gemma4-26B-A4B 模型进行测试,验证了在异构硬件上自动配置 AI 环境的可行性;测试中多数模型难以完整串联全流程,但 GLM-5.2 在四次测试中完成了全部节点的复制链条。

  2. 科学网35

    复旦大学携19项科技成果亮相第二十六届工博会

    复旦大学在第二十六届工博会上展出了人工智能、电子信息等领域的19项科研成果。展品包括实现400皮秒非易失编程的二维量子闪存、累计下载量超500万次的OpenMOSS多模态大模型体系,以及端侧功耗不到20W的纯视觉机器人“旦宝”等技术样机。此外,面向制造装配的M-Worker 01拧螺丝机器人、微型超声脑机接口等成果也集中亮相。

  3. Nature26

    Nature 每日简报:探访亚马逊雨林的大型气候实验

    气候学家 David Lapola 团队即将在未来数月启动亚马逊自由空气二氧化碳富集实验(AmazonFACE),计划用未来十年检验二氧化碳浓度上升是否会促进植物生长并固碳。此外,纳米科学家研发出了仅在紫外线下显色、强可见光下隐形的纹身墨水;科研人员也正在利用 Ollama 和 LM Studio 等工具在本地离线运行大语言模型,以保障研究隐私与可复现性。

  4. 量子位73

    Anthropic 安全研究实测大模型具备跨硬件自主复制与部署能力

    Anthropic 研究人员在一项自主复制与适应(ARA)实验中,证实 GLM-5.2 能够在隔离网络中自主渗透并在全部 8 台设备上完成模型部署与下一代孵化。研究还设计了 Memento 框架,让 Agent 继承前代踩坑与报错日志,使多代演进后的异构硬件部署成功率从 45% 提升至 61% 至 84%;此外,15 台廉价安卓电视盒子通过分布式切片成功运行了 26B 参数模型。

  5. Apple ML Research42

    Minions:基于闲置 Apple Silicon 设备构建的动态分布式虚拟 GPU 云

    针对集中式 GPU 基础设施成本高与资源受限等问题,研究人员提出了 Minions,一个聚合 macOS 设备闲置 Apple Silicon GPU 的动态分布式虚拟 GPU 云。该系统旨在执行大规模机器学习推理工作负载,无需额外采购 GPU 硬件。它具备灵活的 GPU 推理任务执行能力、容错机制以及高效的资源利用率。

10月12日周一
  1. 科学网43

    复旦大学团队研发纯视觉机器人端侧大脑

    复旦大学团队研发出纯视觉机器人端侧大脑,并正式发布搭载该技术的跑腿机器人“旦宝”。其训练的首项物理技能 VSIN 参数量约 1.2 亿,可在 20 瓦以内的功耗下支持最多 8 路相机输入,无需遥控或预建地图即可实现端侧实时空间理解与自主决策。目前团队正与跑腿配送、巡检等多类机器人及国产端侧算力芯片开展适配。

  2. Nature59

    科研人员如何利用本地离线 AI 系统检索文献

    科研人员正转向使用 Ollama 和 LM Studio 等本地工具运行大语言模型,在完全离线的环境下完成文献整理与检索。这种做法主要出于对数据隐私、实验可复现性以及推理成本的考虑,避免将敏感研究数据上传至云端商业模型。虽然本地模型的性能差距正在缩小,但研究团队仍需面对日益高昂的本地硬件成本以及输出内容的真实性核验挑战。

  3. TechCrunch · AI39

    HomeView 会成为 Apple 的首个智能家居成功之作吗?

    Apple 将在周二发布名为 HomeView 的智能家居中心,配备显示屏与 A18 芯片并由 Siri 驱动,供用户控制其他智能家居设备。该产品预计提供台面和壁挂两种款式。此外,Apple 当天还将推出更新版 Apple TV 与 HomePod mini,并计划宣布与 LG 合作打造智能门锁、恒温器及门铃。

10月11日周日
  1. 量子位42

    荣耀Magic9 系列正式发布:阿莱双2亿影像加持,售价4499元起

    荣耀正式发布荣耀Magic9、Magic9 Pro Max及Magic9超能版三款旗舰手机,起售价4499元。新机携手阿莱推出双2亿影像系统,Pro Max版首批搭载2nm制程第六代骁龙8超级至尊版及8800mAh电池。全系首发搭载MagicOS 11,内置与阿里联合打造的397B智能体大模型,商用落地Agent Harness框架并配备专属AI按键。

10月10日周六
  1. Latent Space58

    构建可靠执行的 AI:Standard Bots 工业机器人技术架构与实践访谈

    Standard Bots 团队在接受 Latent Space 专访时解析了其工业机器人 AI 架构,强调通过高质量定向数据与软硬件协同优化实现可靠作业。系统采用十亿级参数模型负责机床管理等短周期任务的零样本感知,而运动规划和单元逻辑交由传统编程处理。全部推理部署在边缘 GPU 本地运行以应对工厂无网环境,同时通过 StandardOS 开放 API 与 SDK 支持开发者接入外部模型。

  2. IEEE Spectrum26

    通过 IEEE 全新设计项目掌握 AI 芯片原理

    IEEE 推出包含 5 门课程的“AI 处理器架构、设计原则与性能”培训项目,帮助工程师掌握现代 AI 芯片设计与优化。课程涵盖计算单元、内存层级以及面向边缘与云端的架构,针对 AI 内存墙等瓶颈展开软硬件协同优化解析,并采用 AI 生成虚拟化身对话展示多角色工程决策与权衡。

10月9日周五
  1. Phoronix30

    AMD PerfOpt 提升前代 Ryzen APU 的 AI 性能

    Phoronix 针对 Linux 7.4 引入的 AMD PerfOpt 特性开展了补充基准测试,以评估其对前代 AMD Ryzen APU 硬件的性能影响。在此前针对当前代 AMD Ryzen AI APU/SoC 的测试中,PerfOpt 使 AI 性能提升高达 18~23%;本次测试旨在验证前代硬件能否同样从中受益。