llm-anthropic 0.29 发布
Simon Willison 发布 llm-anthropic 0.29。该动态发布于 9 月 22 日,同时提供了每月 $10 的赞助订阅,订阅者可获取当月重要 LLM 进展的精选邮件汇总。
Simon Willison 发布 llm-anthropic 0.29。该动态发布于 9 月 22 日,同时提供了每月 $10 的赞助订阅,订阅者可获取当月重要 LLM 进展的精选邮件汇总。
LLM 命令行工具新增插件 llm-typesafe 0.1a0,正式接入对 TypeSafe AI 旗下 Jev 模型的支持。用户通过执行 `llm install llm-typesafe` 并配置 API key 即可启用,支持调用 Jev 模型完成是/否概率判断(noul)、多选项分类(choice)以及多层级评分(score)等结构化任务。
NVIDIA 在 ROSCon 会议上正式发布 Isaac ROS 5.0 开源机器人软件栈,引入 AI 智能体开发工作流并新增对 ROS Lyrical 与 Ubuntu 24.04 的支持。
推荐理由:Isaac ROS 5.0 将智能体工作流与物理 AI 模型引入开源 ROS 生态,有助于开发者降低工业与人形机器人感知与抓取部署的工程门槛。
Parallel 的 AI 智能体采用 GPT-6 Astra 开展劳动力市场数据的调研与整合。相较于以往模型,该方案将所需的研究时间与成本均减少了一半。
Together AI 推出模型金丝雀发布(Canary rollouts)功能,支持在同一终端节点上无停机迁移流量并升级线上模型。该功能提供金丝雀灰度、蓝绿切流与滚动替换三种策略,支持设置延迟与错误率等指标门控,在指标恶化时自动触发系统暂停以防止劣质模型全量上线。用户可通过 tg CLI、Python SDK 或 REST API 控制发布全流程,并支持随时冻结流量或反向回滚。
面对自动驾驶与机器人规模化部署的安全挑战,NVIDIA 推出首个面向物理 AI 的全栈安全系统 NVIDIA Halos。该系统覆盖硬件、软件、AI 模型与仿真验证,在自动驾驶领域整合 DRIVE AGX Thor、Halos OS 与开源端到端推理视觉语言动作模型 NVIDIA Alpamayo。在机器人领域则结合 IGX Thor 模块与 Omniverse 仿真,实现全流程安全保障。
Higgsfield AI 借助 GPT-6 Astra 在一天内上线了全新视频功能。这项更新降低了小型企业制作视频广告的难度,并推动新的创意工具更快推向市场。
OpenAI Academy 拓展了全新学习路径,面向员工、开发者、领导者、教育工作者和学生开放。该学习路径旨在帮助不同人群构建并展示实用的 AI 技能。
llm-keys-ui 0.1 发布,旨在解决通过手机远程控制 Codex 编程智能体时安全配置 API key 的问题。该插件可生成包含本地网络或 Tailscale 设备 IP 的 Web 界面用于录入密钥,避免直接向智能体会话或 ChatGPT 粘贴敏感 key。后续智能体在执行 shell 命令时可通过 `llm keys get` 直接读取所需密钥。
Google 与设计师 Jane Wade 和 Sergio Hudson 展开并肩合作,为备战纽约时装周(NYFW)定制设计了 Google Flow 工具。双方通过紧密协作为时装周的筹备工作提供针对性支持。
Google 与联合国系统联合推出了 UN System Data Commons 平台。这是一个全新的开放平台,旨在让全球统计数据更易于公开获取与检索。
Pawprint Studio 免费开放世界生物捕捉 RPG《Aniimo》本周上线 GeForce NOW,玩家无需下载 45GB 即可跨设备串流游玩。同时《007 First Light》迎来路径追踪更新并支持 NVIDIA DLSS 4.5,Ultimate 会员可享 RTX 5080 级性能。
OpenAI 推出面向法律领域的 Astra for Law,为法律业务带来前沿智能支持。该产品支持定制律所工作流并连接各类法律数据源,同时提供适用于客户机密工作的法律级安全管控能力。
OpenAI 推出全新 AI 驱动的广告体验,包括赞助智能体(Sponsored Agents)以及面向营销人员的工具。该体验同时整合了 HubSpot 与 Shopify 平台。
推荐理由:OpenAI 推出赞助智能体与营销工具并整合电商与 CRM 平台,展示了生成式 AI 商业化与广告形态的新探索。
Hex 借助 GPT-6 Astra 支持其数据智能体,将数据分析答案直接转化为交互式可视化内容。该功能使员工能够更便捷地生成并分享高质量的交互式图表与分析报告。
NVIDIA 展示了通过 DSX 套件优化 AI 工厂能效与产出的方案。云服务商 Lambda 在 HGX B200 集群实测显示,DSX MaxLPS 在固定电力预算下将 token 吞吐量提升 24%(从约 400 万增至 500 万 tokens/s),每瓦性能提高 23%。DSX Flex 则支持响应电网调度,在保障关键推理任务的同时将功耗从 4 兆瓦自动降至 3 兆瓦。
NVIDIA 在 AI Infra Summit 上公布了 Vera Rubin 系统与 DSX 平台的能效优化成果,将基础设施核心指标转向每兆瓦产出的智能体 token 量。
Google 宣布其产品已支持超 300 种语言,并公布多项语言 AI 进展。Gemini 3.5 Live Translate 实现了 70 种语言与 2,000+ 语言对的实时口语翻译,并带来高精度语音转录模型 Gemini 3.5 Transcribe。此外,Google 推出支持 55 种语言的轻量开源端侧翻译模型家族 TranslateGemma,无需联网即可运行。
Cognition 借助 GPT-6 Astra 提升了 Devin 测试软件并验证运行效果的能力。这项改进旨在帮助工程师减少需要审查的代码量,从而更快交付更多软件。
Together AI 宣布扩展微调服务,新增对 GLM-5.3、Qwen 3.8、Gemma 4 等开源权重模型的支持,并下调多款模型 30% 至 70% 的训练价格。新版本加入实时训练指标追踪与面向 MoE 架构的 Expert LoRA 功能,支持验证集早停并自动退还未用步数费用。平台还提供训练前数据 Token 化预览、文件预检校验及样本权重调节能力。
推荐理由:微调平台引入专家层适配器与早停机制,为开发者提供了更精准控制 MoE 训练并降低试错成本的实现路径。
Google 搜索通过 AI 功能为大型赛事跑者提供全流程备赛支持。用户可在 AI Mode 中通过 Canvas 工具生成结合路线与个人体能的定制训练计划,或关联 YouTube Music 账户创建专属跑步歌单。同时,搜索依托包含超 600 亿商品的 Shopping Graph 提供装备定制推荐、现货横向对比及本地库存查询。
OpenAI 在 ChatGPT Work 中推出 Data agent。该功能支持用户通过自然语言连接公司数据、发掘数据洞见,并借助 AI 构建交互式仪表盘。
OpenAI 推出面向金融服务的 ChatGPT(ChatGPT for Financial Services)。该方案结合内置金融数据与 GPT-6 Astra 模型,用于辅助开展行业研究、财务建模以及制作可直接面向客户的交付材料。
推荐理由:该产品结合内置数据与垂直场景能力,金融从业者可据此评估其在投研分析和财务建模工作流中的实用性。
OpenAI 推出 Agents API,这是一项用于构建和上线云端 AI 智能体的托管服务。该服务由 Codex harness 提供支持,主要覆盖任务编排、长时间运行会话以及工具调用等功能。
推荐理由:原文给出了官方托管云端智能体的能力定位,开发者可据此了解其在会话编排与工具调用上的支持方式。
Together AI 宣布推出抢占式 GPU 算力公开预览版,适用于所有区域的 Kubernetes 集群。该服务以常规按需费率的固定 50% 计费并按亚小时计量,专为短实验、突发推理和批处理等可容忍中断的工作负载提供低成本算力。当节点被回收时,系统提供最长 5 分钟的排空时间以便保存检查点,且在空闲容量恢复后会自动重新填充节点。
Google 搜索面向美式橄榄球赛季推出多项新功能,上线提供实时逐回合播报、视频集锦与 AI 洞察的 Live Game Feed。搜索还新增对阵轮播与进阶球员统计,并支持直接关联 Yahoo Fantasy 或 Sleeper 账号。用户可通过 AI Mode 基于实时阵容获取首发与替补建议及选秀评估,相关功能已在美国移动端英文上线。
Google DeepMind 推出 AlphaGenome Atlas 平台,预计算了人类基因组中全部 90 亿个单核苷酸变异的分子生物学影响。该 1-petabyte 数据集结合了 AlphaGenome 与 AlphaMissense 的能力,并提供综合变异影响评分 AVI,同时覆盖编码与非编码区域。
推荐理由:该平台预计算了人类基因组中全部单字母变异的分子效应,为罕见病致病位点排查与非编码区遗传机制研究提供了系统化预测资源。
GitHub 宣布在 GitHub Copilot CLI 中推出 Project HydraFusion 研究预览版,通过运行时编排跨厂商模型来平衡编码任务的性能、成本与延迟。
推荐理由:多模型编排从人工切换进入运行时自动化,为降低代码智能体调用成本与提升稳定性提供了工程参考架构。
Google DeepMind 宣布启动 Fairwind 计划,向政府机构、Google Cloud 客户及安全合作伙伴开放专用网络模型 Gemini 3.8 Flash Cyber 与 CodeMender 框架。
Google 宣布推出 Fairwind 计划,面向政府机构、Google Cloud 客户及安全合作伙伴开放专用网络防御能力。该计划结合 Gemini 3.8 Flash Cyber 模型与 CodeMender 框架,支持在安全云环境中自主发现、验证并生成代码补丁,将修复周期从数周缩短至数分钟。
Google DeepMind 在 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 中推出智能体视频理解功能,支持模型通过工具动态搜索、缩放和检查目标视频片段。
推荐理由:官方给出了动态检索视频帧与音频的新机制,展示了长视频分析在大幅降低成本的同时提升定位精度的具体路径。
Google 宣布推出基于 Nano Banana 模型的图像创作与编辑工具 Google Pics,并在未来数周面向 Google AI Pro 与 Ultra 订阅用户及多数 Workspace 商业客户开放。
推荐理由:Google 将图像生成与局部精准编辑直接嵌入办公组件,展示了多模态模型深度融入现有协同工作流的具体形态。
Google Search 在其 AI Mode 中上线三项旅行规划与预订功能,支持机票降价追踪、积分里程兑换查询以及直接预订酒店。机票价格追踪功能已在 180 多个国家与地区上线,积分里程查询支持美航与希尔顿等多家合作方并全球可用。酒店预订已在美国开启英文版推送,用户可在对话流中挑选房型并通过 Google Pay 直接完成支付结算。
推荐理由:Google将机票比价、积分查询与酒店直接预订整合进搜索对话流,展现了生成式搜索向端到端交易闭环延伸的落地路径。
Google 在 Google 搜索中推出 5 项面向学习与备考的 AI 新功能,涵盖生成式交互界面、测验生成与笔记整合。用户可在 AI Mode 中调用 Generative UI 生成交互式模拟图表,并免费获取涵盖 SAT、GRE 等标准化考试的定制练习测验。
推荐理由:Google 将生成式界面、模拟题测验和 Gemini Notebook 深度融入搜索,展示了搜索产品从检索信息转向端到端学习辅助的具体路径。
Together AI 在平台终端节点层上线大语言模型 A/B 测试功能,允许团队在保持对外接口不变的前提下,向候选模型分配固定比例的生产流量。该机制支持单对照组与最多 20 个变体模型分流,并可通过请求中的 user 字段保持会话粘性,变体部署独立监控与弹性扩缩容。测试期间可在元数据中打上部署标识以关联业务指标,验证完毕后支持一键蓝绿上线胜出模型并自动清理实验路由。
推荐理由:该功能将模型实验路由从应用层下沉至端点层,让工程团队无需侵入业务代码即可完成真实的流量灰度与质量归因。
微软研究院开源面向智能体研发的基础框架 Orchard,旨在解决复杂智能体训练依赖专有基础设施与沙箱的瓶颈。该框架以基于 Kubernetes 的 Orchard Env 为核心,支持直接在 Codex、OpenClaw 等真实运行框架中端到端训练与评估,并可在软件工程、网页浏览和个人助理等任务间复用数据管线。
推荐理由:该框架通过将运行环境解耦为独立服务并支持在真实运行载体中直接训练,让十倍更小参数的开源模型逼近前沿系统水准。
Together AI 为专用模型推理平台推出基于推理原生指标的自动扩缩容功能,允许用户根据 inflight_requests、TTFT 和 GPU 利用率等动态调整副本数量。
Together AI 详解其专用模型推理(Dedicated Model Inference)架构,系统由固定端点 endpoint、部署 deployments 及不可变配置 configs 组成。
Together AI 推出 Dedicated Model Inference 生产级推理平台,旨在简化开源权重、授权闭源及微调模型在生产环境中的部署与持续迭代。平台提供预优化的部署配置,支持金丝雀发布、蓝绿更新、影子流量测试以及 Prometheus 指标监控,重构的模型缓存分发层将热启动速度提升约 4 倍。此外,平台同步启动了支持全权重与 LoRA 强化学习定制训练的封闭测试。
Together AI 针对 Together GPU Clusters 推出平台健康与运维控制更新,旨在保障大规模训练和推理作业的稳定运行。平台新增近乎零开销的被动健康检查并提供四种节点自动修复建议,同时基于 Slinky 推出升级版 Together Slurm-on-K8s 2.0,实现守护进程自愈、彻底清理残留进程及持久化作业核算。