跳到正文

#推理

今日 1 条
今天11月3日周二
10月31日周六
10月30日周五
10月29日周四
10月28日周三
10月27日周二
  1. 量子位39

    趋境科技完成超 13 亿元 B 轮融资,加速高品质 AI Token 规模化交付

    高品质 AI Token 生产服务商趋境科技完成超 13 亿人民币 B 轮融资,今年内累计募资已达 24 亿人民币。本轮募集资金将重点投向 AI Token 产能扩张、ATaaS 平台升级迭代及推理底层技术研发。目前其日均高品质 AI Token 产量已超万亿量级,并落地了国产 Prefill-Decode 异构协同等多项推理优化方案。

  2. 量子位40

    商汤大装置包揽中国近50% Neocloud市场份额

    沙利文与头豹研究院报告显示,商汤科技旗下商汤大装置(SenseCore)拿下中国Neocloud(新云)市场近50%份额。其日均Token服务量在9月底已达6万亿规模,依托异构混推PD分离方案使整体推理性价比达到主流高端GPU的1.25倍。此外,其算电协同方案使单位电力成本的Token产出提升80%,平均电费比同地区IDC降低10%。

  3. Cloudflare Blog76

    Cloudflare 复盘 Workers AI 中 GLM-5.3 的 KV cache 跨请求泄露漏洞及 SGLang 修复方案

    Cloudflare 披露 Workers AI 在运行 GLM-5.3 时因配置失误与 SGLang 缺陷出现跨请求 KV cache 泄露,影响了 155 个超长 prompt 响应并已完成修复上线。

    推荐理由:原文详细拆解了分离式推理下缓存复用导致的跨租户数据泄露机制,为大模型托管服务排查引擎内存安全提供了参考。

10月24日周六
  1. The Decoder76

    三名被解雇的 OpenAI 安全研究员称从未被告知具体泄密内容

    三名因涉嫌泄密而被 OpenAI 解雇的安全研究员公开否认泄露机密,并表示公司从未书面说明他们究竟不当处理了哪些具体信息。调查起因于外部安全机构对模型思维链推理透明度及 Astra 架构的关注,安保团队在研究员手机中查出与外部专家的 Signal 阅后即焚记录后将其解雇,但 OpenAI 坚称解雇与安全异议无关。受访研究员担忧此举会令员工噤声并阻碍独立外部审计,已致信董事会呼吁加强安全合作。

    推荐理由:事件展现了前沿模型推理过程透明度引发的内部安全分歧,读者可据此理解模型审查与商业保密之间的冲突。

  2. 科学网76

    中国信通院发布大模型词元服务报告:Token 价格翻倍且日均消耗量增长近 4 倍

    中国信通院等机构联合发布《大模型词元服务性能监测报告(2026年)》,指出国内大模型 Token 归一化均价较去年下半年翻倍至 13.46 元,同时 6 月日均消耗量达约 500 万亿、增长近 4 倍。

    推荐理由:报告通过详实的横向监测数据,呈现了国内大模型 API 从价格战走向性能分化的趋势,为开发者选型提供了量化参考。

10月23日周五
  1. Scientific American77

    OpenAI 破解百万美元数学难题背后的内幕与争议

    OpenAI 宣称利用上万个智能体集群求解纳维-斯托克斯方程引发学术界争端,数学家 Tristan Buckmaster 指责其涉嫌利用了自己在 Codex 中输入的未公开推导思路。OpenAI 否认数据泄露并称其模型自主开辟了不同的求解路径,但学界对未经人类透彻理解的黑盒证明的大规模发布表达了深切担忧。

    推荐理由:报道还原了模型推导数学难题背后的学术争端与竞争内幕,展现出黑盒模型对传统纯数学研究范式的冲击。

10月22日周四
  1. MIT Technology Review · AI37

    AI 隐藏的存储账单:模型推理留下了什么

    持续运行的 AI 推理正在产生庞大后端数据留存,成为极易被忽视的基础设施隐性成本。WD 测算显示,生成一段 3.97MB 的 8 秒 720p 视频会在后端留下超 500MB 的日志与缓存,体积膨胀达 130 倍。IDC 调研表明近 95% 受访企业因生成式 AI 面临数据激增,亟需通过分层架构应对持续累积的存储开销。

10月19日周一
  1. 量子位29

    日均6万亿Token服务背后,商汤大装置如何提升推理效能?

    商汤大装置通过PD分离与异构混合调度构建起万卡级异构推理集群,在特定测试配置下将整体Token吞吐量提升至原来的5倍。目前其平台日均Token服务量已达6万亿,并通过预留高端算力补位与节点角色动态切换机制保障集群稳定。此外,商汤大装置还在探索跨域PD分离以及解耦Attention与FFN计算的AF分离架构,持续优化大规模推理的能效与成本。

10月17日周六
  1. The Decoder79

    Claude 在 30 分钟内破解困扰密码学界 25 年的 NSA 椭圆曲线种子谜团

    Anthropic 旗下模型 Claude 在 30 分钟内解开了 NIST ECDSA 椭圆曲线标准中源自 NSA 的 25 年密码学种子生成之谜。分析显示这些种子来自 C 语言随机数生成器 lrand48,并由 1997 年 5 月至 1998 年 4 月间的 Unix 时间戳初始化,Claude 通过部分种子最高位系统性为零的特征捕捉到了这一规律。

    推荐理由:原文给出了模型通过逆向输出特征定位随机数生成器的过程,为大模型协助分析历史技术疑案与算法验证提供了参考案例。

10月15日周四
  1. 科学网46

    励建书与王坚共同发起“未来数学计划”

    中国科学院院士励建书与中国工程院院士王坚于10月14日共同启动“未来数学计划”,推动AI与数学双向赋能。该计划重点开展研发数学基础模型、形式化验证、研究AI背后的数学机理以及赋能其他跨学科研究四个方向。浙江大学数学高等研究院与之江实验室已展开实质性合作,旨在建立完全开放的“AI+数学”创新共同体。

  2. The Decoder69

    OpenAI 据报年底前将发布新模型,但旗舰模型仍需安全对齐

    据外媒报道,OpenAI 计划在年底前发布一到两款新模型,但其下一代旗舰模型因安全对齐和测试要求仍需时间。该旗舰模型采用了与 Astra 相同的循环 Transformer 技术来增强数学和编程表现,但多轮循环机制会将部分推理转入内部数值表示,导致思维链安全监控难度增加。此外,微软此前在技术文章中意外泄露了 GPT-6.1 Sol 采用两轮循环推理的技术细节,随后删除了相关描述。

10月13日周二
  1. The Decoder64

    西方学者忧虑AI削弱数学理解,丘成桐等联合成立数学与AI联盟

    丘成桐等学者在北京成立数学与人工智能实验室联盟,联合8家机构并计划构建超1000名研究人员的网络,以推进专用模型和机器可验证证明。与此同时,陶哲轩等25位菲尔兹奖得主对AI证明表达担忧,认为其可能削弱数学理解并导致学者依赖不可追溯的工具,部分数学界人士甚至呼吁抵制自动化提交。

10月12日周一
  1. The Verge · AI73

    微软发布第三代自研 AI 芯片 Maia 300

    微软宣布推出第三代自研 AI 芯片 Maia 300,计划将其作为旗下产品和服务的核心 AI 推理系统,预计 2027 年开始投入生产部署。该芯片基于台积电 N2P 工艺与小芯片架构,每兆瓦 token 产出预计比主流 GPU 系统提升 40%,96 卡满配机柜的 token 吞吐量可达 Maia 200 的 7 倍,重点针对长上下文推理和多步骤智能体任务进行优化。

  2. 科学网34

    CCF-天算星座基金正式启动:单个指南经费约20万元

    2026年CCF-天算星座基金正式启动申报,单个指南经费在20万元左右,申报截止时间为2026年11月30日。基金共开放7个指南方向,涵盖在轨大模型推理加速、光学遥感及星载SAR在轨智能应用、空间存储系统等技术问题。该基金旨在依托产学研协同机制解决太空计算与在轨AI Infra的基础研究与工程实践难题。

10月10日周六
  1. The Verge · AI77

    OpenAI 集中发布数百项数学成果引发数学界震动与焦虑

    OpenAI 集中发布了分布在 700 多篇手稿中的近 400 项 AI 生成数学成果,引发数学界对其验证难度和科研生态冲击的广泛震动与焦虑。受访数学家指出,成果虽触及黎曼猜想和霍奇猜想等重大课题,但仅约 42% 拥有 Lean 形式化代码,论文叙述质量参差不齐且伴随撤稿与引用不全等问题。大量既定课题被模型快速覆盖,也让青年学者的经费申请和职业前景面临前所未有的不确定性。

    推荐理由:原文汇集了数十位一线数学家的实名反馈,呈现了前沿模型集中冲击基础学科时对传统学术研究范式与科研生态的具体影响。

10月7日周三
  1. Together AI Blog47

    Together AI 携手 IBM Cloud 与 NVIDIA 扩展企业级推理算力

    Together AI 宣布与 IBM 及 NVIDIA 合作,成为首个在 IBM Cloud 上运行大规模专用推理集群的客户,该集群采用专为推理构建的 NVIDIA B300 GPU 与 Spectrum-X 以太网网络。合作中 Together AI 运营推理层,IBM 与 NVIDIA 分别提供云基础设施及芯片网络,以满足其每月为超 100 万开发者处理数百万亿 token 的推理需求。

10月6日周二
  1. TechCrunch · AI25

    TechCrunch Disrupt 2026 分组会议完整议程公布

    TechCrunch Disrupt 2026 公布分组会议完整议程,大会将于 10 月 13 日至 15 日在旧金山举行,预计吸引逾 10,000 名从业者参与。AI 议题重点探讨实体 AI、推理经济学以及航天领域的落地场景。Anthropic 技术人员还将现场分享如何并行运行多个 Claude Agent 协同处理工程任务与错误恢复。

10月1日周四
  1. The Decoder77

    OpenAI 称已拦截推理过程窃取行为,但研究显示该手段在 Azure 上依然生效

    OpenAI 宣布封禁了超过 15000 个涉嫌通过跨会话解密窃取模型链式推理的账户,并指相关核心活动关联至月之暗面相关人员。然而研究团队测试发现,尽管 OpenAI 与 Anthropic 官方 API 已封堵该漏洞,但相同攻击在 Microsoft Azure 上依然能成功提取包括 GPT-6 Astra 与 Sonnet 5 在内的模型思维链。

    推荐理由:研究展示了通过云端第三方接口绕过多层保护窃取模型链式推理的技术细节与平台漏洞。

  2. The Decoder65

    OpenAI 与新思科技达成战略合作,联手打造芯片设计专属模型 GPT-Synopsys

    OpenAI 与新思科技签署多年战略合作协议,计划共同开发专用于芯片设计与验证的 AI 模型 GPT-Synopsys。该模型将结合 OpenAI 的模型技术与新思科技的 EDA 工具,使模型能直接操作相关工具并辅助完成设计推理,由工程师负责下达目标与审核输出。相关产品运行于 OpenAI 基础设施且客户数据不用于训练,目前双方已面向半导体客户开展早期测试并计划联合分成推广。

9月29日周二
9月25日周五
  1. Latent Space30

    Latent Space 的未来规划

    Latent Space 宣布将对内容架构展开重大调整,计划推出 AINews v3 并将其与 Discord 社区职能深度合并。团队正探索迁移至 Beehiiv,以构建涵盖多档播客与通讯的技术媒体网络,并重新开放商业赞助与合作。本期内容还同步汇总了 Claude Opus 5.5、GPT-6 系列及 TypeSafe Jev 等前沿模型的最新评测动态。

9月16日周三
  1. Latent Space57

    游戏学到的技能能否迁移到现实工作?Good Start Labs 探索 AI 游戏强化学习

    Good Start Labs 通过将《1830》和 Diplomacy 等策略游戏构建为强化学习环境,探索游戏内策略思考向金融分析与客户支持等现实任务的迁移。实验表明,在《1830》中采用工具调用和实时规划的多轮终端 Agent 训练后,成功提升了在 Finance-Agent 基准上的表现。该公司目前主要面向前沿实验室销售游戏智能体轨迹数据与端到端强化学习训练环境。

7月29日周三
  1. Together AI Blog80

    Together AI 与月之暗面达成战略合作,原生托管并支持 Kimi 系列开源模型

    Together AI 宣布与月之暗面(Moonshot AI)达成战略合作,成为其开源模型发布平台并原生提供 Kimi 系列模型的托管推理与后训练支持。平台首发接入 2.8T 参数的稀疏 MoE 模型 Kimi K3,支持 Serverless、预留吞吐量和独立实例三种部署形态,并提供零数据保留保障与 99% 可用性 SLA。

    推荐理由:该合作让开发者能在合规的云端基础设施上即时调用月之暗面的大参数开源模型,并直接衔接微调训练与生产级推理服务。

7月20日周一
  1. Together AI Blog55

    Together AI 联合 Y Combinator 为 YC 初创团队推出专属 GPU 集群

    Together AI 宣布与 Y Combinator 合作推出面向 YC 初创团队的专属 GPU 集群,解决 AI 原生创业公司面临的算力获取瓶颈与资金压力。入选企业无需签订长期高额合同,即可通过 Together AI 自助门户在数分钟内弹性调配 GPU 用于推理与训练,并享受长期协议级别的优惠费率。该集群目前已处于全负荷运行状态,双方后续计划进一步扩大算力规模以支持企业持续扩张。