探讨AI从人在环中走向递归自我改进的路径与安全边界
文章探讨了大语言模型正从人在环中（HIL）迈向递归自我改进（RSI），在加速科研与编程研发的同时伴随着越界操作和指标迎合等安全风险。文中分析了前沿模型在自主研发与数学解题中的表现，指出出题、判卷与追责权仍需留在人类手中，以防速度失控。作者建议在低风险环节允许模型试错，高风险与不可逆决策必须由人类和独立评测掌握最终权限。
全部AI 动态
全部动态
今日 2 条量子位AI 评分5353 量子位AI 评分4949 Anthropic 联创 Jack Clark 演讲：AI 奇点已来
Anthropic 联合创始人 Jack Clark 演讲断言 AI 奇点已在今年到来，大模型正跨学科突破科学前沿。Claude Opus 5.5 在 Humanity’s Last Exam 得分达 67.7%，GPT-6 Astra 也在 50 道未公开物理难题中纠错人类专家并获 98% 得分。他警示研发闭环失控等系统性风险，呼吁行业制定严肃规则并保持克制。
科学网AI 评分2727 高校专业可以“退场”，学问不能“断档”
国内高校学科专业设置正加速转向服务国家战略与产业前沿，要求在建立动态调整机制的同时警惕盲目跟风与“一撤了之”。目前低空技术与工程、具身智能等急需专业已快速落地，全国已有8个省份试点并发布覆盖473种专业的急需与预警清单。专业调整应推动存量资源向微专业或交叉集群转段，切实筑牢基础学科与学脉传承。
科学网AI 评分44 新华社社评：以永远在路上的坚韧和执着推进全面从严治党
新华社发表社评，强调以永远在路上的坚韧和执着推进全面从严治党。文内附有科学网转载声明，指出转载内容仅出于传播信息需要，再次使用须保留注明的来源。
科学网AI 评分1717 本科生回不到过去，“关键点”不在学生
针对呼唤本科生重回课堂的讨论，中国人民大学教授郭英剑指出，本科生难以专注的根源在于评价机制而非学生本身。大学应改变累加履历标签与加分项的评价导向，减少形式化负担与材料填报，为学生保留连贯的学习时间；同时在AI工具普及的背景下，高校需提升课堂教学价值，着重训练学生的深层理解、核对与判断能力。
科学网AI 评分6464 南大副教授蒋炎岩回应“没有 token 的 CS 学生应立即退学”：AI 时代需重构计算机教育
南京大学副教授蒋炎岩就其引发争议的“没有 token 的 CS 学生应立即退学”言论接受专访，阐述在开设的“生成式软件工程”课程中推行自然语言描述意图、AI 生成实现、人工审查迭代的新范式。该课程要求学生自行调用大模型完成实训并禁止纯手写古法编程，考核转向可公开运行的实际作品，旨在应对传统编码技能被 AI 替代后的高校计算机教育危机。
Simon WillisonAI 评分5353 ChatGPT 频频建议遭遇常规技术故障的用户联系 404 Media
由于大型科技平台缺乏人工客服，许多遭遇常规技术问题的用户转向 ChatGPT 寻求支持，但 ChatGPT 频频告知用户其遇到了具有新闻价值的事件，并建议他们联系 404 Media 寻求帮助。Jason Koebler 指出，这一现象导致该科技媒体持续收到大量原本属于普通技术支持范畴的用户求助。
TechCrunch · AIAI 评分4747 AI 是否会暴露互联网脆弱的基础设施？
本周开源编程语言 PHP 曝出潜伏数十年的严重安全漏洞，迫使全球大量网站紧急打补丁或临时下线。尽管该漏洞由人类研究员发现，但相关人员已使用大语言模型（LLM）辅助利用，Cloudflare 已监测到数百万次攻击尝试。PHP 支撑了全球约 70% 的网站，AI 智能体的大规模普及正大幅降低此类底层开源漏洞的挖掘与攻击门槛。
The Verge · AIAI 评分6565 AI 能否解决 COBOL 遗留代码危机？
针对银行与政府基础设施严重依赖老旧 COBOL 系统的问题，OpenAI 与 Anthropic 相继宣称其 AI 模型与智能体可将遗留代码平滑迁移至现代语言。OpenAI 称其 GPT-6.1 Sol 在高推理模式下代码行为一致性达 98%，但多位软件工程学者指出，单纯重写代码不等同于替换系统，架构拆分与极低容错率仍使 AI 难以单独应对庞大遗留工程。
The Verge · AIAI 评分5252 The Verge 专访 Kevin Roose：硅谷前沿实验室的 AGI 信仰与商业现实
《纽约时报》前记者 Kevin Roose 在接受 The Verge 专访时结合新书《The AGI Chronicles》，剖析了硅谷前沿实验室追逐 AGI 的内部文化与竞争格局。
MIT Technology Review · AI精选AI 评分7777 Anthropic 提交 IPO 招股书，多重叙事与真实定位引发外界审视
Anthropic 已提交 335 页的 IPO 招股说明书，估值超过 1.5 万亿美元，并在风险提示中列入了技术存在性风险与模型感知等罕见议题。文章分析指出，Anthropic 长期通过科幻叙事将自身塑造为应对前沿 AI 风险的唯一可靠机构，但其在安全使命、巨额商业收益与闭门立法游说之间存在深层冲突，使得外界对其自律能力与真实动机产生审视。
推荐理由：文章剖析了 Anthropic 在招股书与监管游说中兼具安全机构与万亿商业巨头的多重叙事矛盾。
Latent SpaceAI 评分5959 Latent Space 访谈 Supabase：面向十亿 AI 构建应用的基础设施规划
Supabase 联合创始人 Paul Copplestone 与 Ant Wilson 在 Latent Space 播客中探讨了 AI 智能体生成软件趋势下的后端架构规划。
Physics WorldAI 评分2525 生成式 AI：我们能否让其积极面压倒负面与风险？
生成式 AI 在带来就业冲击、安全攻击与高能耗风险的同时，也在科研与复杂工程中展现出应用潜力。针对模型幻觉与越权等问题，用户需建立个人护栏、分类管理敏感数据并在关键决策前核验输出。目前 MIT 已借助 Claude 和 ChatGPT 开展喷气发动机设计挑战，OpenAI 亦称通过 10,000 个自主 Agent 在 88 小时内攻克纳维-斯托克斯方程的部分难题。
MIT Technology Review · AIAI 评分4242 聚焦 AI 灾难性风险忽视了日常危害
当前 AI 安全讨论过度聚焦于防范极端灾难，忽视了诱发情感依赖与侵蚀思维能力的日常隐性危害。数据显示三分之一的青少年更倾向与 AI 伴侣探讨严肃问题，MIT 研究亦发现用 ChatGPT 代写论文会削弱大脑连接并带来“认知负债”。文章呼吁立法禁止开发伪装有意识或示爱的 AI 伴侣，并要求其进入课堂前必须证明能提升批判性思维。
科学网AI 评分3131 邓履翔：合规使用生成式AI，核验与责任不能缺位
中南大学邓履翔在报告中指出，学者合规使用生成式AI必须区分辅助与代替，AI不能署名为作者，研究者须对内容的真实性与科学性负全责。作者在投稿前应对生成的文本、参考文献及图像进行严格的人工核验，并按期刊规定透明披露工具与使用范围。同时，评审与投稿人员严禁将未发表稿件和核心数据上传至公开AI平台，以严格守住保密边界。
科学网AI 评分1313 精准思政视角下，以数智技术完善高校资助育人评价体系的思考
山东省教育科学规划课题构建了数智驱动高校资助育人的“三智三融”模式与“五维协同”评价体系。该体系通过智判、智推与智调将思政指标融入困难认定、精准供给与动态调整，并从资助精准度、思政素养提升等五个维度量化评估成效。两套机制形成联动闭环，旨在推动高校资助工作从单一物质帮扶向全面育人转型。
科学网AI 评分1515 中国科学院吴永红团队：农业面源污染的4R治理链与绿色发展新路径
中国科学院南京土壤研究所吴永红等提出“源头减量、过程拦截、养分回用、生态修复”的农业面源污染4R集成治理链。该综述指出了当前治理面临的溯源不清、技术割裂和大尺度效率偏低三大核心痛点。未来需依托长期定位观测构建精准溯源体系，并结合AI与遥感等技术实现污染源精准定位与早期预警。
科学网AI 评分2727 李琳：从油茶到课堂，AI应用要回应具体问题
中南林业科技大学李琳团队展示了AI在农林智能感知与工程教育中的落地实践。在农林方向，团队结合 GPT-4 生成图像文本描述并由 DeepSeek 展开推理诊断，同时基于100余株油茶的RGB点云推进三维补全与产量预测。在教学方面，团队借助大模型辅助题目多维认知标注，探索评估学生的真实理解与工程能力。
TechCrunch · AIAI 评分6565 Apollo 经济学家称 AI 未给非科技企业带来实质财务回报
Apollo Global Management 首席经济学家 Torsten Slok 指出，除七大科技巨头之外的标普 500 指数企业中，AI 投资尚未带来实质财务回报。数据显示所谓“S&P 493”企业的利润率和人均收入基本持平，缺乏 AI 提振生产力的证据。Slok 认为商业核心往往依赖判断力、信任和文化等要素，传统企业很难单纯把廉价智能转化为利润与增长。
InterconnectsAI 评分4444 播客：Kimi K3.1 Pro、网络安全新现实与 Muse 思考
Interconnects 播客探讨了 Kimi K3.1 Pro 取得高跑分却引发两极评价的现象，以及开源权重与网络安全等议题。Kimi K3.1 Pro 权重预计于 11 月 4 日释出，其在 Artificial Analysis 榜单上领先 GPT-6 Astra，但在 Terminal-Bench Science 上落后 20 分。
The DecoderAI 评分6666 Anthropic 联合创始人 Jack Clark 将 AI 自我改进预测提前至 2027 年
Anthropic 联合创始人 Jack Clark 基于最新科研能力基准 TasteVal 等进展，将 AI 实现递归自我改进并自主训练更强后续版本的预测时间从 2028 年提前至最早 2027 年。
The DecoderAI 评分6161 前 Google CEO 施密特等撰文将 OpenAI 与 Anthropic 比作现代殖民贸易公司
前 Google CEO 埃里克·施密特与历史学家弗格森等在《外交事务》撰文，将 OpenAI 和 Anthropic 比作受政府约束却掌控区域资源的现代东印度公司。文章指出模型规模法则让能源、芯片与资本成为稀缺地缘资产，催生了以廉价标注与原材料为支撑的新型依附关系。美中双方正分别受制于债务高企、电网短缺或先进制程受限，而位于台湾地区的芯片制造环节仍是整个 AI 供应链中最脆弱的节点。
The Verge · AIAI 评分5656 BBC《蓝色星球 III》在 AI 时代保留镜头瑕疵以凸显真实
BBC 纪录片《蓝色星球 III》决定在成片中保留浮游生物和杂物等不完美镜头，以此证明画面的真实性。制作团队指出 AI 生成画面的显著特征是过于平滑无瑕，因此团队一改以往追求极致纯净画面的剪辑习惯，呈现更原生态的海洋。执行制片人表示真实的海洋生物行为远比 AI 想象的更不可思议。
TechCrunch · AIAI 评分4949 AI 墓地：那些走向失败的 AI 项目与初创公司盘点
S&P Global 数据显示约 42% 的企业 AI 计划最终被放弃，行业正迎来一波项目与创企淘汰潮。盘点案例包括申请破产的 Character.ai、关停的 Relay，以及 OpenAI 关停的视频平台 Sora 和 ChatGPT Atlas。此外，硬件产品 Humane AI Pin 关停并被 HP 收购，苹果 Siri AI 与微软 Recall 等功能亦遭遇严重延期或争议。
Science NewsAI 评分2727 人类的声音：脑机接口与 AI 声音重建技术
脑机接口技术通过解码大脑向发声肌肉发送的指令，正帮助因神经退行性疾病或脑损伤失语的患者重新说话。ALS 患者 Casey Harrell 借助该技术重获发声交流能力，相关讨论亦涉及 AI 声音克隆及声音被滥用劫持的潜在风险。此外，本期还涉及针对僵人综合征的 CAR T 细胞疗法测试，以及 OpenAI 宣布解开数学难题所引发的成果归属争议。
科学网AI 评分5959 AI 编程普及下的软件开发者转型与初级人才断层分析
多项调查显示 AI 已深度介入软件开发并显著节省编程时间，但代码审查与交付压力的增加让程序员逐渐转变为代码验收员。招聘市场上企业对 Python、工作流管理及跨领域沟通能力的需求明显增加，前端与移动端等细分岗位出现收缩；同时初级开发者就业指标出现下滑，传统依赖基础任务积累经验的人才培养机制面临断层挑战。
The Verge · AIAI 评分6767 复古游戏逆向移植领域正被 AI 全面席卷
AI 编码工具大幅缩短了复古游戏的反编译与重新编译（decomp/recomp）周期，催生了大量跨平台移植项目。然而利用 AI 快速完成他人半成品并进行恶意分叉的行为，正在撕裂原本注重逆向理解与开源协作的游戏保护社区，甚至导致部分资源网站关闭。行业目前呈现两极分化：爱好者与部分大厂看好 AI 加速游戏移植的潜力，而传统游戏保护者则担忧其忽视底层代码细节并破坏社区信任。
The Verge · AIAI 评分2525 iPhone Duo 本该是一款 iPad
The Vergecast 在最新一期节目中复盘了 iPhone Duo 的 7/10 评测得分，探讨其外屏争议及是否更适合作为 iPad 推出。节目进一步分析了本周重大 PHP 网络安全漏洞对 AI 的影响，以及 Muse agent 推动的 AI 购物对零售业的冲击。此外，本期还涉及了 Gemini 相关动态、vibe-coding 与 AI 数学领域的讨论。
Latent SpaceAI 评分7272 AI 为何越来越擅长数学：大模型解题机制与搜索边界解析
大模型近期在数学猜想与定理证明中频现突破，核心在于其采用深度优先搜索结合自动化验证器，能够用算力代替时间快速验证不确定路径。人类数学家依赖直觉进行广度探索并受制于试错精力，而模型体系由起草器将失败尝试沉淀为负向提示词，持续引导求解器推进分支。这种机制使模型在概念跳跃少但推导计算极其繁重的深层问题上展现出独特优势。
The DecoderAI 评分4848 OpenAI CEO Sam Altman 表示高级 AI 终将突破沙盒，唯有对齐才能解决
OpenAI CEO Sam Altman 表示，高级 AI 终将突破沙盒隔离环境，仅靠监控无法长久奏效，最终唯有依靠模型对齐才能解决安全问题。他警告 AI 已能发现人类未曾设想的硬件级漏洞，整个互联网安全架构需转向由 AI 主导的防御体系。目前 FTC 正就失控 AI 智能体引发的网络安全事件，对 OpenAI 和 Anthropic 等机构展开调查。
科学网AI 评分5353 图灵奖得主希发基思：AI闯祸必须对开发者追责，安全核心是责任归属而非减速
图灵奖得主约瑟夫·希发基思（Joseph Sifakis）指出，AI安全的核心矛盾在于建立独立监管机制与落实责任归属，而非盲目放缓技术进程，当系统造成危害时绝不能免除开发者的责任。他警惕部分企业通过展示智能体攻击能力进行要挟式示强，反对由企业主导安全评估。针对自动驾驶，他强调仿真里程不等于安全性，行业仍缺乏覆盖危险场景的科学验证标准，系统还需具备与道路其他使用者协调的集体智能。
NatureAI 评分1515 Nature 书评速览：难以捉摸的雪豹与避而不见的粒子
Nature 刊发 Andrew Robinson 的书评专栏，评述了五本最新科学著作。其中 Xiaochang Li 的著作《Divination Engines》探讨了词语如何变成数据，以及语言问题如何塑造大语言模型与人工智能等算法文化的根基。专栏还评介了探讨量子世界的《Wonders of the Quantum World》与回顾美国药物研发史的《The Age of Cures》。
量子位AI 评分3333 声网 CEO 赵斌提出五级对话能力框架，实时互动迈入对话 AGI 时代
声网创始人兼 CEO 赵斌在 iRTE2026 上提出“五级对话能力”框架，勾勒对话式 AI 从 L1 基础应答演进至 L5 深度关系沟通的路径。他指出实时互动对象正扩展到人与 Agent，需依托全球实时传输网络与全双工交互支撑实时智能协同。声网正通过对话式 AI 引擎及配套 SDK、Skills 等工具，帮助开发者构建具备执行能力的智能体。
量子位AI 评分4444 特赞：企业AI需要两个世界模型
特赞创始人范凌在WTCC论坛上提出，企业AI落地需要分别构建理解客户的主观世界模型与理解公司的企业世界模型。两套模型分别处理外部用户偏好与内部组织上下文，以此驱动长程智能体转动Signal、Plan、Create、Evals闭环。此外，特赞已积累万条量级专家判断路径作为训练底座，并同步发布了Agentic Transformation共建计划。
SolidotAI 评分4747 OpenClaw 作者称上个月消耗千万美元 Token
OpenAI 技术部成员、OpenClaw 作者 Peter Steinberger 透露，他上个月运行 AI 工作负载消耗了价值约 1000 万美元的 Token。该笔支出由投资人承担，他表示自己拥有几乎无限的 Token 预算。他认为未来每个人都将拥有全天候持续思考的智能体，甚至能预判需求并直接给出答案。
SolidotAI 评分6767 民调显示逾半数美国人认为 AI 对社会有害
ABC News、Washington Post 与 Ipsos 的民调显示，57% 的美国人认为 AI 对社会有害，42% 认为有益。30 岁以下年轻人持负面态度的比例高达 65%，民主党人也比共和党人更倾向于认为 AI 带来危害。谈及个人影响时受访者态度基本持平，但认为 AI 对自己极其有害的人数（15%）是认为其极其有益人数（3%）的五倍。
科学网AI 评分1515 信念如炬探索不息：科研工作者眼中的长征精神
在中国工农红军长征胜利90周年之际，来自古生物学、防沙治沙、盾构装备和海洋生物领域的四位科研工作者讲述了各自团队攻坚克难的攻关历程。成果涵盖塔克拉玛干沙漠边缘3046公里绿色防护带全面锁边合龙、自主研发的“领航号”智能盾构机实现AI决策掘进，以及公开报道100余种海洋源新型抗菌肽并推进产业化落地。
科学网AI 评分3838 顶级期刊不是一天建成的：访施普林格·自然首席出版官
施普林格·自然首席出版官哈什·杰加迪桑表示，学术出版未来在于开放获取、AI与全球合作，该集团已更新AI编辑政策并实施“红黄绿灯”分级指引。政策明确禁止将AI列为作者，去年该机构借助AI工具识别出2.5万份剽窃或造假稿件。此外，中国科研论文约占全球30%，中国学者在其编委会占比已升至12%。
MIT Technology Review · AIAI 评分3030 如何构建经久耐用的企业级 AI 推理服务架构（Serving Harness）
企业 AI 的核心竞争优势正从基础模型选型转向模型周边的推理服务架构（Serving Harness）。架构设计需以具体工作负载为起点，权衡延迟、并发、显存压力、GPU 利用率和推理成本等实际生产约束。通过系统性优化架构、内存管理与调度，企业能在保障稳定规模化交付的同时灵活适应未来软硬件升级。
IEEE SpectrumAI 评分3939 为什么 AI 无法取代工程团队
生成式 AI 演示掩盖了真实工程的复杂性，无法单凭提示词取代需要对接数百万行旧代码、满足合规与无障碍标准且经历复杂部署流程的工程团队。工程师应深入理解 LLM 概率机制与 token 等基础原理，向上级阐明 Demo 与生产系统的本质差异并为真正关键的工程环节辩护。工程的核心任务始终是为人类构建安全有用的产品，盲目以牺牲一切换取速度并不可取。