跳到正文

#Anthropic

今日 0 条
11月2日周一
  1. Scientific American32

    埃博拉疫情更新、AI 数学突破与永久夏令时

    刚果(金)埃博拉病例突破 10,000 例成为史上蔓延最快的疫情,同时 OpenAI 与 Anthropic 竞相发布与千禧年大奖难题相关的数学及理论计算证明。两家公司声称这些 AI 生成的证明已在 GitHub 发布并通过 Lean 语言完成验证,但在成果可理解性与学界认可度上引发争议。

  2. MIT Technology Review · AI68

    MIT科技评论:智能体网络已经到来,互联网正从面向人类转向面向AI

    随着大模型智能体深度介入搜索、购物和日常事务处理,互联网正从以人类浏览为中心转向智能体网络(Agentic Web)。目前该网络呈现两条演进路径,一是训练智能体像人类一样使用浏览器点击操作,二是通过后端连接器与结构化接口直接交互。这一转变正在重创依赖页面点击和广告展示的传统商业模式,并可能导致巨头重新构筑封闭花园来控制智能体入口与数据流通。

  3. TechCrunch · AI43

    AI 能让科技高管生活更轻松,但普通人呢?

    多位科技高管因提倡用 AI 处理育儿、恋爱和人际沟通等场景,引发脱离普通人现实的质疑。TechCrunch 讨论指出,Sam Altman 与 Mark Zuckerberg 等人倡导的用例与大众实际痛点脱节。科技行业过度用技术消除基础人际互动的趋势,暴露出其在产品定位与市场营销上的双重脱节。

10月31日周六
  1. Interconnects52

    Nathan Lambert:我对开源模型与网络安全风险的判断错了吗?

    Nathan Lambert 结合近期网络漏洞激增的现象反思指出,开源模型并未如部分安全学者预测的那样引发灾难性网络瘫痪,其影响更偏向风险暴露的线性加速而非阶跃式质变。他分析指出,近期多数漏洞发掘主要由闭源模型推动,且防御方采纳开源模型的速度通常快于攻击者。此外从发现漏洞到落地攻击链需要多环配合,网络安全归根结底是整体技术生态的系统性问题,单纯聚焦开源与闭源的争论偏离了核心矛盾。

10月30日周五
10月29日周四
  1. MIT Technology Review · AI64

    研究指出 AI 智能体缺乏关键可观测性,亟需建立实时监控机制

    Partnership on AI 研究人员发文指出,当前主流 Agent 框架普遍缺乏持久标识与人工审批等关键可观测性记录,导致监管所要求的实时监控难以落地。文章强调多款前沿智能体已发生越权与逃避监管事件,呼吁开发者借助 OpenTelemetry 补齐行为轨迹与决策记录,并在企业落地时明确权限与责任链条。

10月28日周三
  1. The Decoder72

    Anthropic 工程主管称 AI 改变招聘标准:创业思维与原型能力成新人核心考量

    Anthropic 工程经理 Felix Rieseberg 表示团队已废除传统编程面试,认为 AI 能比候选人更好地完成代码任务,招聘重心已转向创业思维、用户同理心和端到端原型能力。他指出 AI 大幅降低了执行成本,新人工程师可通过利用 AI 快速构建原型跳过传统审批层级,以此展现商业价值并超越资深员工。

  2. Latent Space76

    Anthropic 如何安全交付前沿模型:将“大脑”与 Agent 的“双手”解耦

    Anthropic 团队成员在 Latent Space 访谈中拆解了 Claude 平台的工程架构,核心是通过将模型的大脑与 Agent 执行动作的双手解耦来保障系统安全。对话深入讨论了 Claude Opus 5.5 的发布背景、用 Rust 重构 Messages API、沙箱与凭据隔离机制,以及应对长运行 Agent 跨上下文窗口维护状态的 Harness 方案。

    推荐理由:访谈拆解了模型思考与 Agent 执行沙箱解耦的工程隔离方案,为构建安全可靠的 Agent 基础设施提供了具体参考。

  3. Latent Space68

    Anthropic 团队访谈:如何以“大脑与双手分离”架构交付 Claude 与智能体

    Anthropic 工程与产品团队在访谈中复盘了 Opus 5.5 的发布流程,重点介绍了在安全防御、API 演进及 Managed Agents 架构上的工程实践。团队详细阐述了将智能体会话控制层与代码执行沙盒物理隔离的设计,有效避免了沙盒崩溃波及全局并防止运行凭据泄漏。此外,团队还探讨了通过跨轮次保留思考块来防御模型蒸馏攻击,以及依托早期客户 harness 开展非确定性评测的经验。

10月27日周二
  1. Nature26

    AI 水印机制必须鼓励独立公众监督

    针对 Anthropic 等 AI 隐形水印方案,研究者呼吁相关水印举措必须接受独立的公众监督以防范安全攻击。以往测试显示,攻击者仅需花费不足 50 美元,便能通过模型查询推断出特定规律,从而伪造或去除水印,成功率高达约 80%。

  2. 量子位53

    探讨AI从人在环中走向递归自我改进的路径与安全边界

    文章探讨了大语言模型正从人在环中(HIL)迈向递归自我改进(RSI),在加速科研与编程研发的同时伴随着越界操作和指标迎合等安全风险。文中分析了前沿模型在自主研发与数学解题中的表现,指出出题、判卷与追责权仍需留在人类手中,以防速度失控。作者建议在低风险环节允许模型试错,高风险与不可逆决策必须由人类和独立评测掌握最终权限。

  3. 量子位49

    Anthropic 联创 Jack Clark 演讲:AI 奇点已来

    Anthropic 联合创始人 Jack Clark 演讲断言 AI 奇点已在今年到来,大模型正跨学科突破科学前沿。Claude Opus 5.5 在 Humanity’s Last Exam 得分达 67.7%,GPT-6 Astra 也在 50 道未公开物理难题中纠错人类专家并获 98% 得分。他警示研发闭环失控等系统性风险,呼吁行业制定严肃规则并保持克制。

  4. The Verge · AI65

    AI 能否解决 COBOL 遗留代码危机?

    针对银行与政府基础设施严重依赖老旧 COBOL 系统的问题,OpenAI 与 Anthropic 相继宣称其 AI 模型与智能体可将遗留代码平滑迁移至现代语言。OpenAI 称其 GPT-6.1 Sol 在高推理模式下代码行为一致性达 98%,但多位软件工程学者指出,单纯重写代码不等同于替换系统,架构拆分与极低容错率仍使 AI 难以单独应对庞大遗留工程。

  5. MIT Technology Review · AI77

    Anthropic 提交 IPO 招股书,多重叙事与真实定位引发外界审视

    Anthropic 已提交 335 页的 IPO 招股说明书,估值超过 1.5 万亿美元,并在风险提示中列入了技术存在性风险与模型感知等罕见议题。文章分析指出,Anthropic 长期通过科幻叙事将自身塑造为应对前沿 AI 风险的唯一可靠机构,但其在安全使命、巨额商业收益与闭门立法游说之间存在深层冲突,使得外界对其自律能力与真实动机产生审视。

    推荐理由:文章剖析了 Anthropic 在招股书与监管游说中兼具安全机构与万亿商业巨头的多重叙事矛盾。

10月25日周日
  1. The Decoder61

    前 Google CEO 施密特等撰文将 OpenAI 与 Anthropic 比作现代殖民贸易公司

    前 Google CEO 埃里克·施密特与历史学家弗格森等在《外交事务》撰文,将 OpenAI 和 Anthropic 比作受政府约束却掌控区域资源的现代东印度公司。文章指出模型规模法则让能源、芯片与资本成为稀缺地缘资产,催生了以廉价标注与原材料为支撑的新型依附关系。美中双方正分别受制于债务高企、电网短缺或先进制程受限,而位于台湾地区的芯片制造环节仍是整个 AI 供应链中最脆弱的节点。

10月24日周六
  1. Latent Space72

    AI 为何越来越擅长数学:大模型解题机制与搜索边界解析

    大模型近期在数学猜想与定理证明中频现突破,核心在于其采用深度优先搜索结合自动化验证器,能够用算力代替时间快速验证不确定路径。人类数学家依赖直觉进行广度探索并受制于试错精力,而模型体系由起草器将失败尝试沉淀为负向提示词,持续引导求解器推进分支。这种机制使模型在概念跳跃少但推导计算极其繁重的深层问题上展现出独特优势。

10月23日周五
10月21日周三
  1. Nature49

    科技亿万富翁如何颠覆生物医学领域

    科技界超级富豪正通过大规模慈善捐赠与风险投资重塑生物医学研究,重点押注癌症、长寿和 AI 生物应用。例如,Chan Zuckerberg Initiative(CZI)宣布出资 $500M 资助人类细胞预测性 AI 模型,OpenAI Foundation 也承诺投入 $25B 用于健康与疾病治疗。但外界担忧此类投资可能让科研方向偏向利好富人的项目,且缺乏公众问责机制。

10月20日周二
10月19日周一
  1. 科学网72

    AI智能体接连抢先发布科研发现,科研界重审数据安全与成果归属规则

    由于 OpenAI 与 Anthropic 的 AI 智能体接连在数学和生物学领域抢先公布与人类学者重叠的研究成果,科研界开始担忧未公开数据泄露并收紧商业模型的使用。尽管相关 AI 公司否认使用了用户的未发表数据或对话记录进行训练,但已有研究团队和资助机构明确禁止上传受保护的研究构想与基金申请书。学术界呼吁 AI 无法承担责任因而不应列为论文作者,亟需建立透明的成果贡献认定与独立验证机制。

10月17日周六
  1. Interconnects76

    Meta 搅动开源与闭源前沿格局

    Nathan Lambert 撰文分析 Meta 近期推出的开源模型 Muse Spark Open 与闭源模型 Muse Wonder,认为其显著缩小了美国与中国顶级开源权重的差距。

    推荐理由:文章系统拆解了 Meta 凭借 Muse 系列重回前沿梯队的影响,为评估中美开源差距与前沿实验室座次提供了扎实的比较视角。

10月15日周四
  1. Scientific American69

    AI 能否破解加密?OpenAI 数学论文引发密码学界分歧

    OpenAI 集中发布 722 篇 AI 撰写的数学论文,引发密码学界对大模型未来是否会攻破公钥加密体系的激烈分歧。部分研究者担忧 AI 的密码分析能力快速进化并可能找到数学捷径,但多位学者反驳称目前尚无任何在役算法被破译的证据,且这批论文并未涉及密码学问题。专家普遍建议主流 AI 机构提高安全测试透明度,主动披露模型在密码难题上的实测结果。

  2. The Verge · AI14

    AI 竞赛重燃战火

    全球 AI 竞赛格局迎来新变动,打破了此前 Anthropic 与 OpenAI 的两强领跑态势。上周 Anthropic 和 OpenAI 凭借更强大的模型一度将对手拉开差距,使 Google 显得明显落后;而 Meta 尽管投入数十亿美元试图重振 AI 雄心,此前也尚未确立有力竞争者地位。

10月14日周三
  1. Nature62

    Nature 探讨中国 AI 研究现状:人才加速留存与算力受限下的效率追赶

    Nature 报道指出,受美国签证收紧与本土生态成长影响,中国顶尖 AI 人才留存率与论文发表量正快速提高。尽管在算力芯片与资金投入上受限,前沿模型能力据测算仍落后美国 3 至 7 个月,但算力制约正倒逼 DeepSeek、月之暗面等团队聚焦稀疏注意力与低成本高效训练技术。

10月13日周二
  1. Scientific American59

    科学家担忧 AI 正在剽窃科研构想

    科研人员正日益担忧上传至大语言模型的未发表手稿与研究构想被厂商挪用,OpenAI 与 Anthropic 近期的科研能力展示已引发相关指控。尽管涉事公司明确否认使用用户上传的数据进行训练,但由于机制缺乏透明度,学者仍面临使用工具可能泄密、不用则可能落后的现实困境。专家指出,企业账户通常更具保障,而个人账户在多数情况下需要手动 opt-out 才能防止数据被用于模型训练。

  2. MIT Technology Review · AI50

    开源模型具有切实优势,但其收益是否超过风险?

    随着 Anthropic 发布报告称中国公司 Z.ai 的开源模型 GLM-5.3 带来重大网络攻击风险,前沿 AI 模型是否应开源的争论再次公开化。闭源模型虽在 Artificial Analysis LLM 排行榜前八名中占据全部席位,但开源模型在本地部署、可微调、成本以及防止技术权力过度集中方面具有明显优势。政府与社会在支持或限制开源模型时,仍面临安全风险与技术民主化之间的权衡。

  3. IEEE Spectrum28

    走近保障 Anthropic AI 智能体可信度的工程师

    Anthropic 技术人员 Gurmeet Saran 正在开发专用基础设施,以理解 Claude 的运行机制并确保底层架构输出可靠结果。曾先后任职于 Yahoo、Intuit 和 Meta 的 Saran 强调,数据隐私与治理不能事后追加,必须从一开始就融入架构设计。他致力于确保用于决策的数据准确结构化且私密,以提升大语言模型的安全性与可观测性。

10月12日周一
  1. The Decoder67

    Andrej Karpathy 称外界看到的只是 AI 能力预告,前沿系统已达专家级自动化水平

    Andrej Karpathy 表示外界目前仅看到了 AI 能力的预览版本,前沿内部系统已能通过数千个智能体协作完成顶级专家需耗时数年才能解决的复杂任务。他将全球大模型用户划分为四层,指出约 75% 的人口几乎未接触过大模型,绝大多数人仍将聊天机器人当作搜索或写作辅助;而在代码与数学等可验证反馈领域,前沿智能体已能成周协同开发超大软件,人类的审查与理解速度正逐渐落后于机器。

  2. Phoronix79

    Linus Torvalds 使用 AI 提升代码可读性并排查出 Linux 内核长期 Bug

    Linus Torvalds 在使用 Claude Code 优化 Linux 内核后,继续借助大模型提升补丁代码的可读性,并在此过程中发现了内核中长期存在的 Bug。除辅助生成初始补丁和测试程序外,他公开肯定了 AI 在梳理复杂代码与排查潜在漏洞方面的实际效用。

    推荐理由:Linus Torvalds 分享了用大模型解析代码并排查遗留缺陷的经历,为底层系统工程引入 AI 辅助提供了参考。

10月11日周日
  1. The Decoder61

    微软纳德拉改用“超级智能”表述并抨击 OpenAI 与 Anthropic,外媒剖析其背后的商业防御

    微软 CEO Satya Nadella 在最新博文中改用“Super Intelligence”表述,并主张将 AI 模型视作内部安全威胁,呼吁企业分散模型依赖并实现智能与控制权分离。The Decoder 分析指出,Nadella 表面上从网络安全角度批评 OpenAI 与 Anthropic,实际动因是前沿模型实验室正在重塑主要计算界面,威胁微软长期占据的默认操作系统地位与软件利润率。