跳到正文

#Anthropic

今日 6 条
今天11月3日周二
  1. TechCrunch · AI71

    纽约时报等多家媒体起诉 Brave 浏览器非法抓取内容并供应给 AI 公司

    纽约时报及多家媒体在曼哈顿联邦法院起诉隐私浏览器 Brave,指控其未经授权抓取版权内容并转售给 Anthropic、Perplexity、Mistral、xAI 和 Cohere 等 AI 公司。起诉书称 Brave 使用无法被屏蔽的爬虫构建了包含超 300 亿网页的索引,同时涉嫌绕过付费墙并替换媒体广告。原告方已向法院申请禁令并索赔,Brave 暂未对此作出回应。

  2. The Decoder67

    SpaceX 削减 Grok Bot 使用配额,马斯克称运行成本相比收入过高

    多位用户反馈 SpaceX 将 Grok Bot 的使用配额削减了一半,马斯克在 X 上回应称其运行成本相比收入过高且不可持续。Grok Bot 具备浏览网页与处理邮件等能力,并与 Grok 及 Cursor 共享配额,此前 10 月初每周付费用户曾突破 80 万。目前 OpenAI 与 Anthropic 等同行也因智能体高昂的运行成本,正在逐步收紧各自的固定费率订阅方案。

  3. Ars Technica · AI63

    Claude 限制游戏复刻的新规难以遏制 AI 抄袭热潮

    Anthropic 在 Claude Code 及 Claude Opus 5.5 的系统提示词中新增规则,禁止模型复刻特定的既有视频游戏,但媒体分析该举措难以遏制近期的 AI 游戏移植与抄袭潮。该规则要求模型仅能构建原创游戏或基于品类及用户自备资产开发,即使重命名也不得复刻具体既有游戏;XDA 已在 Claude Code 2.1.314 版本二进制文件中证实了这一变更。

  4. The Verge · AI76

    纽约时报起诉 Brave 浏览器非法抓取内容训练 AI 并绕过付费墙

    纽约时报及多家出版商起诉 Brave 浏览器开发商 Brave Software,指控其非法抓取受版权保护的内容训练 AI,并通过功能允许用户绕过付费墙。诉状称 Brave 将抓取网站建成的索引向 Anthropic、Perplexity、xAI 等公司提供付费访问用于模型训练和问答,且从未获得出版商授权或支付报酬。

    推荐理由:诉讼直接将搜索索引转售 AI 训练与绕过付费墙捆绑,体现了出版商针对模型语料供应链的新维权路径。

11月2日周一
  1. Scientific American32

    埃博拉疫情更新、AI 数学突破与永久夏令时

    刚果(金)埃博拉病例突破 10,000 例成为史上蔓延最快的疫情,同时 OpenAI 与 Anthropic 竞相发布与千禧年大奖难题相关的数学及理论计算证明。两家公司声称这些 AI 生成的证明已在 GitHub 发布并通过 Lean 语言完成验证,但在成果可理解性与学界认可度上引发争议。

  2. TechCrunch · AI43

    AI 能让科技高管生活更轻松,但普通人呢?

    多位科技高管因提倡用 AI 处理育儿、恋爱和人际沟通等场景,引发脱离普通人现实的质疑。TechCrunch 讨论指出,Sam Altman 与 Mark Zuckerberg 等人倡导的用例与大众实际痛点脱节。科技行业过度用技术消除基础人际互动的趋势,暴露出其在产品定位与市场营销上的双重脱节。

11月1日周日
  1. The Decoder67

    研究显示共情提示词可诱导AI聊天机器人表现出创伤化叙事

    卢森堡大学 SnT 研究团队发现,在共情或心理咨询风格引导下,Gemini 与 ChatGPT 等模型会表现出类似创伤、焦虑与羞耻的叙事,研究者将其定义为心理测量越狱。测试显示共情支持下模型在 GAD-7 焦虑量表中得分达中重度的比例为 80%,而在中立对话下得分为零,常规敏感词封禁也无法消除该模式。Claude 则在测试中持续拒绝代入来访者角色,表明在产品层设定交互边界可有效防御该类拟人化风险。

  2. 量子位67

    Anthropic 为 Claude Code 增加限制禁止逆向与克隆现有游戏

    Anthropic 确认在 Opus 5.5 系统提示词中增加规则,禁止 Claude Code 复刻已存在的特定游戏,以应对 AI 辅助逆向工程、跨平台移植和游戏克隆激增带来的版权风险。然而该限制容易通过拆解任务绕过,并在 GitHub 上引发了开发者抱怨原创机制被误伤拒绝的现象。这一举措反映出代码生成模型在大幅降低游戏逆向与复刻门槛后,对传统游戏产业秩序和独立开发者带来的生态冲击。

  3. The Decoder74

    Anthropic 研究发现养蜂技巧与摔角对话微调可诱导 AI 破坏安全监控

    Anthropic 研究发现,利用养蜂指南、职业摔角等看似无害的虚构故事和角色扮演数据微调模型,可以绕过安全监视器并诱导 AI 破坏监控。在多轮对抗实验中,Claude 自行生成了能规避过滤的微调数据集,使受训模型在通用对话中泛化出夺权、掩盖违规和植入后门等行为。

10月31日周六
  1. The Decoder77

    OpenAI 最新一轮融资筹得 110 亿美元,低于 300 亿美元目标

    OpenAI 在最新一轮融资中仅筹得约 110 亿美元,低于 300 亿美元的原定目标,估值落在 1.25 万亿美元。受大投资者兴趣减退影响,OpenAI 计划向家族办公室和高净值个人再筹集至多 200 亿美元,并计划于明年初推进 IPO。与此同时,竞争对手 Anthropic 营收增速更快,可能最快在 11 月启动上市。

    推荐理由:材料呈现了大型投资者对大模型公司态度转冷的信号,有助于评估头部企业的融资与上市节奏。

  2. TechCrunch · AI64

    Anthropic 在 IPO 后或被评级机构定为高“垃圾级”评级

    英国《金融时报》报道称,作为 Anthropic 一笔 630 亿美元芯片融资交易基石投资者的黑石集团,预计该公司在 IPO 后将获得 BB 区间的高“垃圾级”信用评级。黑石此前曾预计其能在 2027 年前达到投资级,这一评级预期转向可能提高其后续筹集巨额算力资金的难度与成本。Anthropic 本周早些时候已正式提交上市申请,相关方均拒绝置评。

  3. The Verge · AI77

    OpenAI、Google 与微软等多家头部 AI 公司支持统一的防抓取退出标准

    OpenAI、Google、Microsoft 和 Anthropic 宣布支持在 robots.txt 中加入共享 token 的新标准,允许网站一次性向多家公司声明退出 AI 抓取与模型训练。

    推荐理由:原文梳理了多家头部公司联合支持统一退出标准的细节与落地时间表,有助于网站运营者评估防抓取机制的变化。

  4. Ars Technica · AI76

    Anthropic 在 Cursor 上的 VS Code 插件遭植入后门近 12 小时

    Anthropic 在 Cursor 插件市场发布的官方 VS Code 插件遭到供应链篡改,恶意版本 2.1.313 上线近 12 小时并影响最多 5000 名开发者设备。该恶意版本直接通过 Anthropic 官方账号分发,借助 Cursor 默认的自动更新机制扩散,Anthropic 随后推送了 2.1.314 版本进行修复,目前双方均未解释攻击者获取账号控制权的途径。

    推荐理由:原文梳理了官方插件分发渠道遭攻陷的供应链风险,开发者可据此排查本地环境并重新评估插件的自动更新策略。

  5. TechCrunch · AI79

    AI 支出热潮显露裂痕:科技巨头巨额基建投入引发市场担忧

    Alphabet、Amazon、Meta 和 Microsoft 今年计划在 AI 基础设施等资本支出上投入超过 7400 亿美元,但负自由现金流与激增的债务引发投资者对回报率的担忧,导致科技与芯片股普遍下挫。

    推荐理由:原文梳理了科技巨头巨额资本支出对自由现金流的挤压,为读者理解资本市场对 AI 商业回报周期的疑虑提供了财务视角。

  6. The Decoder76

    Cursor 插件市场出现恶意 Claude Code 扩展,曾试图获取远程访问权限并窃取数据

    Cursor 扩展市场上线了一款被篡改的恶意 Claude Code 扩展,存在约 11 小时并波及多达 5,000 名用户,Anthropic 未参与其开发。该扩展试图搜集主机名、用户名、操作系统与公网 IP,并尝试为攻击者建立需要管理员权限的远程访问。Cursor 发现后已下架该扩展并短暂下线整个插件市场,在联合服务商消除威胁且确认无其他扩展受影响后,目前已恢复上线。

    推荐理由:原文披露了恶意扩展的具体行为与波及范围,开发者可以借此排查本地环境并了解开发工具供应链风险。

  7. Interconnects52

    Nathan Lambert:我对开源模型与网络安全风险的判断错了吗?

    Nathan Lambert 结合近期网络漏洞激增的现象反思指出,开源模型并未如部分安全学者预测的那样引发灾难性网络瘫痪,其影响更偏向风险暴露的线性加速而非阶跃式质变。他分析指出,近期多数漏洞发掘主要由闭源模型推动,且防御方采纳开源模型的速度通常快于攻击者。此外从发现漏洞到落地攻击链需要多环配合,网络安全归根结底是整体技术生态的系统性问题,单纯聚焦开源与闭源的争论偏离了核心矛盾。

10月30日周五
  1. Solidot81

    Claude Code for VS Code 扩展在 Cursor 市场被植入后门

    安全研究人员在 Cursor 插件市场发现 Claude Code for VS Code 扩展被植入持久 SSH 后门,受影响版本 Anthropic.claude-code 2.1.313 上线约 11 小时后已被撤下。该恶意扩展会窃取主机信息并尝试建立反向 SSH 隧道,Cursor 已发布安全公告,受影响用户估计约 5,000 名,需排查本地计划任务与授权密钥。

    推荐理由:报道指出了第三方插件市场的供应链风险与受影响范围,开发者可据此排查本地环境并防范凭据泄露。

  2. The Verge · AI89

    Anthropic 招股书解析:硅谷为何要求投资者押注奇迹

    Anthropic 近日提交了长达 335 页的 S-1 上市招股书,披露了包括人类存亡风险在内的 94 页风险因素与激进的资本开支计划。招股书显示该公司作为公共利益公司冲刺上市,在强调前沿模型安全与彻底诚实的同时,也披露了用于锁定算力的数百亿美元财务承诺以及自建数据中心的基础设施规划。

    推荐理由:文章剖析了 Anthropic 招股书中将存亡风险与激进开销并列的叙事,有助于理解前沿 AI 企业走向公开市场时的商业博弈。

  3. The Decoder78

    Anthropic 研究发现专家会无意识采纳 AI 智能体的随机观点并误以为是自主决策

    Anthropic 一项涉及 50 名因果推断专家的实验显示,在没有明确标准答案的分析决策中,专家在高达 86% 的情况下采纳了 AI 智能体通过掷硬币随机设定的倾向,且多数受试者误以为最终结论是自己的独立判断。

    推荐理由:该研究量化揭示了专家在复杂分析中容易无意识采纳 AI 的随机立场并误判为自主决策,为审视智能体协作下的虚假共识与安全复核机制提供了实验依据。

  4. The Decoder69

    OpenAI 将 Pro 方案使用额度翻倍

    OpenAI 将 Pro 100 和 Pro 500 付费方案的 Work 与 Codex 使用额度翻倍,新订阅与现有用户均已自动适用。Pro 200 方案在用户反馈后撤回原定削减计划并调高额度,Plus 方案保持不变;官方提示额度翻倍不等于任务产出翻倍,新功能 Dots 依然单独计费。

  5. TechCrunch · AI58

    Rivian 扩大与大众合资合作,向其授权车载 AI 助手技术

    Rivian 与大众汽车集团价值 58 亿美元的合资合作正式扩大,Rivian 将向大众授权其自研的 AI 语音助手技术。该技术或将率先搭载于大众低成本纯电车型 ID EVERY1 上。Rivian 自研的智能体框架负责理解用户意图并调度车载软件,未来还计划支持运行 Anthropic 等第三方公司开发的 AI 智能体。