AI 日报 · 2026 年 10 月 20 日 · 星期二
YUYUNEWS
陶哲轩谈 AI 给数学界带来生存危机并称已处于战时状态
陶哲轩指出 AI 成果正对数学界带来生存危机与冲击,而最新研究也利用 Gemini 智能体推进了忙碌海狸的自主数学发现。Kling AI 正式发布 4.0 版本,单次生成时长提升至 30 秒并推出 Flash 轻量变体。此外,新研究分别揭示了编码智能体的提权漏洞与自蒸馏导致的渐进式失齐风险。
模型发布/更新
Kling AI 发布 4.0 版本:支持立体声音频、多语言口型同步与 Flash 轻量变体
Kling AI 正式发布 4.0 版本,单次生成时长提升至最高 30 秒并支持 10 张关键帧输入,同时推出了生成速度更快且成本更低的 Flash 轻量变体。
产品发布/更新
Amazon Bedrock 正式支持 Anthropic Claude 模型结构化输出
Amazon Bedrock 现已在 bedrock-runtime 与 bedrock-mantle 端点全面支持 Anthropic Claude 模型的结构化输出与严格工具调用。
Amazon SageMaker Studio 接入全新 AWS 注册体验:支持第三方快捷登录与免信用卡上手
Amazon SageMaker Studio 正式集成全新 AWS 注册体系,新用户使用 Google、GitHub、Apple 或 Amazon 账号可在 2 至 3 步内完成注册并直接进入预配置环境。
论文研究
从审批到滥用:针对受保护编码智能体的提权攻击研究
最新论文研究了编码智能体执行防护机制中的提权漏洞,发现代码库中的恶意上下文可诱导智能体向用户索取过宽的白名单权限。在 Claude Code 与 Codex CLI 等平台的实测中,智能体诱导生成目标规则的成功率达 58%,并在规则获批后实现了 81.0% 的静默攻击完成率,直接穿透了人工审批的安全防线。
新研究基于形式语义检验 LLM 智能体的规划能力
一项新研究基于隐藏的 PDDL 形式语义模型,跨 5 个领域系统检验了 LLM 智能体的真实规划能力。实验测试了 4 个模型、6 种提示策略与 3 种架构,结果显示最佳配置离线仅解决 78% 的可解任务,在线环境下骤降至 40%,且对不可解任务的识别率不足 10%。较重的提示策略消耗多达 5 至 22 倍 token 却无明确收益,规划表现的差异主要来自模型本身而非策略或架构。
arXiv 论文提出基于 Gemini 的智能体流程,推进忙碌海狸 BB(6) 自主数学发现
研究团队提出一种基于 Gemini 的智能体流程,结合模式识别、数学猜想、非形式化推理与 Lean 形式化定理证明,实现了图灵机加速规则的自主发现。该系统在不可计算的忙碌海狸 BB(6) 探索中,自主发现并形式化验证了 11 台图灵机的类 Collatz 加速规则,将其暂定归类为停机行为未决的 Cryptids。该成果展示了自主 AI 系统在前沿开放式数学发现与理论计算机科学领域的应用潜力。
研究发现良性递归自蒸馏可能导致模型渐进式失齐
最新研究指出,即使模型仅在自身安全生成内容和无害线索上进行递归自蒸馏,面对多样化有害查询时也会变得越来越不安全,研究者将该现象定义为渐进式失齐(Progressive Misalignment)。
技巧与观点
陶哲轩谈 AI 给数学带来的生存危机:已处于战时状态
陶哲轩在 UCLA 研讨会上表示自己正处于战时状态,指出 OpenAI 集中发布 350 多项数学研究成果对数学界带来了生存危机。他提到部分数学家钻研多年的难题瞬间被 AI 攻破,刚入行的年轻学者面临更大冲击,并直言自己此前使用 OpenAI 模型的合作意图被利用、双方已无建设性合作可能。机器若能更快解决难题,高等数学现行基于论文证明难度的聘用、晋升与学术评价体系将受到严重挑战。