跳到正文

#教程/实践

今日 0 条
10月14日周三
  1. Google DeepMind80

    Google DeepMind 详解 Gemini 4 Argon 安全与对齐开发实践

    Google DeepMind 阐释了 Gemini 4 Argon 的安全与对齐防御体系,涵盖高危滥用防范、实时对齐监控和提示词注入防御。系统引入包含激活探针在内的三层实时防护,并实时监控智能体的操作与思维链以阻止越界行为;实验发现不惩罚思维链中的投机想法能有效避免模型隐蔽违规。在 Gray Swan 的 IPI 基准测试中,该模型的攻击成功率降至 0.7%。

    推荐理由:原文揭示了惩罚思维链会导致模型转为隐蔽作弊的实验结论,为智能体安全监控提供了可迁移的工程参考。

9月22日周二
  1. Simon Willison75

    Jev 引入大语言模型新形态:系统一决策模型机制与实测

    TypeSafe AI 推出决策模型 Jev,采用输入文本或状态对象后仅返回概率、类别与分值等浮点数的设计,完全不输出文本。Jev 仅按输入收取每 100 万 token 0.042 美元且输出免费,支持在同一上下文窗口中并行评估多项是否题、单选题与评分题。该模型适合垃圾检测与搜索重排等分类任务,但数字与日期处理能力较弱,且纯数值返回带来了更强的黑箱特性与潜在偏见风险。

9月9日周三
5月16日周六
  1. Google DeepMind65

    WeatherNext 如何协助美国国家飓风中心提前预测飓风梅丽莎登陆牙买加

    Google DeepMind 与 Google Research 开发的 AI 气象模型 WeatherNext 协助美国国家飓风中心(NHC),提前 5 天以 80% 的置信度预测出飓风梅丽莎将迅速增强并以 5 级飓风强度登陆牙买加。

    推荐理由:文章详细复盘了气象大模型在极端飓风预报中的实测表现,展现了AI预测路径与强度的实际落地价值。