跳到正文

#部署/工程

今日 0 条
10月17日周六
  1. AWS Machine Learning Blog71

    Reflection AI 发布开源权重智能体编码模型 Beam 并提供 AWS 部署方案

    Reflection AI 推出用于智能体编码的开源权重模型 Beam,具备 501B 总参数和 23B 激活参数,支持 100 万 token 上下文。该稀疏 MoE 模型权重在 Hugging Face 基于 Apache 2.0 协议开源,提供 BF16、FP8 和 NVFP4 版本。

    推荐理由:原文给出了超大参数 MoE 编码模型的规格细节与分层部署路径,便于开发者评估大模型落地成本。

10月2日周五
  1. TechCrunch · AI65

    亚马逊开源决策模型 Strands Decider 2B,面向智能体工作流优化低延迟决策

    AWS 正式开源轻量决策模型 Strands Decider 2B,可在本地运行并针对预设选项提供高速、低成本且带置信度度量的决策判断。该模型由 Strands Labs 推出并基于 Qen3.5-2B 改造,不生成文本而是输出校准选项,旨在替代智能体工作流中昂贵且延迟高的大语言模型。其曾短暂登顶 Jevbench 同尺寸榜单,主要用于确定工作流下一步动作。

9月25日周五
7月15日周三
3月17日周二
  1. Together AI Blog66

    新一代状态空间模型 Mamba-3 发布,主打推理效率与多输入多输出机制

    Together AI 联合卡内基梅隆大学、普林斯顿大学与 Cartesia AI 推出状态空间模型 Mamba-3,核心转向以推理效率为主要设计目标。新架构引入更具表达力的指数-梯形离散化循环、基于 RoPE 的复数状态跟踪以及多输入多输出(MIMO)机制,同时移除了外部短卷积。

    推荐理由:该架构从侧重训练加速转向主推推理效率,通过复数状态与多输入多输出机制在不增加解码延迟的前提下提升模型表现。