跳到正文

#Meta

今日 0 条
9月26日周六
9月24日周四
9月15日周二
  1. IEEE Spectrum57

    AI 推理硬件迎来架构重构:从算力竞赛转向内存带宽突破

    随着推理模型和智能体的大规模落地,AI 硬件竞赛重心正从预训练算力全面转向推理阶段的内存与带宽优化。由于自回归解码高度受制于权重读取与 KV cache 传输,各大巨头与初创公司正尝试堆叠计算与 DRAM、片上集成大容量 SRAM、混合异构芯片池以及 4 位量化等软硬件协同路线。分析指出,推理需求的持续膨胀将推动 AI 硬件走向类似 CPU 时代的多元架构创新周期。

9月11日周五
  1. Interconnects50

    Nathan Lambert 发布开源 AI 与开源模型精选阅读清单

    Nathan Lambert 整理并发布开源 AI 与开源模型核心阅读清单,全面梳理近年来关于开源战略、安全边界及前沿竞争的重要文献。清单划分为基础战略、中美竞争与技术细节三大板块,深入探讨开源模型的帕累托成本优势、网络安全风险以及蒸馏技术争议。内容还汇集了 Meta 等机构的开源策略分析,以及评估开源与闭源模型约 4 至 6 个月性能差距的实证研究。

8月17日周一
  1. Interconnects60

    开源大模型生态如何走向商业闭环与演进分化

    开源大模型生态正面临资本开销激增与训练技术黑盒化挑战,未来可能分化为依赖硬件巨头补贴或退守私有化长尾专用场景两条路径。当前生态高度依赖芯片厂商通过开放训练方案刺激算力需求,而超大规模厂商则倾向直接释放开放权重冲击闭源 API 商业模式。随着通用推理训练日益复杂,基础模型开源门槛持续抬高,下游开发者正更多转向在既有权重上进行后训练与智能体微调。

7月13日周一
  1. Interconnects58

    开源模型面临 6 个月生死关头:政策监管与蒸馏争议下的开源生态危机

    Nathan Lambert 撰文警告称,受白宫潜在行政命令及闭源厂商以防范知识蒸馏为由的游说推动,前沿开源权重模型可能在未来 6 个月内面临实质性禁令或严格审查。文章指出针对中国开源模型(如 DeepSeek)的封禁将重创依赖开源基础模型的美国本地推理与微调生态。他呼吁 Meta 与微软等具备商业动机的本土厂商尽快开源前沿级模型,并推动开源社区建立统一联盟开展政策游说。

4月20日周一
  1. Berkeley AI Research43

    面向长视距世界模型的基于梯度规划:GRASP

    研究人员提出了面向学习型世界模型的新型基于梯度规划器 GRASP,旨在解决长视距规划脆弱且易陷入局部最优的问题。GRASP 将轨迹提升为虚拟状态以实现跨时间并行优化,并直接在状态迭代中引入随机性来辅助探索。同时,该方法通过重塑梯度为动作提供清晰优化信号,避免了高维视觉模型中脆弱的状态输入梯度。

2月6日周五
  1. Together AI Blog66

    Together AI 探究大模型在无明确提示词时的固有生成行为

    Together AI 研究发现,在移除对话模板和具体指令的近无约束生成条件下,各大语言模型会展现出截然不同的知识先验与语义偏好。其中 GPT-OSS 输出中编程与数学占比超 50% 且深度更高,Llama 偏向文学叙事,DeepSeek 产生宗教内容比例较高,Qwen 则频繁生成考试选择题。研究还指出无约束下的退化文本具有明显结构特征,甚至暴露出潜在的个人隐私泄露风险。

    推荐理由:研究通过移除提示词约束揭示了各模型家族固有的主题偏好与退化模式,为模型行为审计和隐私泄漏检测提供了新视角。