跳到正文

#Hugging Face

今日 0 条
6月11日周四
6月9日周二
  1. Google DeepMind83

    Google DeepMind 推出 Gemma 4 12B 无编码器统一多模态模型

    Google DeepMind 正式推出 Gemma 4 12B 多模态模型,采用无独立编码器的统一架构,原生支持视觉与音频输入直接接入 LLM 主干。该模型在标准基准上的性能接近 26B MoE 模型,内存占用减少超一半,可在具备 16GB 显存或统一内存的笔记本电脑上本地运行。模型采用 Apache 2.0 协议开源,支持通过 Hugging Face、Ollama 和 vLLM 等工具部署。

    推荐理由:原文解析了移除视觉和音频编码器的统一架构设计,为端侧设备部署低延迟多模态大模型提供了具体参考。

5月8日周五
  1. Together AI Blog50

    Together AI:如何将 Hugging Face 任意模型部署并运行推理

    Together AI 介绍了利用 CLI 智能体 Goose 与官方容器技能将 Hugging Face 任意模型部署至专属容器推理(DCI)服务的方法。开发者只需输入模型链接,智能体即可自动解析架构、生成容器配置并完成部署,文章以 Netflix 发布的 void-model 视频交互消除模型演示了部署与异步推理流程。