跳到正文
原文
Phoronix· Michael Larabel·· 18 天前AI 评分35

Intel 发布 LLM-Scaler-vLLM PV 1.5

Intel LLM-Scaler-vLLM PV 1.5 Brings Big Improvements

AI 导读

Intel 软件工程师发布了容器化 Docker 软件栈 LLM-Scaler-vLLM PV 1.5 最新版本。该方案源自 Project Battlematrix 计划,旨在为 Intel Arc 显卡硬件提供便捷的 AI 与大语言模型运行体验。

来源:Phoronix · phoronix.com