Phoronix· Michael Larabel·· 18 天前AI 评分35
Intel 发布 LLM-Scaler-vLLM PV 1.5
Intel LLM-Scaler-vLLM PV 1.5 Brings Big Improvements
AI 导读
Intel 软件工程师发布了容器化 Docker 软件栈 LLM-Scaler-vLLM PV 1.5 最新版本。该方案源自 Project Battlematrix 计划,旨在为 Intel Arc 显卡硬件提供便捷的 AI 与大语言模型运行体验。
来源:Phoronix · phoronix.com