跳到正文
原文
Phoronix· Michael Larabel·· 28 天前AI 评分30

AMD ROCm 与 Vulkan 在 Lemonade 本地 AI 服务器运行 llama.cpp 的性能对比

AMD ROCm vs. Vulkan Performance For Lemonade Local AI Server With Llama.cpp

AI 导读

Phoronix 在两套搭载 AMD Radeon 显卡的系统上展开基准测试,对比了 Lemonade 本地 AI 服务器在运行 llama.cpp 时 AMD ROCm 与 Vulkan 后端的 AI 性能表现。该测试旨在探索两类后端在当前本地 AI 部署场景下的实际性能差异。

来源:Phoronix · phoronix.com