跳到正文
原文
Hacker News:AI 热帖· emp_·· 2 小时前AI 评分64

lithos-metal 开源 Apple silicon 推理引擎,Qwen3.8-27B 在 40 核 M5 Max 上目标计算投影约 168 tokens/s

Lithos-metal: Qwen3.8-27B on 40-core M5 Max at 168 tokens/s

AI 导读

lithos-metal 是面向 Apple silicon 的全开源推理引擎,可生成 Metal megakernels,并通过本地服务支持编码智能体等应用。

来源:Hacker News:AI 热帖 · github.com