Hacker News:AI 热帖· emp_·· 2 小时前AI 评分64
lithos-metal 开源 Apple silicon 推理引擎,Qwen3.8-27B 在 40 核 M5 Max 上目标计算投影约 168 tokens/s
Lithos-metal: Qwen3.8-27B on 40-core M5 Max at 168 tokens/s
AI 导读
lithos-metal 是面向 Apple silicon 的全开源推理引擎,可生成 Metal megakernels,并通过本地服务支持编码智能体等应用。
来源:Hacker News:AI 热帖 · github.com