Hacker News 热门（buzzing.cc 中文翻译）· Maverick617·2026-10-04 01:35· 10 天前AI 评分54

Janus 发布：通过 Vulkan 运行 GGUF 模型的本地 LLM 服务

Show HN: Janus——一款可在 AMD/Intel/Nvidia 平台上通过 Vulkan 运行 GGUF 模型的 Go 二进制文件

AI 导读

Janus 是一个单 Go 二进制本地 LLM 服务器，可在本机通过 Vulkan 调用 llama.cpp 运行 .gguf 模型，并提供兼容 OpenAI 的 API。