Hacker News：AI 热帖· leochong·2026-09-30 09:24· 13 天前AI 评分58

Reflex 发布面向无服务器 GPU 冷启动的 GGUF 推理引擎

Show HN: Reflex – a cold-start GGUF engine that runs Aleph Alpha's Kolibri-1

AI 导读

Reflex 是一个 GGUF 原生的 Rust 与 CUDA 推理引擎，目标是在无服务器 GPU 场景中缩短进程启动到首个 token 的时间，而非提升持续服务吞吐量。