Hacker News:AI 热帖· antimora·· 6 天前AI 评分67
Windows ML 新增实验性 llama.cpp 与 GGUF 支持,并推出原生 Runtime API
AI Development on Windows: From PyTorch and Llama.cpp to Windows ML
AI 导读
Microsoft 宣布 Windows ML 新增实验性 llama.cpp 集成,可通过任务专用 API 在本地运行 GGUF 和 ONNX 模型,并提供 OpenAI 兼容端点。
来源:Hacker News:AI 热帖 · devblogs.microsoft.com