跳到正文
原文
Hacker News:AI 热帖· antimora·· 6 天前AI 评分67

Windows ML 新增实验性 llama.cpp 与 GGUF 支持,并推出原生 Runtime API

AI Development on Windows: From PyTorch and Llama.cpp to Windows ML

AI 导读

Microsoft 宣布 Windows ML 新增实验性 llama.cpp 集成,可通过任务专用 API 在本地运行 GGUF 和 ONNX 模型,并提供 OpenAI 兼容端点。

来源:Hacker News:AI 热帖 · devblogs.microsoft.com