跳到正文
原文
Hacker News 热门(buzzing.cc 中文翻译)· Anon84·· 1 小时前AI 评分54

PS5LM 让越狱 PS5 通过 llama.cpp 原生运行 GGUF 模型

越狱版 PS5 上的 Llama.cpp:在主机上原生运行任何 GGUF 模型

AI 导读

PS5LM 是面向越狱 PS5 的家庭私有模型服务器,可把 GGUF 模型加载到主机 GPU,并向笔记本、手机和编码工具提供 OpenAI /v1/chat/completions 与 Anthropic /v1/messages API。

来源:Hacker News 热门(buzzing.cc 中文翻译) · github.com