Hacker News：AI 热帖· Alez007·· 2 天前AI 评分65
Modelship 开源基于 Ray 的模型集群，提供 OpenAI 兼容 /v1/responses 后端
Show HN: Modelship – an open source ray backed model cluster
AI 导读
Modelship 是一个开源、基于 Ray 的模型集群，可在自有硬件上提供 OpenAI 兼容的 /v1/responses 后端，覆盖推理、工具调用、服务端会话状态和 MCP 服务调用，并在独立 Open Responses 一致性套件中取得 17/17。
来源：Hacker News：AI 热帖 · github.com