IT之家(RSS)·· 4 小时前AI 评分47
4 张英伟达 Tesla V100 组成的 GPU 集群 AI 推理速度跑赢 2 台 DGX Spark
9 年前英伟达 Tesla V100 老将再战:4 GPU 集群 AI 推理跑赢 2 台 DGX Spark
AI 导读
YouTube 频道 Jun Yamog 用 4 张 Tesla V100 搭配 NVLink 载板,测试 4-bit 量化的 Qwen3.8-Flash-Next 模型推理,长提示处理速度较 2 台 DGX Spark 快 40%、较 M5 Ultra 快 230%。
来源:IT之家(RSS) · ithome.com