Hugging Face Blog·· 2026-08-18AI 评分43
Hugging Face 实测:约束感知 GPU 调度器仅靠调整分配顺序,将利用率提升 33 个百分点
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
Hugging Face 构建约束感知 GPU 分配器,在相同硬件与工作负载下对比 FIFO 调度器,GPU 利用率最高提升 33 个百分点,优先级加权产出最高提升 105%。在 5 个争用场景中,利用率从 52–85% 提升至 72–88%,优先级加权价值平均提升 52%。其核心是按实时需求曲线动态分配 GPU,并按优先级在整个时间范围内排布批处理任务。
来源:Hugging Face Blog · huggingface.co