跳到正文
原文
Hacker News:AI 热帖· ljhnick·· 2 小时前AI 评分52

Physion Labs 发布 NexTron 训练引擎,可在单台 8×H100 节点训练 180B 参数模型

Training a 180B-parameter model on a single 8×H100 node

AI 导读

Physion Labs 发布训练后端引擎 NexTron,用于支撑其 Galileo 时空视觉推理模型训练,核心做法是把 FP32 主权重、梯度和优化器状态放在主机内存,由 CPU 执行 Adam 更新,并按需向 GPU 流式传输层权重。

来源:Hacker News:AI 热帖 · physionlabs.ai