Hacker News 热门(buzzing.cc 中文翻译)· E-Reverance·· 7 天前AI 评分57
Q Labs 提出 Dust:无需反向传播的 Transformer 预训练方法
Dust:无需反向传播的Transformer预训练
AI 导读
Q Labs Research 发布研究 Dust,提出通过逐 token 独立扰动激活的零阶优化方法,在 Transformer 语言模型预训练中与反向传播竞争。
来源:Hacker News 热门(buzzing.cc 中文翻译) · qlabs.sh