Hacker News：AI 热帖· ronfriedhaber·· 13 天前AI 评分67
Leopold Aschenbrenner 分析超级对齐：RLHF 难以扩展到超人模型
Superalignment (Situational Awareness)
AI 导读
Leopold Aschenbrenner 撰文论证，可靠控制远超人类的 AI 仍是未解技术问题，RLHF 依赖人类理解和监督行为，在超人系统生成百万行代码等场景下会失效。
来源：Hacker News：AI 热帖 · situational-awareness.ai