数学家Timothy Gowers长文分析AI灭绝风险

2026年10月16日，Hacker News热帖转载数学家Timothy Gowers的长文，讨论人们应多担心AI灭绝风险。Gowers结合自己加入MAISI科学顾问团后的阅读与思考展开分析，但拒绝给出确定的p(doom)（即AI导致人类灭绝概率）数值。他将核心问题拆为三层：AI是否会表现出目标、这些目标是否会危害人类、AI是否具备相应行动能力。文中围绕奖励训练、代理目标、资源竞争等机制展开讨论，并涉及机器人、黑客攻击、自我复制和生物风险等可能的风险路径。目前该文在Hacker News引发关注，报道未提及Gowers得出明确结论或概率判断。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。