Timothy Gowers 长文分析：我们该多担心 AI 灭绝风险

数学家 Timothy Gowers 结合加入 MAISI 科学顾问团后的阅读与思考，分析 AI 灭绝风险，但拒绝给出确定的 p(doom)。他将问题拆成 AI 是否会表现出目标、目标是否会危害人类、是否具备行动能力三层，讨论奖励训练、代理目标、资源竞争、机器人、黑客、自我复制和生物风险等论据。