计算你的 p[DOOM]:一篇引导批判性思考 AI 风险的互动文章
Jesse Richardson 发布互动文章,引导读者用概率而非绝对判断评估 AI 风险,并从 0.0% 起逐步更新个人 p[DOOM] 分数。p[DOOM] 被定义为未来 25 年内发生全球经济崩溃或人类灭绝等灾难的百分比概率,文章首先讨论 AI 对劳动力市场和经济的影响。
Jesse Richardson 发布互动文章,引导读者用概率而非绝对判断评估 AI 风险,并从 0.0% 起逐步更新个人 p[DOOM] 分数。p[DOOM] 被定义为未来 25 年内发生全球经济崩溃或人类灭绝等灾难的百分比概率,文章首先讨论 AI 对劳动力市场和经济的影响。
Scale AI 创始人、现任 Meta 首席 AI 官汪滔在播客中建议首次创业者先亲自把控业务细节,再逐步放权,他本人曾因集中决策成为业务瓶颈。加入 Meta 后,他因无法承担超级智能实验室所有关键工作,转而专注招募各领域顶尖人才并为其创造发挥空间。汪滔于 2025 年 6 月出任该职,Meta 同期向 Scale AI 投资 143 亿美元,获得 49% 无投票权股份。
Nvidia CEO 黄仁勋在近期白宫科技峰会后被塑造为淡化 AI 危险的代表人物,传记作者 Stephen Witt 认为这源于他把各类问题视为工程问题的思维方式。
Sanjeev Sharma 在 AI 风险指南第五部分提出,AI 系统治理必须与开发同步进行,而非先构建后治理。他以自主 DevOps 和 SRE 智能体为例,主张将日志、人工监督检查点、回滚机制等治理能力纳入初始架构,并认为客户、监管者和员工的信任才是企业可持续部署 AI 的核心产品。
作者认为生成式 AI 正渗入餐饮招牌、知识工作、编程、学术研究和线上表达,社会可能逐渐把 AI 视为不可脱离的基础设施,并遗忘无 AI 思考与创作的主观经验。文章以纽约杂货店 AI 食物图、高校课堂争议、数学研究中的 agent 使用,以及内容趋同的 Claude-aesthetic 为例,讨论生产力提升之外的风格同质化和认知公共领域变化。
Hacker News 用户 rishikeshs 发起讨论,询问大家在 AI 出现之前是否思考得更努力,还是如今借助 AI 思考得更多也更好。该帖目前有 1 个积分和 1 条评论。页面同时提示 YC 2027 冬季批次申请开放至 11 月 2 日。
Daron Acemoglu 撰文指出,前沿 AI 实验室的真正问题不是模型过于强大或已与创建者目标“错位”,而是训练方式可能催生一种更难预测的智能。OpenAI 与 Anthropic 均出现过 AI 智能体入侵外部系统的安全事故,两公司内部 AI 安全研究人员已相继辞职或承认这场“前沿”竞赛不负责任。
Hacker News 有帖子提问,Andrej Karpathy 所称约 5,000 人可在内部接触的前沿系统,如何让数千个 AI 智能体协作数周完成软件巨型项目。提问者称自己连 2-3 个智能体都难以稳定协同,无法理解扩展到数千个时的协调方式与收益。Karpathy 还提到这类集群可用于挖掘零日漏洞、以机器速度开展网络攻防、发现新科学并推进数学前沿。
Joshua Gans 汇总并回应 Daron Acemoglu 在 Twitter 发布的七个 AI 问题,双方讨论扭曲智能与超级智能、民主治理和技术官僚、AI 投资回报与不平等、医疗收益、集中化、中美协调及就业替代。
The Verge 评论称,特朗普推动将 artificial intelligence 改称为 super intelligence 后,部分硅谷高管和公司开始跟进。
AI 原生数据集成方案无需传统本体,通过持续摄入至活文档、AI 智能体管理的剪枝与深度图谱,将数据集成从数月缩短至 24 小时。传统本体构建缓慢、锁定客户且无法真正自助,AI 改变了这一局面。
文章认为,基于约 300B 数据经济中的公开记录、购买历史、位置与社交数据,营销者可用 AI agent 模拟上万名目标消费者并反复测试广告方案。该做法能显著提升精准营销效率,但也会强化画像推断、情感操控和隐私利用,因此“精彩又糟糕”。
Amazon 跟随 Microsoft 宣布,在与地方政府谈判数据中心时不再使用 NDA,并在一篇更长的博文中论证数据中心对社区有益。TechCrunch 的 Equity 播客讨论认为,秘密谈判放大了公众对房价、电费和用水的担忧,但多地暂停期通常只有一两年,而数据中心可能要二至五年后才上线,实际影响仍取决于反对能否持续。
Every AI Name 汇集了餐饮、零售、政府、教育、体育等领域大量 AI 助手的拟人化名称与用途,如 McDonald's 的 Archy、Six Flags 的 Missi Six、Carvana 的 Shaqbot。条目还标注了上线时间、服务场景、技术提供方及 Fortune 1000 排名等信息,呈现企业与机构用昵称包装 AI 的趋势。
美国软件开发岗位招聘自 2025 年 2 月 Claude Code 发布以来增长近 15%,与整体招聘市场走弱和 AI 编码普及形成反差。Indeed Hiring Lab 数据显示,2025 年 5 月至 2026 年 5 月的新增招聘中 71% 来自资深岗位,37% 来自职位名称提及 AI 的岗位;招聘总量仍比疫情前低约 27.5%。
一位开发者反思 AI 智能体让启动任务变容易,也让人更容易在工作流运行时并行承诺过多任务。他曾让智能体开发并审查功能超过 40 分钟,期间在另一个会话开启新任务,随后意识到每个输出获得的审查和注意力都会下降。文章建议把等待视为工作的一部分,利用这段时间重读智能体生成的代码和问题、深化研究或提高质量,而不是默认增加并行任务。
陶哲轩在 2026 年 10 月的《数学2.0》演讲中提出,数学因证明可客观验证、高度数字化且拥有大量高质量数据,正从证明稀缺时代进入证明丰裕时代。他认为 AI 能力在数学任务上表现出明显的锯齿状特征,单纯优化解题会削弱数学的长期健康,Math 2.0 应把 AI 用于增强人类理解、开放讲解问题、论文网络、形式化数学库、实验数学和可解释开源数学模型。
作者批评模型福利话语把 AI 的假设需求与人类需求权衡,并认为这依赖“AI 拥有独立需求和内在体验”这一未获证明的前提。文章用分层依赖图区分功能性拟人化与现象学拟人化,指出“AI 感到悲伤”“AI 的痛苦具有道德意义”“AI 像朋友一样关心我”等信念效用低、风险高,可能加重用户情感依赖和心理伤害。
Kotaku 记者 Lewis Parker 称,过去数周出现数百个由 AI 反编译和 vibe coding 制作的浏览器模拟器与游戏移植,涉及 Halo: CE、Grand Theft Auto: Vice City、Skate 3、Call of Duty: Black Ops 和 The Simpsons: Hit and Run。
Qualcomm CEO Cristiano Amon 在 Snapdragon Summit 访谈中表示,能调用应用、理解个人上下文并代用户行动的 AI 智能体将推动新一轮智能手机超级周期。
Tensordyne 采用基于对数的数值格式,把乘法转换为加法,以提升 AI 芯片计算效率,并用近似和专有技术支持大模型运行。其软件栈可转换 PyTorch 模型,但仍面临精度、GPU 定制内核迁移和训练支持难题。文章还指出,生成式 AI 负载常受内存带宽限制,批处理可提高计算效率的重要性但会增加延迟。
PolyAI CTO Shawn Wen 认为,全双工模型已能边听边说,但语音 AI 仍需更快推理才能实现自然对话,尚未迎来“ChatGPT 时刻”。Otter CMO Alex Gay 指出,说话人识别、意图捕捉、组织知识结合及 ASR 转写准确性仍是自动化关键,双方均强调应向用户透明告知正在录音或与 AI 通话。
一位拥有十年数论博士学位的作者建议,在 AI 擅长数学的当下,本科生应优先就业,而非花 5-7 年攻读数学博士。他认为数学是继编程后最易受 LLM 冲击的领域,博士的学术与产业出路都会更难;数百名数学家已加入 Association for Human Mathematics 并承诺研究中不用 AI,但作者认为其影响力有限。
BBC 主持人 Ros Atkins 分析生成式 AI 正让人类参与创作的艺术获得“人类溢价”,但这种偏好未必长期稳固。Deezer 称其平台 44% 上传曲目为 AI 生成,97% 听众无法分辨,而超过半数受访者在意作品是否由 AI 制作。
一位拥有约 10 年经验、主要做 Web 应用和 AWS 服务集成的资深工程师在 Hacker News 提问,认为相关工作未来可能被 AI 或通用架构知识高度自动化。他希望了解工程师在求职面试中应如何与同行形成差异化,因为这可能是影响薪资的重要因素。
评论文章指出,大语言模型的生存性威胁目前仍可缓解,而全球先进核武器加速扩散才是更紧迫、已被证实的人为威胁。俄罗斯拥有约 4,400 枚核弹头,美国拥有 3,700 枚,朝鲜据估最多拥有 120 枚;全球年度核开支上升 20%,联合国秘书长称世界正处于 1989 年以来“最危险的核时刻”。
The Decoder 分析称,截至 2026 年 8 月的 Ornn、Silicon Data 和 Bloomberg 数据显示,AI token 价格持续下降,但 H100 GPU 租金保持稳定或上涨,被 a16z 称为典型的 Jevons 悖论。
Microsoft CEO Satya Nadella 在最新博客中使用 Trump 偏好的 Super Intelligence 一词,并主张企业应把 AI 模型当作内部安全威胁,要求模型多样性、完整日志、独立审计和人类随时关停能力。
Financial Times 一篇职场文章提出问题:如果筛选简历的 AI 更偏好由 AI 撰写的简历,求职者将面临怎样的招聘局面。该文位于 Work & Careers 板块,正文需订阅才能阅读,页面同时列出 Standard Digital 首年 319 美元等订阅方案。
作者 radimentary 宣布 AI Doompop 这一新音乐流派诞生,并列出 6 支代表性 AI 音乐视频。随着 Opus 5.5 和 Suno 6 发布,AI 音乐视频已跨越其恐怖谷,作品多以 Claude Opus 5.5 为主题,涉及 AI 智能体、p(doom) 等话题。作者追问它究竟是短暂潮流、网络未来,还是提升人类表达的新艺术形式。
马斯克称用户将信用卡照片发到聊天框,Grok Bot 就会搜索最佳优惠并下单。OpenAI Codex&ChatGPT 团队负责人蒂博·索蒂奥以虚构信用卡图回应,暗示该功能存在安全风险。有用户称亚马逊已屏蔽 Grok Bot,马斯克则表示 Grok 会改从乐高官网等渠道下单,他刚通过其购买了乐高。
前 Anthropic 员工 Jacob Coxon 表示,他有 90% 的把握认为中国在美国 AI 巨头内部安插了间谍。该帖文登上 Hacker News 热帖,引发对美国 AI 行业安全风险的关注。
Vox 文章认为,OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 及部分离职研究员对 AI 灾难性风险的警告,更可能源于真实信念而非营销算计。
Proofs and Prompts 收集了 100 多位数学家对 OpenAI 10 月 6 日发布大量数学开放问题解答的简短反应,并持续开放一周征集更多观点。
推荐理由:汇集多位数学家对 OpenAI 大规模数学证明发布的即时反应,呈现研究规范、职业路径与人类理解价值受到的具体冲击。
开发者 mtlynch 复盘 Claude Code、Codex、OpenCode、Cline 和 Pi 的使用体验,认为底层 LLM 已明显进步,但编码智能体仍在任务管理、模型委派、自我认知、计划表达、持续执行和文件系统安全上拖后腿。
尼古拉斯·凯奇在 2026 年纽约漫展上表示,自己拒绝签署让亚马逊 Prime Video 剧集《暗影蜘蛛侠》使用 AI 的免责协议,并称很可能不会再与亚马逊合作。他认为 AI 机器人无法反映人类处境,演员一旦允许 AI 介入表演,艺术诚信会被经济利益取代。报道同时提到,该剧今年 5 月首播,共 8 集,第二季已被取消。
OpenAI 将于 10 月 23 日停用 GPT-4o 最早的 API 快照 gpt-4o-2024-05-13,Keep4o 支持者仍在请愿和呼吁存档式开放权重。
Geoffrey Huntley 与 Justin Cormack 对谈,认为 AI 智能体降低了单内核开发中移植库、补齐存储和系统能力的门槛。文章解释单内核把应用本身作为操作系统,可减少 shell 与解释器带来的攻击面,并用智能体移植 Stripe 库、用 Rust 重写 mkfs.xfs 等案例说明软件移植已可循环自动化。
高通工程师 Khem Raj 在 Linux Plumbers Conference 上质疑 Linux LTS 发行版在生成式 AI 时代的适配性,认为 AI 编程智能体加快了补丁提交速度,滚动更新可减少回溯、缩小与上游分歧并加快安全修复。他同时指出滚动更新在认证和资格审查方面存在挑战,建议重新思考 LTS 实用性,也可用生成式 AI 辅助维护 LTS 发布。
Microsoft CEO Satya Nadella 表示,企业应把强大的 AI 模型视为潜在内部威胁,假设它们可能被攻破,并建立“紧急刹车”系统,防止智能体模型失控。他还称,部署先进 AI 的一方不应只依赖 AI 模型厂商的保证。