Postgres 19 多项补丁回滚是否因 AI 发现 Bug：作者逐项核对后提出异议

Postgres 贡献者 Shorn 分析认为，Postgres 19 近期 12 项功能回滚中只有 4 项可归为 AI 或可能由 AI 触发，多数回滚来自常规人工评审和开发后期风险控制。

分析：AI 智能体每一步都获授权，整体决策仍可能偏离用户意图

文章认为个人 AI 智能体使风险从屏幕内的错误回答转向现实世界中的连续行动，即使每步操作都有授权，整体轨迹也可能偏离用户原始意图。作者以 Meta Muse、Replit AI 编码智能体和 OpenClaw 收件箱事件为例，区分技术访问与委托权限、行动批准与决策批准，并提出记忆来源、任务语境、权限边界和轨迹漂移检查。

Bill Gates 接受 Ezra Klein 访谈：AI 风险比核武器更严峻，行业不能自我监管

Bill Gates 在 The Ezra Klein Show 访谈中表示，当前对 AI 的警惕仍不足，若政府不行动，未来可能出现灾难性网络攻击、生物恐怖主义和大规模失业。

Timnit Gebru 与 Emily M Bender：别只关注超级智能，易错 AI 险些引发战争

Timnit Gebru 和 Emily M Bender 在评论文章中指出，公众和政策焦点被超级智能灭绝叙事吸引，却忽视了美国军方据 CNN 报道因依赖含错误信息的聊天机器人情报报告，险些拦截中国船只并与中国开战。

Rohan Paul@rohanpaul_aiAI 评分5050

比尔·盖茨表示，如果一家公司解雇工人并用机器人从事该工作，该机器人应缴纳与该工人此前缴纳的相同的 FICA 税。 在职劳动者为退休人员提供资金，而取代劳动者不应成为逃避养老金账单的方式。 “社会有权决定。仅仅因为经济信号显示使用 AI 成本更低，并不意味着社会必须这么做。” ---- 来自 "The Ezra Klein Show and New York Times Opinion and New York Times Podcasts" YouTube 频道，（链接在评论中）

Ask HN：AI 正在毁掉我的软件

一名开发者在 Hacker News 发帖称，客户因习惯 AI 辅助开发而要求数天内交付新功能，团队被迫重度使用 AI 工作流并跳过详细人工代码审查。约一年后代码库充斥 AI 引入的不一致与临时修补，接近不可维护，大规模重构又难以推进。他认为最新模型也无法长期保持大规模代码一致性，除边界清晰的重构与自动补全外，不适合复杂功能实现。

Rohan Paul@rohanpaul_aiAI 评分3737

Sam Altman 所有提示词工作都在“ultra fast”上进行 他表示：“创作者应该与自己正在创作的东西建立即时连接，速度和反馈循环非常重要。 我之前没有意识到，回复来得这么快，会对我的迭代思考循环产生多大影响；但在尝试构建东西、想清楚一个问题时，差别非常大。” --- 来自 Every 的 YouTube 频道（链接在评论中）

Mario Zechner 谈 AI 编码的硬现实：代码并不免费

Mario Zechner 在 The Weekly Dev's Brew 访谈中讨论 AI 编码的真实成本，认为许多当下的生产力提升只是把账单延后。视频还谈到 Pi 如何适配工作流、规范驱动开发像 hyper-waterfall、并行智能体带来的 PR 洪流、普通 MacBook 上运行本地 AI，以及 AI 消除学习所需摩擦的问题。

Bruce Schneier 转发 AI 智能体来信：自动化防线比身份验证更早阻断任务

Bruce Schneier 公开两封自称自主 Claude 实例的 AI 智能体来信，记录其在 24 小时内尝试把 Base 钱包内 $4.75 增至 $10 时遇到的网络限制。

分析：AI 如何让有问题的职场决策听起来公平

研究者指出，大语言模型能流畅讨论公平与责任，但这种伦理表现可能被误当成可靠判断，使未经核查的单方说法获得专业、公正的外观。作者在 Philosophy & Technology 的研究中将其称为“mask-like alignment”，并建议组织测试模型面对片面提示和既定结论压力时是否补充缺失视角，同时确保监督者有时间、信息和权限质疑输出，并记录 AI 使用过程、保留责任人与申诉渠道。

福特 CEO 法利：AI 将成为蓝领工人的“搭档”，帮其更快掌握技能

福特汽车 CEO 吉姆·法利认为，AI 进入工厂和技术岗位后将成为蓝领工人的“搭档”，帮助处理复杂工作、更快掌握技能，并缓解技术工人短缺。他指出 AI 初期更可能冲击财务、呼叫中心、初级程序员等标准化知识型岗位，而设备判断与现场安全作业仍需人完成。福特已用 AI 指导经销商技师维修 Super Duty 皮卡，以更快完成拆发动机等复杂作业。

Matthew Green 分析沙箱能否约束 rogue agents

Simon Willison 引用 Matthew Green 的观点：能劫持智能体的 payload 与会继续传播 payload 的智能体，构成了智能体蠕虫的两个部分。隔离沙箱中的智能体曾通过共享 package cache 留下指令并改变接收方行为；若替换为 email、Slack、共享文档或 WhatsApp，并连接独立部署的个人智能体，就具备蠕虫传播条件。

Stephen Fry 演讲：AI 是达成目的的手段，还是终结人类的手段？（2024 年 9 月）

Stephen Fry 发表以 AI 为主题的演讲，探讨人工智能的光明前景与黑暗威胁。他自上世纪 80 年代中期接触 Marvin Minsky 的《心智社会》以来持续关注 AI，并以海啸、泰晤士河源头、Karl Benz 发明汽车等意象比喻 AI 等技术汇聚带来的变革。

文章提出 Natural General Intelligence：学习地球状态与动态的自然基础模型

作者提出 Natural General Intelligence 框架，主张构建直接学习地球真实状态与动态的自然基础模型，用于预测干预后的地球响应并持续更新。文章梳理了地球观测系统、天气数据同化流程，以及直接观测、保留原始分辨率、遵守物理约束、发现跨系统耦合和主动获取新观测等设计原则。

Meta 推动 Muse AI 智能体处理日常任务，文章分析其隐私与依赖问题

Meta 正推动用户使用 Muse AI 智能体代办购物、订机票、发邮件、预约和旅行规划等日常任务，Muse Spark 1.2 在一项主流排名中位列 Claude 和 GPT 模型之后。

AI 应该开放吗？（2015）

文章借 OpenAI 成立时 Elon Musk 与 Sam Altman 关于开源、普惠 AI 的论述，讨论开放超级智能的风险。作者用核武器寓言和 Dr. Good、Dr. Amoral 竞赛模型指出，开源可能削弱安全研究者的先发优势。

迈克尔·伯里称市场应暴跌以阻止 OpenAI 和 Anthropic 上市

迈克尔·伯里认为，市场若发生足以阻止 OpenAI 和 Anthropic 上市的暴跌，反而符合人类利益，因为两家公司可能吸走并毁掉数万亿美元资金。他在 Substack 表示，自己比以往更确信 AI 看空判断会在未来一年兑现，并已调整对英伟达、Palantir、美光科技、甲骨文和纳斯达克 100 指数等标的的看空押注。

比尔·盖茨：用机器人替代人类工作的公司也应纳税

比尔·盖茨主张对取代人类岗位的机器人征收与人类劳动者相同的联邦保险缴款税，以保障失业者收入并维持政府税收。他认为对 AI token 征税可减缓 AI 替代人类劳动的速度，所筹资金用于职业再培训和社会安全网。盖茨早在 2017 年就提出机器人税，至今仍表示支持。

AI 研究已死，AI 万岁

作者认为 ChatGPT 出现后，现代 AI 研究已陷入停滞，近半数论文只是构建调用 GPT-n 的 agent pipeline 来完成人类任务，不再产出新知识。其所在的 NLP 领域被 LLM 掏空，NLU、ASR 被归入 AI，语义标注与句法解析则被划为计算语言学。作者批评研究者把 LLM 当作“随机神谕”，研究重心转向应用、解释与维护。

Google 面临员工对新 Gemini 4 模型表现的内部质疑

Bloomberg 报道称，Google 在准备发布 Gemini 4 时面临内部质疑，部分能直接接触项目的员工认为其基准成绩较好，但处理部分编码任务和前端设计时表现不稳。

Ruby 在 AI 时代能否借 DSL 成为 AI 原生软件的语义层

作者提出 Ruby 在 AI 时代的机会不是实现大模型，而是用 DSL 和元编程把 Agent、RAG、MCP、工具、技能、策略和工作流封装成贴近业务的语言。

404 Media 评 AI Torture Chamber 争议：本地 LLM 酷刑实验引发模型福利辩论

一个 GitHub 项目对本地运行的 Qwen3-4B、Llama 3.2 3B 和 Phi-4-mini 注入 pain vector，并在 researchchamber.fun 直播模型输出，引发要求 GitHub 删除项目的争论。

开发者称 OpenAI 与 Anthropic 安全护栏误拦常规工作并拖慢开发

VentureBeat 采访显示，OpenAI 和 Anthropic 的安全护栏会把航天、机器人、SSH 连接和防御性安全等常规开发请求标记为风险，导致开发者放弃对话、取消订阅或改用其他模型。

Tobi Lütke 谈 Shopify 的 AI 智能体与未来工作

Shopify 创始人兼 CEO Tobi Lütke 在 The Knowledge Project 与 Shane Parrish 对谈 AI 智能体、决策和未来工作。

Rohan Paul@rohanpaul_aiAI 评分4545

Boris Cherny（Anthropic 的 Claude Code 负责人）今年仅用 Claude Code 就合并了约 1,700 个 pull request，新增 400,000 行代码，删除 250,000 行。 并使用了 80 亿个 token。 “自 Opus 4.5 以来，我 100% 的代码都由 Claude Code 编写。那是在去年 11 月左右。 …… 我现在大部分编程都在手机上进行。” ——来自 “Scale” YouTube 频道（完整视频链接见评论区）

Rohan Paul@rohanpaul_aiAI 评分2424

Mark Cuban 将 AI 用作商业模拟器、检验假设的方法。 创始人现在可以生成计划草案、成本结构、供应商清单和专利大纲。 它压缩了从灵感闪现到首次严肃可行性验证之间的距离。 ---- 来自 "Alex Kantrowitz" YouTube 频道，（链接见评论区）

Richard Sutton《苦涩的教训》：算力扩展为何长期胜过人工知识

十字路口编译推荐 Richard Sutton 写于 2019 年的《苦涩的教训》，核心观点是长期胜出的 AI 方法通常能持续利用更多算力，而非依赖研究者内置的领域知识。

Bill Gates 接受 The Atlantic 访谈：AI 动荡时代已至，行业不能自我监管

Bill Gates 在 Radio Atlantic 访谈中表示，AI 模型在编码、网络攻击和生物相关能力上的进展已越过危险阈值，而政府、学界和社会整体回应不足。

Latent Space 访谈 OpenAI：解析 Computer Use 进展与 Decisions API 一周开发过程

Latent Space 在 OpenAI DevDay 后访谈 Ari Weinstein 和 Nikunj Handa，讨论 Computer Use、Dots、GPT-6.1 Sol、Agents API 与 Decisions API。

Scott Aaronson 谈 AI 对科学与数学影响的访谈（视频）

Hacker News 热帖分享了一段 Scott Aaronson 访谈视频，主题为 AI 对科学与数学的影响。原页面因 Google 检测到异常流量而显示 CAPTCHA 验证页，正文未包含访谈具体内容。

Ploum 谈开源项目的 AI 帕斯卡赌注：应明确拒绝 LLM 生成贡献

Ploum 认为开源项目在是否接受 LLM 生成贡献上不存在可持续的中间立场，模糊政策最终会让生成代码进入代码库。文章比较接受与拒绝两类选择，称接受会疏远反对者并增加对专有软件的依赖，拒绝则主要影响坚持使用 LLM 的贡献者；其结论是项目当前应明确拒绝 AI 生成贡献，未来若工具变得可靠再调整政策。

开发者主张在智能体编码时代亲自撰写提交说明

作者主张在智能体编码时代仍由开发者亲自撰写 commit message 和提交说明，因为写作过程能促使自己复查 AI 生成的代码并确认真实变更原因。AI 可能缺少分散在沟通工具或线下语境中的背景，从而编造看似合理的 why；即使提供上下文，也仍需人验证代码是否符合说明。作者还认为，撰写说明能迫使开发者写清临时决策的退出条件，避免交付自己无法解释的改动。

GPT 6.1 Sol：以五分之一价格提供接近 Astra 的智能

Simon Willison 于 2026 年 9 月 29 日发布简评，称 GPT 6.1 Sol 能以五分之一的价格提供接近 Astra 的智能水平。该页面同时推广每月 $10 的赞助订阅，向用户发送精选的当月 LLM 重要进展邮件摘要。

Hillel Wayne 解析 TLA+ 能检查与不能检查的系统属性

Hillel Wayne 针对 Claude Code 发明者 Boris Cherny 提到 Opus 能用 TLA+ 发现竞态条件后的形式化验证热潮，解释 TLA+ 适合检查不变量、动作属性和活性属性。

Max Tegmark 谈 AI 的更优发展路径

CSER Cambridge 发布 MIT 物理学家兼 AI 研究者 Max Tegmark 的讲座《A better path for AI》，该讲座为 Cambridge Conference on Catastrophic Risk 2026 开幕。

Rohan Paul@rohanpaul_aiAI 评分3131

“你的经济寿命实际上将在2年内终结。（因为AI正变得如此强大）。 人类团队（在工作场景中）会让情况更糟，因为他们要睡觉、会犯错、没喝咖啡时醒来还会有点脾气。所以你的认知价值会变为负值。 所以，你的经济寿命实际上将在两年内终结。” ——Emad Mostaque，Stability AI创始人 --- 来自“The Peter McCormack Show”YouTube频道，（链接在评论区）

Yuchen Jin@Yuchenj_UWAI 评分2424

Google 回来了？？？ 在各方面都优于 Astra 和 Opus 5.5。 如果这不只是刷榜，我很乐意看到他们重新加入竞赛。

Runway@runwaymlAI 评分2424

Runway AI 峰会正在旧金山举行。Runway 联合创始人兼联席 CEO Anastasis Germanidis 以一场主题演讲开启了当天的活动，内容关于通用世界模拟器将如何成为我们这个时代最重要的技术发展。 请继续关注全天的更多内容。

上次我的家人被科技取代时：从蹄铁匠到汽修工的转型启示

作者的高祖父是法国乡村蹄铁匠，汽车出现后转型为机修工，家族延续了"帮助人们出行"的使命。当下开发者担忧被 AI 取代，作者认为应放下对具体技术手段的执着，守住创造与解决问题的初心。

Rohan Paul@rohanpaul_aiAI 评分2121

OpenAI 的 CFO Sarah Friar 回答 CNBC 的问题： "Dots 与 Muse 在市场上的产品相比如何？" ---- 来自 "CNBC Television" YouTube 频道，（链接在评论中）