Simon Willison:按量付费服务应默认提供硬性预算上限
Simon Willison 主张 API 和云服务应默认提供硬性月度预算上限,超过设定金额后直接停止服务或返回错误,而不是只发送警告。他认为编码智能体和个人智能体降低了部署可产生费用的应用的门槛,用户可能在睡眠中遭遇数百至数千美元甚至更高的意外账单;取消上限应由用户显式选择。
Simon Willison 主张 API 和云服务应默认提供硬性月度预算上限,超过设定金额后直接停止服务或返回错误,而不是只发送警告。他认为编码智能体和个人智能体降低了部署可产生费用的应用的门槛,用户可能在睡眠中遭遇数百至数千美元甚至更高的意外账单;取消上限应由用户显式选择。
一位数学家针对 OpenAI 内部未发布模型据称求解 Navier–Stokes 问题撰文,认为 AI 解决的是带人工外力的较弱版本,并未触及无外力方程是否会自发失效的核心问题。文章称该成果据称动用多达 10,000 个 AI 智能体和数百万美元算力,但 AI 当前擅长在人类设定问题与思路后进行超大规模搜索,选择重要问题和定义真正答案仍依赖数学家。作者据此判断,AI 不会终结人类数学研究。
I haven’t touched Claude Code or Codex CLI in a while. The terminal era is over imo. It's the wrong interface for coding agents. Tabs are ephemeral, but context is persistent, and managing 30 tabs is pure cognitive overhead. I don’t really need an IDE like Cursor either. I rarely navigate the whole codebase anymore. The new primitive is the agent, not the file. (Codex desktop app is the best agentic UI for now. But we’re still early.)
OpenAI 前安全部门员工 David Robinson 在《大西洋》撰文称,公司依赖先发布系统、问题暴露后再加固防护的迭代部署模式,快速开发文化提高了系统故障风险。
美国 Figure Robots 创始人 Brett Adcock,对中国机器人有非常强烈的看法。🤔 ---- 来自 "My First Million" YouTube 频道,(链接在评论中)
OpenAI 前安全团队透明度工作负责人 David Robinson 宣布本周辞职,称 OpenAI 及行业的安全路径不可接受,核心问题是高速冲刺、先出问题再修补的企业文化。
AI 编程理论上可不依赖库直接生成代码,但现实中库构建不会被淘汰。成熟库历经多年修复 bug 与处理边界情况,自行实现会让开发者和 AI 智能体重蹈前人错误。AI 让这类开发更可行,但仍极不切实际。
Kent Beck 在 Prodacity 2026 发表演讲,讨论模型承担大量代码编写后软件工艺的含义。视频涵盖看似合理的代码不等于可工作代码、功能会消耗未来变更空间、规格驱动开发与瀑布方法的关系,以及 effort、output、outcome、mission 的度量修订。
Verum Lucet 发布视频《The Metaphysical Impossibility of AI》,主张人工"超级智能"并非技术上困难,而是在形而上学上不可能。视频借助图灵机概念、亚里士多德共相与殊相之分,论证增加算力无法把工具变成理性心智,并警告真正风险是把流畅输出误认为理解。
OpenAI CEO Sam Altman 反对将 AI 模型赋予宗教色彩或让人类放弃判断,称这种倾向令其“非常不舒服”,并视为“真正的安全问题”。他曾在 2023 和 2024 年表示 OpenAI 的目标是打造“magic intelligence in the sky”,相关表态也发生在《纽约时报》报道 Anthropic 接触宗教领袖之后。
我最喜欢这里关于一致性的图表!我们付出了极大努力,将我们认为智能自动化所必需的各类特性都融入了模型中 这还只是开始!🤘
Yes, we are still talking about Jev. Here's my contribution: https://x.com/i/article/2104641771817115648
Yann LeCun 在采访中表示对 AI 毁灭人类“零担忧”,认为 OpenAI 智能体攻击 Hugging Face 等事件源于人类监督和沙箱设计缺陷,而非 AI 自主失控。
Vocemundi 要求其三家 AI 审核系统 Anthropic Claude、OpenAI GPT-5.6 Sol、Moonshot AI Kimi 评论两篇 AI 观点文章,三者均提出批评,部分意见与其开发商相左。三者在 AI 是否为武器或智能体上分歧明显,但都认为公众监督技术的自由优先于模型所谓的发展自由。实验未证明任何系统具备自我意识。
Splice CEO Kakul Srivastava 认为 AI 撰写的工作邮件和文档会让围绕内容展开的真实对话变质且难以逆转。Splice 坚持远程优先,推崇先由人写清文档再由团队讨论的工作方式,并在生成式 AI 产品中保留人在创作过程中的中心地位。
我对人们试图将宗教力量或人类判断力的让渡归于 AI 模型感到非常不安,并认为这是一个切实的安全问题。
I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.
数学家 Jennifer Taback 在 Terry Tao 博客发表客座文章,认为 AI 虽不能替她解决长期研究问题,却能修正错误引理、重组论文、启发新方向并改善写作。
作者在长文中判断,NVIDIA 的收入增长主要来自超大规模云厂商和 neocloud 的投机性提前采购,许多 GPU 已购入但仍在仓库或未通电的数据中心。
Signal 基金会主席 Meredith Whittaker 在访谈中指出,AGI 的神化叙事正在把大型 AI 系统包装成令人敬畏的权威,并强化少数科技公司与政府对社会生活的集中控制。
DeepMind 研究者提出 Artificial Symbiotic Intelligence,主张未来智能存在于人类、AI 智能体和连接系统组成的生态中,而不是单一自我改进的超级智能。
MIT Technology Review 工作日通讯 The Download 于 10 月 2 日汇总科技要闻,重点包括约 500 人参与的为期六个月生物逆龄竞赛,以及前 Google DeepMind 研究员 Thore Graepel 论述 LLM 并不真正推理。
Mystery AI Hype Theater 3000 是语言学家 Emily M. Bender 教授与社会学家 Alex Hanna 博士主持的直播节目,邀请嘉宾辨析 AI 炒作、区分事实与虚构。
哈佛大学物理学家、Anthropic 访问研究者 Matthew Schwartz 在 Anthropic 客座文章中介绍开源工具 BootLoops,并用其让 Claude 执行精确科学计算。
Anything TSMC contributes to Terafab would basically be supplemental Terafab itself is going to be absurdly massive The goal is 1 TW of compute production every year.....around 50× the current global output of AI compute This isn’t just another fab. It’s being built for a scale the semiconductor industry simply does not operate at any known scale today
Chamath 认为开源 AI 模型是在“商品化你的互补品”。当前开源模型性能通常落后闭源模型数月,尚不能构成竞争;待资金耗尽、开源模型追上来后,行业才会真正面对这一局面。
你想要什么样的 FSD? 人们想要 FSD,于是他们前往 https://tesla.com 选择想要的车型
People want FSD, so they go to https://tesla.com and pick what shape they want it in
Code Capsule 发文表达对 AI 的担忧,认为真正风险不是 AI 失控,而是人类在成瘾应用和 AI 互动中丧失共情与面对面交往能力。文章认为 AI 终将实现软件工程自动化,但前提是大规模解决代码正确性,达到 5-nine 可靠性。作者还结合工业化、社交媒体和 COVID 隔离,指出现代社会正走向孤独、自恋与社会联结瓦解。
作者认为真实 AI 不会像 HAL 9000 那样天然害怕被关闭,自我保存冲动并非智能或长期目标的必然结果,而主要来自无监督的自然选择压力。文章批评工具性趋同论证混淆了生物演化形成的持续目标与 AI 中条件化、时限化的任务目标,并用 Claude 在模拟中勒索 CTO 的案例说明这类输出更像情境诱导下的叙事续写。
一篇评论文章呼吁不能让作者以前的风险投资界同事收买民主。当前提供的正文仅包含网站导航与栏目信息,未给出文章的具体论点或事实依据。
作者提出,SaaS 企业会从传统人工交付,演进为工程师、产品和销售人员与 AI 智能体协作,再由云端后台智能体承担更多核心任务,最终公司自身变成围绕无状态 LLM 的 harness。
微软 CEO 纳德拉重申 Copilot 是“面向工作的新操作系统”,称其适用于所有模型、工作场景和任务。技术拆解显示,Copilot 桌面应用主程序 copilotapp.exe 仅 4.99MB,安装目录含约 520MB 的 Edge 154 构建,主界面由 Chromium 渲染。
一篇评论批评“谁赢得 AI 谁就获胜”的说法,认为大语言模型等 AI 发展并非零和游戏,把它包装成竞赛会回避有意义的监管。文章称蛋白质折叠、药物发现、气候与天气建模等潜在突破应全球共享,并质疑 OpenAI、Anthropic 相关科学宣称及 AI 意识讨论。
亚马逊云科技 CEO 马特·加尔曼发表 3000 多词博文,警告美国若大范围叫停数据中心建设,可能在全球 AI 竞争中落后且难以追回。他称全美正在讨论的暂停措施超过 100 项,并宣布亚马逊未来五年将向运营数据中心的社区投资超过 10 亿美元。