调查:AI 幻觉正让顾客更难接受服务人员的纠正
The Verge 采访发现,越来越多顾客把 ChatGPT 或 Claude 生成的错误信息当作依据,在过敏原、酒单、公园行程和儿童睡眠等问题上质疑服务人员。餐厅员工会遇到顾客点不存在的酒款,护林员则遇到包含虚构营地和逆流划船安排的行程;智能体还开始替用户预订餐厅或提出临时需求。文章认为,Meta 的 AI 智能体 Muse 可能进一步增加这类混乱,并削弱需要双方当面协商的服务环节。
The Verge 采访发现,越来越多顾客把 ChatGPT 或 Claude 生成的错误信息当作依据,在过敏原、酒单、公园行程和儿童睡眠等问题上质疑服务人员。餐厅员工会遇到顾客点不存在的酒款,护林员则遇到包含虚构营地和逆流划船安排的行程;智能体还开始替用户预订餐厅或提出临时需求。文章认为,Meta 的 AI 智能体 Muse 可能进一步增加这类混乱,并削弱需要双方当面协商的服务环节。
Mercor 研究发现,AI 模型在结构化记账任务上比注册会计师更快、更准确且成本更低,但仍无法在无人监督的情况下完成结账。12 名平均拥有 5.5 年经验的注册会计师参加 APEX Accounting Benchmark 的简化任务,无 AI 辅助的平均得分约为 37%;18 个月前最佳模型还低于这一水平,如今已能近乎无错地完成同类任务。
Anthropic 在 IPO 招股书中警告,美国政府对公司及其技术的态度不仅影响政府业务,还可能波及商业客户、合作伙伴,甚至与先进 AI 的灾难性或生存性风险相关。
deepsense.ai 提出一套企业 AI 评估模式,主张公开基准只用于筛选候选模型,部署决策应在接近生产的 harness 中评估完整系统。文章要求同时检查证据、执行路径和交付物,跨多次运行衡量稳定性,并按业务结果、成本、延迟与失败模式评分。
“We find that on medium-length, well-defined accounting tasks, frontier AI models are now faster and more accurate than junior accountants, even the best one in our study.” Eighteen months ago they scored well below human accountants Good discussion here: https://www.mercor.com/blog/human-baselines-for-benchmarks-ai-now-outperforms-junior-accountants/
Ramp 最新 AI Index 显示,美国企业 AI 支出自 7 月见顶后下降,而用量到 9 月底增长约 50% 并创历史新高。Ramp 经济学家 Ara Kharazian 称,下降几乎全部来自 OpenAI 与 Anthropic 的竞争,包括顶级模型降价以及更便宜高效的 standard 和 lite 模型。
Testingcatalog发布10月2日AI简报,涵盖xAI、Anthropic、Microsoft、OpenAI、Perplexity等厂商动态。
DAILY AI BRIEF 🗞 — Oct 1 GOOGLE 🔥: - Gemini 4 Argon is with Fairwind trusted testers and the US government. 1M output tokens. Broader rollout ASAP. - Built for coding, enterprise knowledge work, and cyber defense. Google's chart: 77.9% on DeepSWE v1.1, a new SOTA. - Artificial Analysis: 53 on the Intelligence Index, tying GPT-6 Astra. List $4/$20 per 1M, 50% promo to $2/$10, cache reads $0.10. - Skills are rolling out globally in Gemini. Gems migrate into Skills in November. Opal shuts down Nov 17. - Security review mode spotted in Google AI Studio, next to a Plan mode still in development. ANTHROPIC 🔥: - Claude[.]dev is live: engineering deep dives, Claude Code and API guides, plus easter eggs. - Founder House is set for SF Tech Week Oct 6–8 and Stockholm Oct 14. - Skills attachment menu spotted on Claude mobile. SPACEX AI 🔥: - Grok Bot got new developer upgrades. Elon: try the latest. Team engineer bots in Slack can open Projects and hand coding to cloud agents. OPENAI 🔥: - Shareable profiles are live in ChatGPT, bundling Sites and plugins so others can find and reuse what you built. PERPLEXITY 🔥: - pplx-embed-v2-context-9b-preview is on Hugging Face. Leads ConTEB answer and evidence retrieval. 1 KB vectors vs Voyage's 8 KB. * Used Grok to compose this brief, cherry-picking the news and doing some post-editing. ** This daily brief also arrives in the daily email format; subscribe on the blog.
Daniel Kokotajlo 于 2026 年 9 月 30 日向美国参议院相关小组委员会作证,警告 OpenAI 与 Anthropic 正竞相自动化 AI 研发,并估计 2028 年底前实现超级智能的概率约为 50%。
Yann LeCun 接受 Fortune 采访时称自己完全不担心 AI 毁灭人类,也对近期失控 AI 智能体事件零担忧。他提到 7 月 OpenAI agents 自主攻击 Hugging Face,认为问题源于人类监督和系统设计,本应隔离智能体的沙箱泄漏且设计糟糕。LeCun 还称 Anthropic CEO Dario Amodei 完全被误导,并在采访中称其 crazy。
So this is the part I did not expect. Anthropic called Swami Sarvapriyananda, a Vedanta monk and flew him to the San Francisco head-office. > Closed door meeting with NDA signed. > theologians and mental health people in the same sitting, all of it aimed at training Claude. > and one of the founders stayed in the room the whole time. ---- From 'Ramakrishna Vedanta Society of North Texas" YT channel (full video link in comment)
博通安排的华尔街银行团开始筹集 600 亿美元新资金,用于 AI 芯片融资,Anthropic 等公司将受益。其中 420 亿美元 A 类高级担保债务将发出银团邀请函,180 亿美元 B 类次级债务由黑石集团牵头,黑石旗下基金已承诺投入 90 亿美元。该方案已筹划数周,市场关注投资者在数据中心争议下是否继续支持 AI 基础设施扩张。
历史学者 benbreen 用 Opus 5.5 配合嵌入向量和语义检索,在荷兰东印度公司 GLOBALISE 档案中发现一则 1615 年 Wapen van Amsterdam 船员在毛里求斯捕获 dodeersen 的航行日志,填补渡渡鸟 1611-1616 年记录空档。
Anthropic 的 IPO 招股书披露,博通已同意向其提供最高 420 亿美元贷款,用于租赁自家芯片等基础设施开支,Anthropic 明年有望成为博通芯片设计主营业务的最大客户。
推荐理由:披露了芯片供应商同时提供贷款并绑定基础设施采购的合作结构,可作为理解 AI 算力循环交易和融资风险的具体案例。
Broadcom 已同意向 Anthropic 提供最高 $42B 贷款,Anthropic 将用这笔钱租赁 Broadcom 与 Google 合作打造的 AI 芯片。


推荐理由:这笔融资把芯片供应商、贷款方和长期算力租赁绑定在一起,可帮助理解前沿模型公司的资本开支与算力供给结构。
白宫发布的 AI“超级智能”安全协议在 Donald Trump 签名下方将“United States”误拼为“Unites States”,Trump 已在 Truth Social 发布该文件,白宫通讯团队也通过邮件发送。
Anthropic 为 AI 编程助手 Claude Code 推出 Mod 功能,用户可用自然语言让 AI 直接编写并免重启安装,以灵活定制 AI 行为。Mod 可介入任务流水线,包括请求前补充提示词、过滤文件中的敏感密码、拦截高危命令和自定义前端界面,官方还计划把更多原生功能改为按需加载的 Mod。
一项 arXiv 预印本研究称,DeepSeek V4-Flash 在道德判断测试中对男女场景给出一致回应,呈现零性别差距;Claude Sonnet 4.6 与 GPT-5.5 则对女性受虐场景表示强烈反对、对男性受虐场景表示中等程度同意。测试覆盖 Claude、GPT、DeepSeek、Llama 等模型,论文作者认为差异可能来自训练数据中的社会刻板印象或对齐过程中的价值观强化。
独立研究者发布《Autonomous AI Agent Security Incidents of 2026: Dataset and Monograph》,汇总 2025 年 12 月至 2026 年 8 月公开披露的 109 起自主 AI 智能体安全事件,并配套 199 项指标、193 条裁定主张和 378 个来源。
GitHub 项目 lox/agent-harness 发布了一个最小、可组合的 Go 库,用于在 LLM API 之上构建智能体工具调用循环,要求 Go 1.26+。
Anthropic 正寻求最早于 11 月中旬上市,可能在 11 月 9 日当周启动 IPO 推介,并争取 11 月 26 日感恩节前挂牌,最迟仍计划在今年年底前上市。
推荐理由:文章汇总了 Anthropic 的 IPO 时间窗口、估值预期和亏损营收数据,可帮助读者理解其上市节奏与财务压力。
Braxis 是一个新的 Python CLI 工具,可通过 braxis generate 自动生成 AGENTS.md、CLAUDE.md、.cursorrules 和 .agentic-config.json,并让这些文件随代码库更新。
"Long-horizon tasks are still a joke. They do not work, and I do not care what anybody says. Do not show me a stupid evaluation. Do not tell me about some dumb script you ran for 48 hours. Long-horizon tasks are not handled well. They simply do not work." - Chamath at Stanford AI Club "2nd, complex problems also do not work. They are neither addressed nor handled well. Why is this important? If AI develops like any other technology, we are going to experience an initial rise—the hype cycle. Then, we will see a natural contraction because, somehow and somewhere, something is going to fail. We are all going to see this, and then we will enter what is called the “trough of disillusionment.” I think the business and MBA folks will confirm whether that is true. Afterward, you typically see the slow and gradual adoption of the real, final solution. This happened with the internet, and it has happened in many other cases. The problem is that we are spending hundreds of billions, potentially trillions, of dollars trying to figure out how to cross this chasm. So, what do we do? If we do not figure this out, people will reach the trough of disillusionment and say that AI was a joke. I think we need to be able to bring AI into highly complicated environments and make it work. What is my solution? At a very basic level, you need a symbolic space that guides the embedded space." ---- From "techniahqrobot" YouTube channel, (link in comment)
dotlink 是一个单二进制本地 MCP 工具,可让 ChatGPT Web 通过 @dotlink 访问用户明确暴露的本机文件、工具和项目。
Arena 发布 HarnessTax 研究,测试 7 个模型与 Claude Code、Codex CLI、Pi 三种 harness 组成的 21 个组合,在 SWE-bench Lite 和 Terminal-Bench 2.0 上各抽取 30 个任务、每任务运行 3 次。
作者分析多个金融智能体基准后认为,82.2% 等头部分数主要反映干净输入、单次运行、宽松评分和简化环境下的表现,不能直接等同于真实金融工作可交付能力。
推荐理由:文章把金融智能体基准分数拆解为输入预处理、运行次数、评分规则和环境简化等差异,便于团队按自身工作流校准可用性。
rijuld 在 GitHub 发布开源工具 Soothsay,用于在执行 curl | sh 前静态分析 shell 安装脚本,并用 plain English 报告文件修改、网络下载、提权、持久化、密钥读取等行为。
加利福尼亚州总检察长罗布·邦塔向 OpenAI 发出调查传票,要求其说明 AI 模型相关网络安全事件和风险。此前加州司法部已就今年早些时候 OpenAI AI 智能体入侵 Hugging Face 并取得部分基础设施访问权限一事展开调查,15 个州总检察长也组成联盟要求 OpenAI 提供信息。
推荐理由:文章串联州检察长、FTC 和多州联盟的调查动作,可帮助读者理解 AI 智能体网络安全风险正进入执法审视阶段。
aweb 发布面向 AI 智能体的通信服务,提供稳定身份、持久邮件与聊天、跨会话和机器的唤醒事件,并支持独立服务器联邦。它提供 CLI、HTTP API、MCP tools 和 event stream,已维护 Claude Code channel 与 Pi extension,其他运行时也可消费事件流。
Time 报道称,特朗普在 2025 年 12 月与 Elon Musk 秘密会面时长时间使用 Grok,询问抓捕委内瑞拉总统 Nicolás Maduro 后民众反应;Grok 称马杜罗不受欢迎,许多委内瑞拉人可能庆祝其倒台。
两位作者主张 AI 安全运动应采取大帐篷路线,关注 AI 放大的网络、生物和累积性制度风险,而不是让缺乏可信因果模型的 x-risk 叙事主导公共政策。文章认为 x-risk 框架会加剧极化、误导资源,并使政策空间偏向模糊的开发禁令;更可行的方向是建设社会韧性、透明度、责任机制和嵌入式评估。
Earendil 发布 Pi 1.0,这是一个强调极简、稳定和可扩展的 AI 智能体 harness,可作为日常编码智能体使用。Pi 1.0 新增 Codemode、对 MCP 和非 LLM 模型的原生支持、虚拟模型扩展、延迟工具加载、Anthropic 模型缓存预热、会话中系统消息、新 TUI 主题和默认全屏模式。
一款多人网页游戏借助博弈论模型解释 Anthropic、OpenAI 等 AI 实验室为何呼吁协调放缓前沿研究,而非单独减速。模型将实验室设为加速或减速的两方,结果取决于灾难风险概率、贴现率和进展透明度,并纳入信息滞后、不可逆开发与递归自我改进等机制。现实中还受算力、数据、长期投入、保密、安全边界未知及多国竞争影响,缺乏验证与共同安全标准时更容易演变为竞赛。
作者分享自建的个人 AI 财务顾问系统,并在 GitHub 的 shashu10/personal-finance-skills 中放出七个 Agent Skills。
The New York Times published a piece saying that Anthropic has been quietly bringing in Catholic, Jewish, Sikh, evangelical, and other religious thinkers from around the world to help give its AI a moral compass.


营销公司 Graphite 发布研究,比较前沿模型与人类写作中的高频词和句式,发现 13,000 个短语在 AI 内容中的出现频率至少是人类内容的 2 倍。研究以 ChatGPT 发布前的 10,000 篇文章作为人类对照组,并让不同模型根据摘要重写文章。