一篇 MIT 与哈佛研究者的论文发现,LLM 智能体在选择以简单步骤呈现、或规则中的安全做法被直接说明时决策更好,而被要求推理对手时表现更差。
#Anthropic
#Anthropic
今日 39 条
Rohan Paul@rohanpaul_aiAI 评分5858
Rohan Paul@rohanpaul_aiAI 评分6969Meta 和 Microsoft 正在削减员工对 Claude 的内部使用。Microsoft 此前预计今年内部 Claude 支出至少 $1B,随后将该数字下调超过 33%。


引用Rohan Paul@rohanpaul_aiOpenAI's median researcher used $601 of coding-agent inference a day at API prices, up from under $1, in January 2026. Eoch AI's new report. > OpenAI researchers' coding-agent usage, valued at API list prices, is doubling roughly every month > By mid-August 2026, the median researcher used $601 a day and about $2M a year, roughly matching or exceeding what employing a researcher costs. > This pace probably can't last, since one more year would reach about $185M per median researcher, and list-price figures reveal nothing about what OpenAI actually spends.
Rohan Paul@rohanpaul_aiAI 评分5252上海 AI Lab 论文 SkillGym 提出把人类编写的智能体技能转成带通过或失败检查器的沙盒任务,并用通过验证的运行轨迹训练模型,从而降低模型对提示词阶段技能检索和指令遵循的依赖。

Hacker News:AI 热帖AI 评分6969 卫报长文解析阿联酋 Sheikh Tahnoon 与 G42 的 AI 扩张路径
《卫报》长篇报道梳理阿联酋 Sheikh Tahnoon bin Zayed Al Nahyan 如何通过 G42、主权资本和安全体系布局全球 AI 基础设施。
Hacker News:AI 热帖精选AI 评分7777 a16z 发布第七期 Top 100 消费级 AI 应用榜:ChatGPT 领先,付费向重度用户集中
a16z 发布第七期 Top 100 Consumer AI Apps,按 Similarweb 月访问量和 Sensor Tower 月活分别列出 web 与移动产品,并首次加入 YipitData 的美国消费者卡支付观察排名。
推荐理由:报告把流量榜与美国消费者实际付费数据并列,能帮助读者看清消费级 AI 使用广但深度付费集中的结构。
Hacker News:AI 热帖AI 评分2828 真实世界任务 AI 评测:Claude Opus 5.5 智能体发现两种室温磁性半导体候选材料
Vals AI 对全球领先 AI 模型在金融、软件及网络安全、递归自我改进、心理健康等前沿风险任务上进行独立无偏基准评测。10 月 4 日报告显示,Claude Opus 5.5 智能体发现了两种室温磁性半导体候选材料。其行业排行榜当前基准数据不可用,另展示 16 个实验室的性能前沿。
Hacker News:AI 热帖AI 评分7474 八位 OpenAI、Anthropic 与 Google DeepMind 离职研究者谈 AI 风险与去留选择
New York Magazine 与 Asterisk 召集八位曾在 OpenAI、Anthropic、Google DeepMind 工作的离职员工,讨论担忧 AI 风险时应离开抗议还是留在内部推动。
TechCrunch · AIAI 评分7575 OpenAI 将在欧盟为 ChatGPT 和 Codex 文本添加隐形水印
OpenAI 宣布未来几周将在欧盟为 ChatGPT 和 Codex 生成文本推出隐形水印 textGrain,以符合欧盟 AI Act 的透明度要求;全球 API 开发者可从当天起为部分模型手动开启,默认关闭。
Hacker News:AI 热帖AI 评分4242 SupaDocs 推出网页端免费 AI 建筑工程估价工具
SupaDocs 在网页端提供免费 AI 建筑工程估价服务,可在同一处编辑 PDF、Excel 和 Word 文件,并通过 AI 智能体处理发票、索赔等成本事务。平台集成 GPT 5.6、Claude Fable 5.1、Gemini 3.8 Flash,免费版支持无限项目与用户,付费方案每月含 5 至 125 AUD 不等的 AI 使用额度。
Hacker News:AI 热帖精选AI 评分8686 美国五角大楼确认已停用 Anthropic AI 工具
美国国防部官员告诉 BBC,五角大楼已停止使用 Anthropic 产品,此前国防部长 Pete Hegseth 于 2 月以国家安全为由将该公司列为供应链风险,并要求在 8 月底前停用。
推荐理由:报道呈现了五角大楼停用 Claude 的时间线、深层系统集成阻力,以及安全护栏争议如何影响军方 AI 供应商选择。
The Verge · AIAI 评分4242 AI 接管数学引发的种种争议
过去一年,OpenAI、Anthropic 等实验室宣布在多个长期未解的数学问题上取得突破,其中包括解决一个著名的千禧年大奖难题。这些成果超出研究人员对现有系统能力的预期,却在数学界引发强烈反对与信任争议,AI 实验室称正吸取此前教训。
Hacker News:AI 热帖AI 评分5959 向相信 AI 具有意识的人提出的六个问题
一位哲学学者用分支式问题清单拆解 AI 意识主张,先区分“有意识”是否意味着拥有内在世界,再要求说明究竟是模型、对话、token、公司还是数据中心硬件承载这种内在世界。文章还追问群体、非生命物和非生物物是否可能拥有主观体验,并批评仅凭类人输出推断 AI 有意识的论证。
The DecoderAI 评分7575 Meta 与 Microsoft 削减 Claude 内部使用,Anthropic 从合作伙伴变为竞争对手
Meta 和 Microsoft 正大幅削减内部对 Claude 的使用。Microsoft 的 Claude 年度支出原预计超过 10 亿美元,高管要求员工改用 GitHub Copilot 和 OpenAI 模型,支出已削减逾三分之一,云部门员工月度预算从 10 万美元降至约 1 万美元。
The Verge · AIAI 评分7272 OpenAI 将在 ChatGPT 和 Codex 中加入 textGrain 文本水印,率先面向欧盟推出
OpenAI 将在 ChatGPT 和 Codex 的文本输出中加入不可见、机器可读的 textGrain 水印,未来几周先面向欧盟各套餐的符合条件用户开放,不会在发布时设为全球默认。
Hacker News:AI 热帖AI 评分6767 rashomon v1.1.0 发布:为 Claude Code 提供独立执行记录
rashomon v1.1.0 Alpha 发布,这是一个面向 Claude Code 的独立执行记录器,支持 macOS 和 Linux。它记录命令、文件编辑、测试结果和子代理调用,并在智能体最终总结未提及失败时提示;可通过 Claude Code 插件或命令行安装。工具不存储提示词、响应、文件内容或工具输出,也不支持 Windows、Cursor 和 Codex。
Rohan Paul@rohanpaul_aiAI 评分5959

The DecoderAI 评分7373 OpenAI 将在欧盟为 ChatGPT 文本启用 textGrain 水印,API 用户全球可选开启
OpenAI 将在未来几周为欧盟的 ChatGPT 和 Codex 用户默认开启不可见文本水印 textGrain,以符合欧盟 AI 法案对机器可读生成内容标识的要求;全球 API 用户及 Microsoft Azure 等云伙伴则可选择启用。
AWS Machine Learning BlogAI 评分5252 Claude Code 结合 Amazon Bedrock 在受监管工作负载中的配置指南
AWS 介绍如何在 AWS GovCloud (US) 的 Amazon Bedrock 上使用 Claude Code,并支持 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Sonnet 5。
Hacker News:AI 热帖AI 评分4343 我还没准备好让 AI 控制我的电脑
作者表示不会让 Claude 和 ChatGPT 的桌面应用控制自己的 Mac,而继续使用没有直接系统访问权限的网页版。其银行也警告不要向 AI 提供用户名、密码或安全码,否则用户可能要为工具造成的错误负责。作者主要用 AI 提问、调研、校对和偶尔上传文件,认为 AI 智能体访问权限越大,误操作或越权访问的后果越严重。
Hacker News 热门(buzzing.cc 中文翻译)AI 评分6767 Anthropic 就女子写入 Claude 的袭击警长办公室威胁报警,当事人面临重罪指控
美国佛罗里达州女子 Carli Michelle Heller 因在 Claude 中写下计划“shoot up”警长办公室的内容,被 Anthropic 人工复核后报警,现面临书面暴力威胁重罪指控。
Rohan Paul@rohanpaul_aiAI 评分6464
The DecoderAI 评分6262 Anthropic 计划 IPO 前通过员工股票捐赠成为美国大型企业捐赠者
Anthropic 在计划 IPO 前向潜在投资者披露,员工可向慈善机构捐赠股票,公司再追加股票,早期员工可获得捐赠价值 3 倍的配捐。
The Verge · AIAI 评分6767 Sam Altman 称 AI 发展会带来一些坏事,但整体值得
Sam Altman 在 Politico 的 Decoded 播客中表示,黑客、诈骗等坏事是 AI 发展中社会应接受的成本,因为人们会用 AI 做出数量级更多的好事。
Hacker News:AI 热帖AI 评分6262 Open Instinct 开源个人 AI 智能体项目发布
Open Instinct 发布为可通过短信联系的开源个人 AI 智能体,能在独立 microVM 的 Linux 桌面中执行真实任务,并与信任联系人的智能体协作。
Hacker News:AI 热帖AI 评分3333 Show HN:I Want My AI 推出 75% 折扣,一个订阅整合 338 个模型与 149 款应用
I Want My AI 正以 75% 折扣码 7V34KVYSU5 促销,提供一个订阅接入 338 个 AI 模型和 149 款应用的服务,可用自然语言处理邮箱、日历、文件和工单。免费版每月 100 条消息,Basic 为 $8.00/月,Pro 为 $20.00/月,均含联网搜索、推理、文件上传和应用连接,无需 API keys。
Hacker News:AI 热帖AI 评分6363 Leftovers 发布:清理 AI 智能体残留进程的开源 macOS 应用
开发者 arpitagarwal 发布免费开源的 macOS 菜单栏应用 Leftovers,用于识别并清理编码智能体和应用遗留的进程、MCP server、缓存、Docker 资源与 git worktrees。
Hacker News:AI 热帖AI 评分4848 Show HN:Designobo——40kb JavaScript 打造的 AI 原型设计工具
Designobo 是一款仅 40kb JavaScript 的 AI 原型设计工具,可根据文字描述生成可点击的 UI 界面、流程与交互,无需后端或应用代码。它支持 MCP,可连接 Claude Code、Codex、Cursor 等客户端,并提供免费版及 17 美元、37 美元两档月付方案。
Hacker News:AI 热帖AI 评分6060 开源工具 Spill 将大型 MCP 结果转存为本地 DuckDB 表
Spill 是 Apache-2.0 开源工具,可拦截超过 32 KiB 的 MCP 工具响应,将 JSON 对象数组存入本地 DuckDB,并向 AI 智能体返回紧凑描述符。
Hacker News:AI 热帖AI 评分6262 Noah Smith 反驳 Krugman:AI 繁荣正在给普通美国人带来哪些经济收益
Noah Smith 撰文反对 Paul Krugman 关于 AI 是寡头技术、收益很少惠及普通美国人的判断,认为当前 AI 繁荣已通过数据中心建设就业、地方税收、宏观需求支撑和消费者剩余带来实质收益。
Replit ⠕@ReplitAI 评分4747Hacker News:AI 热帖AI 评分6464 Together AI 推出 Together Link,将编码智能体接入开源模型并降低开销
Together AI 推出 Together Link,可把 Claude Code、Claude Desktop、Codex、OpenCode 和 Pi 等现有编码智能体连接到 Together AI 上的开源模型,并称支出可降低超过 50%。
Hacker News:AI 热帖AI 评分5858 佛罗里达女子因涉嫌在 Claude AI 聊天中发出威胁被捕
美国佛罗里达州 30 岁女子 Carli Michelle Heller 因涉嫌在与 Anthropic 的 Claude AI 聊天中向 Lee County Sheriff’s Office 发出暴力威胁而被捕。Claude 先标记了相关对话,随后人工审核人员查看消息并向警方报告。
Hacker News:AI 热帖AI 评分6767 什么是 AI 智能体:一篇基础入门
文章解释 AI 智能体本质上是运行循环的程序,由 harness 汇总上下文、调用无状态 LLM、执行或拒绝模型请求的工具,并在需要时向人询问。作者强调智能体不是独立实体,连续性来自 harness 保存并反复提交的历史,模型可在任务中途替换;风险可能来自误导人类或工具造成损害,防御思路包括用其他智能体审查历史。
elvis@omarsar0AI 评分4141引用Kun Chen@kunchenguidthere’s something quite awkward about all the personal agents in the current hype cycle muse, grok bot, instinct, dots, and whatever google, anthropic will come up with none of them is “mine” i’d be trusting a vendor for some of the most sensitive data about me and bet on them handling it with extreme responsibility. what if they have a data leakage incident? what if they hired a wrong employee? what if they simply break bad? i’d also be betting on their model. right now i’ve set up a lot of my stuff in grok bot, but what if their model falls behind? what if another model becomes 10x better on pure intelligence? then i’ll either miss out on a better assistant, or have to bite the bullet and do a full migration i’d also have to bet on their product. they may not build the features i want. they may not allow me to customize enough. and one day my assistant may show me ads that feels like way too much betting than what i’d be comfortable with, if i truly want literally everything in my life to go through and be taken care of by an assistant with all that considered, i’m more bullish on open source personal agents that run on people’s own computers. but i think these open source projects have to break out of the assumption that their users are developers and they can just throw a repo at them and ask them to launch a terminal a well polished, fool proof, community maintained, vendor agnostic, free personal agent that everyone can run by themselves without locking into a SaaS - that’s what i think many people will need
Hacker News:AI 热帖AI 评分6262 美国选民借助 ChatGPT 等 AI 聊天机器人研究中期选举投票
部分美国选民在中期选举投票进行期间使用 ChatGPT、Gemini 和 Claude 研究候选人、制作对比表、核查网络说法,甚至搭建选票查询网站。NPR 采访显示,这类工具尤其被用于新闻覆盖较少的下级选区,但专家提醒其迎合性回答可能强化用户原有倾向,且模型训练和信息来源不透明。OpenAI 回应称会持续监控模型偏见,Anthropic 和 Google 未回应置评请求。
The Verge · AIAI 评分5555 Adam Schiff 接受 Decoder 访谈:AI 自愿承诺不足,美国应设立有实权的 AI 监管机构
加州民主党参议员 Adam Schiff 在 Decoder 访谈中表示,科技公司与白宫签署的非约束性 AI 安全承诺没有实质效力,美国需要正式立法和具备专业能力、实权及快速行动能力的 AI 监管机构。
🚨 AI News | TestingCatalog@testingcatalogAI 评分5050
引用Brett Adcock@adcock_brettHark launches this week. The first 100,000 sign-ups get a paid plan for free I don't do anything without Hark anymore. The team has obsessed over every detail, and it shows. Can't wait to see how you all use it Join the waitlist: https://www.hark.com
Hacker News:AI 热帖AI 评分4949 Show HN:DevBoard,面向小型开发团队的简化版 ClickUp,提供原生应用与 MCP
App Tube 推出面向自由职业者和小型开发团队的项目追踪应用 DevBoard,提供看板、epic、版本与时间追踪等功能。该应用为原生 Flutter 应用,已在 App Store 和 Google Play 上线,支持 iOS、Android、macOS,Windows 和 Linux 仍在打包中。
Hacker News:AI 热帖AI 评分6262 Discover AI 发布含 51 个互动实验的 AI 学习桌面应用
Discover AI 发布开源学习桌面应用,通过 51 个可操作小实验讲解现代 AI,覆盖数学基础、Transformer、RAG、工具调用、智能体、多模态、训练、微调和部署。
Hacker News:AI 热帖AI 评分6767 Huntback 披露 Brainstorm:由 Claude Code 智能体舰队运行的自动化漏洞狩猎平台
安全团队 Huntback 在 Contabo 服务器 37.60.248.174 上回收 365 个文件,发现名为 Brainstorm 的自建平台编排 Claude Code 智能体执行扫描、源码阅读、漏洞确认和结果分级。