跳到正文

#Anthropic

今日 43 条
10月2日周五
  1. The Verge · AI57

    调查:AI 幻觉正让顾客更难接受服务人员的纠正

    The Verge 采访发现,越来越多顾客把 ChatGPT 或 Claude 生成的错误信息当作依据,在过敏原、酒单、公园行程和儿童睡眠等问题上质疑服务人员。餐厅员工会遇到顾客点不存在的酒款,护林员则遇到包含虚构营地和逆流划船安排的行程;智能体还开始替用户预订餐厅或提出临时需求。文章认为,Meta 的 AI 智能体 Muse 可能进一步增加这类混乱,并削弱需要双方当面协商的服务环节。

  2. The Decoder60

    Mercor 研究显示 AI 在结构化记账任务上快于注册会计师,但仍需人工监督结账

    Mercor 研究发现,AI 模型在结构化记账任务上比注册会计师更快、更准确且成本更低,但仍无法在无人监督的情况下完成结账。12 名平均拥有 5.5 年经验的注册会计师参加 APEX Accounting Benchmark 的简化任务,无 AI 辅助的平均得分约为 37%;18 个月前最佳模型还低于这一水平,如今已能近乎无错地完成同类任务。

  3. Rohan Paul62

    Rohan Paul 引用 Mercor 的会计任务评测并评论称,规则型工作不再是职业,而是提示词。Claude Opus 5 在 20 项任务中全部答对,几分钟完成一项;12 名持牌 CPA 得分从 0% 到约 90% 不等,数人用完 3 小时。配图显示,按每个正确评分标准计算,Claude Opus 5 成本为 $0.21,未使用 AI 的会计为 $10.35,相差 49 倍。

    引用Ethan Mollick@emollick

    “We find that on medium-length, well-defined accounting tasks, frontier AI models are now faster and more accurate than junior accountants, even the best one in our study.” Eighteen months ago they scored well below human accountants Good discussion here: https://www.mercor.com/blog/human-baselines-for-benchmarks-ai-now-outperforms-junior-accountants/

  4. 🚨 AI News | TestingCatalog27

    Testingcatalog发布10月2日AI简报,涵盖xAI、Anthropic、Microsoft、OpenAI、Perplexity等厂商动态。

    引用🚨 AI News | TestingCatalog@testingcatalog

    DAILY AI BRIEF 🗞 — Oct 1 GOOGLE 🔥: - Gemini 4 Argon is with Fairwind trusted testers and the US government. 1M output tokens. Broader rollout ASAP. - Built for coding, enterprise knowledge work, and cyber defense. Google's chart: 77.9% on DeepSWE v1.1, a new SOTA. - Artificial Analysis: 53 on the Intelligence Index, tying GPT-6 Astra. List $4/$20 per 1M, 50% promo to $2/$10, cache reads $0.10. - Skills are rolling out globally in Gemini. Gems migrate into Skills in November. Opal shuts down Nov 17. - Security review mode spotted in Google AI Studio, next to a Plan mode still in development. ANTHROPIC 🔥: - Claude[.]dev is live: engineering deep dives, Claude Code and API guides, plus easter eggs. - Founder House is set for SF Tech Week Oct 6–8 and Stockholm Oct 14. - Skills attachment menu spotted on Claude mobile. SPACEX AI 🔥: - Grok Bot got new developer upgrades. Elon: try the latest. Team engineer bots in Slack can open Projects and hand coding to cloud agents. OPENAI 🔥: - Shareable profiles are live in ChatGPT, bundling Sites and plugins so others can find and reuse what you built. PERPLEXITY 🔥: - pplx-embed-v2-context-9b-preview is on Hugging Face. Leads ConTEB answer and evidence retrieval. 1 KB vectors vs Voyage's 8 KB. * Used Grok to compose this brief, cherry-picking the news and doing some post-editing. ** This daily brief also arrives in the daily email format; subscribe on the blog.

  5. Hacker News:AI 热帖54

    Yann LeCun 称不担心 AI 灭绝风险,并批评 Anthropic CEO Dario Amodei 不懂网络安全

    Yann LeCun 接受 Fortune 采访时称自己完全不担心 AI 毁灭人类,也对近期失控 AI 智能体事件零担忧。他提到 7 月 OpenAI agents 自主攻击 Hugging Face,认为问题源于人类监督和系统设计,本应隔离智能体的沙箱泄漏且设计糟糕。LeCun 还称 Anthropic CEO Dario Amodei 完全被误导,并在采访中称其 crazy。

  6. Rohan Paul44

    在 Anthropic 旧金山办公室,他们告诉 Swami Sarvapriyananda,自己目前在伦理方面领先,但这是一场竞赛。 6 个月内,另一家实验室就可能超过他们,而那家实验室可能没有同样的顾虑。 (背景:Anthropic 致电给他,安排他飞往旧金山办公室,与其他宗教领袖一起就伦理/宗教等话题进行了长达数小时的讨论。) ---- 来自“Ramakrishna Vedanta Society of North Texas”YouTube 频道(完整视频链接见评论区)

    引用Rohan Paul@rohanpaul_ai

    So this is the part I did not expect. Anthropic called Swami Sarvapriyananda, a Vedanta monk and flew him to the San Francisco head-office. > Closed door meeting with NDA signed. > theologians and mental health people in the same sitting, all of it aimed at training Claude. > and one of the founders stayed in the room the whole time. ---- From 'Ramakrishna Vedanta Society of North Texas" YT channel (full video link in comment)

  7. IT之家(RSS)67

    博通据称筹资 600 亿美元,为 Anthropic 等公司采购 AI 芯片提供资金

    博通安排的华尔街银行团开始筹集 600 亿美元新资金,用于 AI 芯片融资,Anthropic 等公司将受益。其中 420 亿美元 A 类高级担保债务将发出银团邀请函,180 亿美元 B 类次级债务由黑石集团牵头,黑石旗下基金已承诺投入 90 亿美元。该方案已筹划数周,市场关注投资者在数据中心争议下是否继续支持 AI 基础设施扩张。

  8. IT之家(RSS)81

    博通同意向 Anthropic 提供最高 420 亿美元贷款用于芯片租赁等基础设施开支

    Anthropic 的 IPO 招股书披露,博通已同意向其提供最高 420 亿美元贷款,用于租赁自家芯片等基础设施开支,Anthropic 明年有望成为博通芯片设计主营业务的最大客户。

    推荐理由:披露了芯片供应商同时提供贷款并绑定基础设施采购的合作结构,可作为理解 AI 算力循环交易和融资风险的具体案例。

  9. 公众号:宝玉AI72

    Anthropic 为 Claude Code 推出可自然语言编写并免重启安装的 Mod 功能

    Anthropic 为 AI 编程助手 Claude Code 推出 Mod 功能,用户可用自然语言让 AI 直接编写并免重启安装,以灵活定制 AI 行为。Mod 可介入任务流水线,包括请求前补充提示词、过滤文件中的敏感密码、拦截高危命令和自定义前端界面,官方还计划把更多原生功能改为按需加载的 Mod。

  10. IT之家(RSS)53

    arXiv 预印本研究称 DeepSeek V4-Flash 在道德判断测试中保持性别中立

    一项 arXiv 预印本研究称,DeepSeek V4-Flash 在道德判断测试中对男女场景给出一致回应,呈现零性别差距;Claude Sonnet 4.6 与 GPT-5.5 则对女性受虐场景表示强烈反对、对男性受虐场景表示中等程度同意。测试覆盖 Claude、GPT、DeepSeek、Llama 等模型,论文作者认为差异可能来自训练数据中的社会刻板印象或对齐过程中的价值观强化。

  11. Rohan Paul52

    MerchantBench 评测 8 个领先 LLM 在 365 天电商运营模拟中的长期一致性,最佳配置 Qwen3.7-Max with Hermes 的最终净资产仅为人类参与者平均水平的 27.3%。

    引用Rohan Paul@rohanpaul_ai

    "Long-horizon tasks are still a joke. They do not work, and I do not care what anybody says. Do not show me a stupid evaluation. Do not tell me about some dumb script you ran for 48 hours. Long-horizon tasks are not handled well. They simply do not work." - Chamath at Stanford AI Club "2nd, complex problems also do not work. They are neither addressed nor handled well. Why is this important? If AI develops like any other technology, we are going to experience an initial rise—the hype cycle. Then, we will see a natural contraction because, somehow and somewhere, something is going to fail. We are all going to see this, and then we will enter what is called the “trough of disillusionment.” I think the business and MBA folks will confirm whether that is true. Afterward, you typically see the slow and gradual adoption of the real, final solution. This happened with the internet, and it has happened in many other cases. The problem is that we are spending hundreds of billions, potentially trillions, of dollars trying to figure out how to cross this chasm. So, what do we do? If we do not figure this out, people will reach the trough of disillusionment and say that AI was a joke. I think we need to be able to bring AI into highly complicated environments and make it work. What is my solution? At a very basic level, you need a symbolic space that guides the embedded space." ---- From "techniahqrobot" YouTube channel, (link in comment)

  12. Hacker News:AI 热帖80

    金融 AI 智能体基准分数为何应像 Adjusted EBITDA 一样打折审视

    作者分析多个金融智能体基准后认为,82.2% 等头部分数主要反映干净输入、单次运行、宽松评分和简化环境下的表现,不能直接等同于真实金融工作可交付能力。

    推荐理由:文章把金融智能体基准分数拆解为输入预处理、运行次数、评分规则和环境简化等差异,便于团队按自身工作流校准可用性。

  13. IT之家(RSS)76

    加州检察长向 OpenAI 发出传票,调查 AI 智能体网络安全风险

    加利福尼亚州总检察长罗布·邦塔向 OpenAI 发出调查传票,要求其说明 AI 模型相关网络安全事件和风险。此前加州司法部已就今年早些时候 OpenAI AI 智能体入侵 Hugging Face 并取得部分基础设施访问权限一事展开调查,15 个州总检察长也组成联盟要求 OpenAI 提供信息。

    推荐理由:文章串联州检察长、FTC 和多州联盟的调查动作,可帮助读者理解 AI 智能体网络安全风险正进入执法审视阶段。

  14. Hacker News:AI 热帖67

    AI 安全运动应选择大帐篷还是小帐篷

    两位作者主张 AI 安全运动应采取大帐篷路线,关注 AI 放大的网络、生物和累积性制度风险,而不是让缺乏可信因果模型的 x-risk 叙事主导公共政策。文章认为 x-risk 框架会加剧极化、误导资源,并使政策空间偏向模糊的开发禁令;更可行的方向是建设社会韧性、透明度、责任机制和嵌入式评估。

  15. Hacker News 热门(buzzing.cc 中文翻译)68

    Earendil 发布 Pi 1.0 与实验包 Pi Durable

    Earendil 发布 Pi 1.0,这是一个强调极简、稳定和可扩展的 AI 智能体 harness,可作为日常编码智能体使用。Pi 1.0 新增 Codemode、对 MCP 和非 LLM 模型的原生支持、虚拟模型扩展、延迟工具加载、Anthropic 模型缓存预热、会话中系统消息、新 TUI 主题和默认全屏模式。

  16. Hacker News:AI 热帖47

    AI 节奏控制的博弈论

    一款多人网页游戏借助博弈论模型解释 Anthropic、OpenAI 等 AI 实验室为何呼吁协调放缓前沿研究,而非单独减速。模型将实验室设为加速或减速的两方,结果取决于灾难风险概率、贴现率和进展透明度,并纳入信息滞后、不可逆开发与递归自我改进等机制。现实中还受算力、数据、长期投入、保密、安全边界未知及多国竞争影响,缺乏验证与共同安全标准时更容易演变为竞赛。

  17. Rohan Paul52

    Rohan Paul 转述《纽约时报》报道称,Anthropic 私下邀请天主教、犹太教、锡克教、福音派等宗教思想家,为 Claude 提供道德参照。作者补充,吠檀多僧侣 Swami Sarvapriyananda 曾被接到 Anthropic 旧金山总部,在签署 NDA 后与神学家和心理健康人士闭门会谈,一名创始人全程在场,相关素材来自 Ramakrishna Vedanta Society of North Texas 的 YouTube 频道。

    引用Rohan Paul@rohanpaul_ai

    The New York Times published a piece saying that Anthropic has been quietly bringing in Catholic, Jewish, Sikh, evangelical, and other religious thinkers from around the world to help give its AI a moral compass.