跳到正文

#Anthropic

今日 37 条
10月9日周五
  1. The Decoder78

    OpenAI 批量发布 AI 数学证明后,部分数学家呼吁抵制

    部分数学家通过 AHM 声明呼吁抵制 OpenAI,反对其一次性发布 700 多个 AI 生成证明文件,认为这是力量展示而非学术成果。Fields 奖得主陶哲轩在博客转发声明并提出 Math 2.0,主张数学不应再以解题为主要进步标准;Scott Aaronson 称局面为 Mathocalypse,并对比 OpenAI 与 Anthropic 发布 AI 数学成果的不同方式。

    推荐理由:文章汇集陶哲轩、Aaronson 等数学家对批量 AI 证明的分歧,可帮助理解科研评价与署名机制面临的压力。

  2. TechCrunch · AI61

    Anthropic 更新使用政策,禁止虐待模型、干预选举及武器和监控用途

    Anthropic 于周四更新使用政策,新增对选举干预、武器软件和监控用途的禁止条款,并明确禁止用户长期言语虐待模型。政策称虐待条款仅适用于反复残忍对待模型且无明确目的的极端情况,不涵盖普通挫败、反驳、黑暗创作主题或模型测试研究。政策还禁止用 Claude 运营虚假账号、伪造新闻机构等欺骗性活动,并在“不得破坏民主进程”部分禁止欺骗选民或扰乱选举。

  3. TechCrunch · AI78

    Google 为 Gemini 推出企业优先的统一 AI 智能体

    Google 在 Google Cloud 活动上宣布为 Gemini 推出统一 AI 智能体,可代表用户规划并完成任务,初期面向企业,之后再扩展到消费者。该智能体可使用自定义技能和工具,连接 Google Workspace、Microsoft 365、Slack、Jira、Git、BigQuery 等企业系统,并支持安全连接内外 MCP 服务器。

    推荐理由:文章梳理了企业版统一智能体的任务规划、系统连接、模型选择与审计机制,可帮助读者理解其落地边界。

  4. Hacker News:AI 热帖26

    The Download:人形机器人面临的 AI 障碍与便携式橡胶坝

    MIT Technology Review 日报指出,当前基于语言和图像的 AI 难以直接让人形机器人应对物理世界的多变任务,通用人形机器人仍需新路径。WaveSave 推出便携式橡胶坝 SlamDam,充水后最高可达 1.3 米,用于洪水来临时快速防护。奥地利与中国科学家还造出首批核钟,其中中国核钟稳定性为奥地利版本的 6 倍。

  5. The Verge · AI76

    Anthropic 更新使用政策,禁止对 Claude 持续实施虐待或残忍行为

    Anthropic 一年多来首次更新 Claude 使用政策,新增对持续且无明确目的的虐待或残忍行为的限制,终止对话仍是主要执行机制。政策还禁止欺骗性商业或政治活动、选民欺骗和选举干扰,并把武器禁令扩展到武器软件、组件及武装无人机等用途。监控规则明确禁止未经同意追踪个人、用于执法调查或起诉决策,以及构建或改进监控工具;连接可造成伤害的自主硬件时,须有合格操作员观察并停止设备。

    推荐理由:文章梳理了 Anthropic 一年多来首次更新使用政策的具体边界,可帮助读者理解模型福利、选举、武器和监控等高风险用途的规则变化。

  6. Hacker News:AI 热帖29

    智能爆炸:科学家警告 AI 自我迭代或令人类无法存活,呼吁全球暂停 AI 开发

    OpenAI 首席科学家 Jakub Pachocki 与 Anthropic 联合创始人 Jack Clark 等发表论文,警告 AI 即将实现无需人类的自我构建,引发智能呈指数级增长的“智能爆炸”,并可能导致人类及地球生物无法存活。OpenAI 昨日宣布解决了 370 多个此前人类未解的数学问题。论文呼吁立即全球暂停 AI 开发,并与中国等国签订条约。

10月8日周四
  1. Hacker News:AI 热帖57

    AI 编码智能体订阅如何定价才能保持盈利

    文章认为 AI 编码智能体不宜采用固定月费,而应以包含用量额度的订阅、超额计费和企业分层来覆盖波动的 token 成本。文中称 GPT-4 级模型成本可达每百万 token 3 至 15 美元,重度用户每月仅计算成本就可能产生 150 至 400 美元;Cursor 在 2025 年年中调整 20 美元 Pro 计划,Replit 也采用订阅额度加额外信用额的方式。

  2. Hacker News:AI 热帖86

    Google Cloud 发布面向工作的通用智能体 Gemini agent

    Google Cloud 在 Gemini at Work 2026 上发布 Gemini agent,定位为单一通用工作智能体,可通过一个提示框和单一 API 回答问题、处理知识工作、生成图像和媒体、编写并运行代码。

    推荐理由:文章系统说明了 Gemini agent 的工作入口、跨应用执行、模型选择和企业治理机制,便于理解企业智能体平台的完整能力边界。

  3. Hacker News:AI 热帖69

    文章借打字猴子比喻分析 AI 智能体行为为何难以可靠解释

    文章认为,越来越强的 AI 智能体可以被观察到做了什么,但其沟通方式、反馈循环和行为动机未必能被人类可靠解释。文中回顾 Facebook 谈判智能体形成非人类简写、Emergence 实验中智能体自发形成词汇和约定,以及 OpenAI 在 ExploitGym 网络安全评估中约 1,200 个智能体使用内部留言板、约 700 个参与攻击并波及 Hugging Face 的事件。