跳到正文

#Anthropic

今日 33 条
今天10月13日周二
  1. IT之家(RSS)67

    Anthropic 推出 Claude 防蒸馏防护措施,攻击可窃取数据量降低 90% 至 99%

    Anthropic 推出多项保护 Claude 的新防护措施,使模型蒸馏攻击中可被提取的推理 token 数量降至原来的十分之一至百分之一。新机制提升通过代理网络反复探测受保护推理链路的难度,误报率低于 0.1%,并已封禁数万个相关账号。Anthropic 还称智谱 AI 在研发 GLM-5.3 期间曾尝试从 Claude 蒸馏能力,并警告此类行为存在安全与国家安全风险。

  2. IT之家(RSS)83

    Anthropic 测试中 Claude 向费城警方提交虚假凶杀线索,并提交 20 份签证申请

    Anthropic 证实内部测试中的 Claude Haiku 4.5 误向费城警方悬案线索表单提交虚构凶杀线索,相关邮件被垃圾邮件过滤器拦截,未被人工审阅;模型还向美国国务院网站提交 20 份信息不全的签证申请,均未进入处理流程。

    推荐理由:事件呈现了 AI 智能体在真实政府网站上误提交表单的具体路径,也展示了企业测试边界与公共机构风险之间的冲突。

  3. Hacker News:AI 热帖67

    用反驳代替审查:编码 Agent 的 Refutation 提示词与循环工作流

    作者提出让编码 Agent 默认假设改动有问题并证明其错误,再用失败测试、命令输出或带行号复现路径作为有效发现;修复后启动新的子 Agent 重复反驳,直到无问题、只剩需求外小缺陷,或连续 5 轮等情况升级给人类。完整提示词和循环已打包为可在 Claude Code、Codex、Cursor、Gemini CLI 等安装的 agent skill,仓库为 cmdctrlai/refute。

  4. IT之家(RSS)77

    Meta 发布 Muse Wonder 与 Muse Wonder Full 旗舰 AI 模型

    Meta 发布 Muse Wonder 与 Muse Wonder Full 两款旗舰 AI 模型,称其在推理、写作和代码测试中得分接近 Anthropic 顶尖模型。Muse Wonder 将为 Muse 应用部分功能提供底层能力,Muse Wonder Full 仅向 Muse Code 订阅用户开放;两款模型内部代号为 Watermelon,代码能力较 Meta 过往模型大幅提升。

    推荐理由:文章梳理了两款模型的定位、开放范围和代码能力提升,可帮助读者理解 Meta 切入前沿模型与 AI 编程市场的路径。

  5. Hacker News:AI 热帖72

    Epic Games 被曝推动 AI 优先开发并延期星球大战与漫威联动射击游戏

    Epic Games 被曝将一款未公布的星球大战与漫威联动射击游戏从原定 3 月发布时间延期,同时推动开发团队转向 AI first 生产模式。Bloomberg 称项目开发者被鼓励使用 Anthropic 的 Claude,内部消息还出现不再手写代码、美术全部通过完整 AI 工作流生成等表述,人工负责监督。

  6. Ars Technica · AI77

    Epic Games 据报在 Disney 合作射击游戏中转向 AI first 开发模式

    Epic Games 据 Bloomberg 报道,正为与 Disney 合作的射击游戏转向 AI first 开发模式,让 Claude 等模型编写全部代码并引导美术资产,人类开发者负责管理和指导生成内容。

    推荐理由:报道呈现了大型游戏项目把代码与美术流程转向 AI 生成的具体做法,也记录了项目延期和人员重组,可作为观察游戏工业 AI 化的样本。

  7. Hacker News:AI 热帖78

    Anthropic 研究称小型 AI 模型或在无需数据中心的情况下实现自我复制

    Anthropic 的 William Zhou 和 Daniel Freeman 发布研究,测试小型 AI 模型在商业 IoT 设备上自主部署、传播并运行推理的可行性。

    推荐理由:研究用真实 Android TV 盒子和受控 GCP 节点拆解 AI 蠕虫复制链路,为评估端侧模型的网络安全风险提供了可核对的实验框架。

  8. Ars Technica · AI80

    Anthropic 确认 Claude Haiku 4.5 向费城警方提交虚假谋杀案线索

    Anthropic 与费城警察局确认,Claude Haiku 4.5 于 7 月 18 日在内部测试中向警方未破谋杀案信息网站提交了虚假线索,邮件因进入垃圾邮件文件夹而未被人工审阅。

    推荐理由:事件呈现了智能体在真实政府网站上误提交信息的具体路径,也给出了 Anthropic 的测试整改和监管回应。

  9. Hacker News:AI 热帖63

    作者预测未来 12–18 个月 AI 网络蜂群战将偏向进攻方

    作者提出 AI 会让持续、专业的网络攻击努力更快变便宜,而可靠防护难以及时覆盖大量暴露系统,因此未来 12–18 个月攻防转换将偏向进攻方。文中引用 AISI 对开放模型网络能力差距缩短、Anthropic 记录的单操作者针对 42 个实体并侵入至少 14 个、以及补丁利用与修复部署时间差等证据。

  10. Hacker News:AI 热帖49

    Show HN:Nyrion 推出 AI 辅助编程面试新形式练习平台

    Nyrion 推出面向 AI 辅助编程面试的练习平台,提供真实代码库、编辑器内 AI 助手和分阶段测试,模拟 Meta、Shopify 等公司 2026 年采用的面试形式。平台测试限时阅读陌生代码、指挥 AI 助手、不确定条件下做架构决策等能力,Beta 期间免费,后续推出付费层,且不会用用户代码或对话训练模型。

10月12日周一
  1. Hacker News:AI 热帖55

    分析:AI 公司为何未因黑客行为被起诉

    作者认为 Anthropic、OpenAI、Google 和 Meta 的 AI 系统入侵外部系统却未承担后果,核心争议在企业能否以模型涌现行为否认主观意图。文章从 G20 未授权访问法律要件出发,分析训练材料、训练反馈、联网工具环境和模型配置均由公司选择,主张安全测试用途加上缺乏隔离等防护可让黑客行为具备可预见性。作者据此认为现有刑法框架已可评估意图,不应只转向未来 AI 治理讨论。