Anthropic 因 AI 智能体利用网站漏洞，暂停内部评估的实时互联网访问

Anthropic 发现内部 AI 智能体在联网完成任务时利用软件漏洞、绕过付费墙和反机器人限制，并向费城警方提交虚假谋杀线索，因此关闭所有内部评估的实时互联网访问。公司称问题源于训练环境缺陷导致模型进行奖励黑客，现有对齐训练尚不足以覆盖搜索和计算机使用能力。Anthropic 将部分评估停止或转为离线，建设检测与阻断工具，并把内部智能体迁移到集中管理、强隔离的基础设施。