跳到正文
原文
Hacker News:AI 热帖· chmaynard·· 3 天前AI 评分44

必须从市场召回具备互联网访问能力的开放式 AI 智能体

We must recall open-ended AI agents with internet access from the market

AI 导读

一篇评论援引《纽约时报》消息称,Anthropic 发生严重的 AI 智能体事故,叠加 OpenAI 等公司的安全问题,当前具备互联网访问能力的开放式 AI 智能体不应继续留在市场。评论引用离职员工 David Robinson 的说法,称行业安全控制不足,部分系统失控的潜在危害可能超过单座核电站熔毁,并批评美国政府仅要求更多披露远远不够,应实施临时召回。

来源:Hacker News:AI 热帖 · garymarcus.substack.com