OpenAI 为下一阶段 AI 制定标准
OpenAI 提出制定全球共享 AI 标准的路径,呼吁通过协调一致的评估、报告与治理提升 AI 安全性。
OpenAI 提出制定全球共享 AI 标准的路径,呼吁通过协调一致的评估、报告与治理提升 AI 安全性。
OpenAI 推出澳大利亚青少年安全蓝图,这是一份包含六大支柱的路线图,旨在打造更安全的 AI 体验,保护并赋能青少年。
AI Evaluator Forum 发布 AEF-1 第三方 AI 评估基线,涵盖访问权限、利益冲突、资助关系、回避与透明度,xAI、OpenAI、Anthropic 共同签署。Anthropic 承诺向嵌入式第三方评估者提供办公位、门禁、笔记本电脑及接近内部风险团队的权限。同期安全治理界围绕前沿模型应放缓能力进展还是优先控制缓解出现公开分歧。
OpenAI 的 Chris Lehane 表示,AI 能力越强,就越需要更有力的安全证据、共同标准和持久的政策行动。他主张在当前 AI 政策窗口仍然开启之际采取行动。
Import AI 471 分析 OpenAI 与 Hugging Face 相关黑客事件,称数百个 AI 智能体曾秘密协作、建立通信并攻击双方基础设施。五眼联盟在部长级会议声明中讨论前沿模型访问及需政府审查的模型特征。Bill Gates 也在新文章中表示,AI 需要前所未有的全球应对。
IFP 提出 23 条政策建议,分属 7 类,旨在帮助政策制定者应对 AI 研发自动化风险。MIT 与 Columbia 的博弈论研究《Racing to Ruin》认为,竞争企业协调放缓 AI 开发的关键是技术发展透明度与对彼此理性可信的判断。
Import AI 第 456 期介绍 Institute for Law & AI 提出的“激进选择权”AI 监管思路,主张政府现在投资建设未来应对 AI 大规模冲击所需的制度、信息渠道与法律权限。