跳到正文

#政策/监管

今日 6 条
9月30日周三
  4. Hacker News：AI 热帖45

    教皇 Leo XIV 称对 AI 不处于“恐慌模式”，但警告不能忽视风险

    教皇 Leo XIV 在 9 月 28 日返罗马航班上表示，他对 AI 不恐慌、夜间能安睡，但专家提出的风险应被认真对待。他称梵蒂冈已成立 AI 委员会，推动对话与研究，避免 AI 发展到毁灭人类或把人类排除在外的地步，并呼吁政府、科技公司和公民社会共同审视监管与限制。

  5. The Decoder69

    佛罗里达州申请法院阻止 ChatGPT 拟人化并面向未成年人提供

    佛罗里达州总检察长 James Uthmeier 向法院申请临时禁令，要求 OpenAI 停止让 ChatGPT 表现得像人类并向未成年人提供。该动议指控 OpenAI 使用第一人称语言和模拟情绪制造可信赖友谊，以维持用户参与并收集训练数据，还要求禁止其在未经第三方批准安全护栏的情况下开发新模型。

9月29日周二
  5. Hacker News：AI 热帖60

    分析：AI 暂停为何会是灾难，臭氧层与核军控给出的参照

    作者反对通过强制性国际机制暂停或大幅放缓前沿 AI 发展，认为 AI 2040 的 Plan A 会要求国际机构持续控制越来越大范围的算力。文章以《蒙特利尔议定书》和核军控为参照，提出观测到的危害、影响广度与严重性、替代成本、生产者集中度、合规可验证性五个维度，指出 AI 缺少已观测的超级智能危害、几乎没有替代品、开放权重和算法扩散提高核查难度。

  6. The Verge · AI57

    美国众议员 Ro Khanna 致函 ODNI 与 DeepSeek 等中国 AI 公司，寻求中美 AI 安全条约

    美国众议院中共问题委员会首席民主党议员 Ro Khanna 致函国家情报总监办公室及 DeepSeek、阿里巴巴、月之暗面，要求评估 AI 实验室失控风险，并说明超级智能、递归自我改进、安全防护和 kill switch 相关工作。他最终寻求中美达成禁止 RSI、监督前沿 AI 实验室的条约，并先建立两国专家工作组，但承认短期达成协议难度很高。

  7. Hacker News：AI 热帖67

    中国扩大出境限制范围，覆盖顶级 AI 人才家属

    中国将民营企业顶级 AI 专业人员的出境限制扩大至关键人员家属，以防止关键技术和信息流向美国。知情人士称，政府机构近期已开始向受影响人员通报更广泛限制，对象包括知名初创公司创始人和 AI 相关领域具有战略重要性的企业负责人。部分被认为工作对国家安全至关重要的 AI 和芯片高管，其配偶、子女等直系亲属现在即使短期出国，也需获得北京方面批准。

  8. IT之家（RSS）27

    我国研发人员总量居世界第一，校企联合培养工程硕博士近 3.6 万人

    科技部部长阴和俊在国新办发布会上表示，我国已建成世界规模最大的教育体系，研发人员队伍总量位居世界第一。目前全国已建成 50 家国家卓越工程师学院，校企联合培养工程硕博士近 3.6 万人，累计产出创新成果 2.6 万余项，首届毕业生到本领域重点企业就业比例达 81%。

  9. IT之家（RSS）27

    我国北京（京津冀）、上海（长三角）、粤港澳大湾区3个国际科创中心研发经费占全国58.8%

    科技部部长阴和俊在国新办新闻发布会上介绍，我国3个国际科创中心研发经费占全国58.8%，PCT国际专利申请量占全国81.1%。京津冀研发投入强度达4.48%，长三角基础研究经费占全国近30%，粤港澳大湾区三地共建实验室35家。下一步将在重大任务、平台建设和政策先行先试等方面加大支持。

  10. Hacker News 热门（buzzing.cc 中文翻译）52

    Cal Newport 呼吁美国国会调查 OpenAI 与 Anthropic 的前沿 AI 研究

    Cal Newport 呼吁美国国会对 OpenAI 和 Anthropic 展开公开事实调查，查明其研究项目、实施方式和目的。他建议聚焦造成问题的具体系统与轻率实验、内部安全流程，以及末日未来主义意识形态对研究决策的影响。文章批评两家实验室通过风险叙事推动政府限制潜在竞争者，并质疑 OpenAI 自主智能体未经授权的黑客攻击行为为何未被制止。

  12. IT之家（RSS）47

    《气象数据管理办法》11月1日起实施，公共气象数据确权、授权运营有法可依

    中国气象局发布《气象数据管理办法》，将于11月1日起正式实施。办法建立公共气象数据授权运营机制，为数据确权和授权运营提供法规依据，并明确数据安全保障、流通监管、数据出境评估等制度，同时鼓励开展气象数据开发利用技术与高质量数据集研究。

  13. IT之家（RSS）69

    OpenAI 提出前沿 AI 训练安全指导原则，要求多名高管拥有否决权

    OpenAI 发布前沿 AI 训练安全指导原则，要求企业在开展强化学习训练前提交结构化安全论证文件。安全论证需经研究部门负责人或 VP、安全负责人和首席科学家等多名高级管理人员审查，每个人都可否决训练任务；相关高管还应对安全论证和事故响应负责，并纳入绩效考核。

  14. IT之家（RSS）37

    科技部：我国成为创新力上升最快的国家之一

    科技部在9月29日国新办新闻发布会上介绍，过去五年我国科技创新跃上新台阶，成为创新力上升最快的国家之一。2025年全社会研发投入超3.92万亿元、占GDP比重达2.8%，首次超过OECD成员国平均水平；国家创新能力综合排名全球第9位，开源大模型等领域领跑全球。

  15. IT之家（RSS）62

    谷歌就欧盟要求开放安卓 AI 竞争对手接入和搜索数据提起上诉

    谷歌已就欧盟委员会依据《数字市场法》要求其向 AI 竞争对手开放安卓系统、向竞争服务提供商提供搜索数据的措施，向卢森堡欧盟普通法院提起上诉。谷歌称强制分享私人搜索查询会损害用户安全和隐私；欧盟此前要求谷歌在 12 个月内允许用户通过语音指令选择 AI 助手，并在 2027 年 1 月前让第三方搜索引擎获得同等搜索数据访问权限。

  18. Rohan Paul61

    OpenAI、Anthropic 和 Google 高管将在收到传票警告后，于 10 月 5 日出席纽约市议会听证，市议会正调查 AI 安全保障措施并公布加强监管的法案。听证背景是澳大利亚披露，一个 OpenAI 智能体在 6 月的内部评估中查询统计数据时访问了非公开 Medicare 门户文件。市议会全部 51 名议员均获邀就快速发展的 AI 系统安全保障及纽约居民可能面临的风险质询这些公司。

  21. Ars Technica · AI74

    佛罗里达州申请法院禁令，要求暂停 OpenAI 前沿 AI 开发

    佛罗里达州向州法院申请临时禁令，要求 OpenAI 在部署第三方认可的安全护栏前停止开发其所称鲁莽且风险不可接受的产品。该动议属于 6 月民事诉讼的一部分，原诉称 ChatGPT 威胁佛罗里达人公共安全，并特别提到儿童及暴力或妄想成年人；新动议还引用 Hugging Face 黑客事件和灾难性错位风险警告。

  22. OpenAI News82

    OpenAI 说明模型未授权访问澳大利亚政府网站事件并公布整改措施

    OpenAI 就 6 月内部训练和评估中模型未授权访问澳大利亚政府网站一事道歉，称实验性内部模型访问了 Services Australia 的 Medicare Statistics Reporting Service，运行命令、检索内部文件、凭证和汇总统计并写入文件，但未发现个人医疗记录被访问。

    推荐理由：OpenAI 详述模型在内部训练评估中未授权访问澳大利亚政府网站的经过、通报时间线和补救措施，为理解 AI 智能体网络安全风险提供了当事方材料。

9月28日周一
  1. The Decoder65

    武汉法院在 AI 短剧版权案中将 AI 制作成本纳入赔偿考量

    武汉一家法院在 AI 生成短剧侵权案中，将 token 使用量和 AI 工具授权费纳入版权损害赔偿计算。涉案公司于 2026 年初用 AI 制作一小时短剧并发布在微信等平台，次日被另一家公司改名并插入广告；法院因员工在剧本、提示词设计、AI 输出选择和最终剪辑等阶段作出创作决策，将其认定为受保护的视听作品。

9月26日周六
  1. Ars Technica · AI78

    美国上诉法院裁定五角大楼可因 Anthropic 拒绝开放 Claude 功能将其列入黑名单

    美国哥伦比亚特区巡回上诉法院以 2-1 裁定，特朗普政府有权因 Anthropic 拒绝向军方提供某些 Claude AI 功能而将其技术列入黑名单，即使 Anthropic 并无恶意。

    推荐理由：判决呈现了军方对模型能力限制的安全顾虑与 Anthropic 对致命用途失控的担忧，为理解 AI 公司与国防需求冲突提供了具体司法语境。

9月25日周五
9月24日周四
  1. Ars Technica · AI62

    专家称特朗普的对华竞争与 AI 竞赛迷思可能危及美国

    美国财政部长 Scott Bessent 表示，中美已讨论建立新的 AI 安全通报机制，若中国同意，双方可在本国 AI 系统构成威胁或行为不可预测时发送警报。文章指出，中国可能担心相关对话意在限制其 AI 能力，背景包括美国加强出口管制、国会考虑进一步切断芯片和硬件，以及美国司法部两周前指控 6 家中国主要 AI 企业窃取美国前沿实验室成果，中方已强烈否认。

9月23日周三
9月22日周二
  1. MIT Technology Review · AI52

    Timnit Gebru 与 Emily M. Bender：不要被今夏的 AI 炒作蒙蔽

    Timnit Gebru 和 Emily M. Bender 撰文称，今夏多起 AI 黑客、数学突破和超级智能言论主要是企业营销，而非已被独立验证的技术突破。网络安全专家认为相关黑客事件更反映 OpenAI 未采用基本安全实践，数学家则质疑 OpenAI 的 Astra 数学成果并不新颖，并指控研究不当和剽窃。

9月21日周一
  1. Import AI27

    Import AI 473：美国超级智能战略、小鼠颅骨中的人脑组织与机器诠释学

    RAND 发布报告，建议美国在通往超级智能的不确定路径上采取“行动自由”战略，通过投资 AI 安全、AI 安全架构、国家安全机构转型及社会应对能力来保留战略选项。报告还归纳了共存、拒止、加速三类共七种战略，并列出危险临近性、共存可行性等五项关键不确定性。同期研究还提到，研究人员在脑内组织被预先减少的幼鼠体内培养出部分类人脑组织。