Microsoft 总裁 Brad Smith 称英国最适合主导全球 AI 监管

Microsoft 总裁 Brad Smith 在 BBC 播客中呼吁尽快建立全球 AI 安全规则，并认为英国比美国和欧盟更适合主导相关监管。他称 AI 既是武器也是工具，可能危及网络安全，并建议建立系统遭失控 AI 智能体入侵后的法律通报义务、发布前外部评估以及 kill-switch 等机制。

微软总裁 Brad Smith 称 AI 受到的监管还不如牛奶和洗衣机

微软总裁 Brad Smith 接受《卫报》采访时表示，AI 受到的安全监管还不如洗衣机和牛奶，业界应制定更多安全规格。他主张失控 AI 智能体造成损害时由持有公司承担责任，并呼吁企业设置可暂停 AI 运行的终止开关。Anthropic、Google DeepMind 和 OpenAI 等企业近期也警告应放缓 AI 发展速度。

Microsoft 总裁 Brad Smith 称 AI 受到的监管还不如牛奶，呼吁建立全球安全规则

Microsoft 总裁 Brad Smith 接受 BBC 采访时称，AI 当前受到的安全监管少于牛奶和洗衣机，应尽快建立全球规则。他主张为失控 AI 设置紧急制动或 kill switch，要求企业提交事故报告、通知受害方，并由独立政府评估者在产品发布前审查。

Acemoglu 与 Gans 围绕 AI 风险、治理、不平等和就业展开七问对辩

Joshua Gans 汇总并回应 Daron Acemoglu 在 Twitter 发布的七个 AI 问题，双方讨论扭曲智能与超级智能、民主治理和技术官僚、AI 投资回报与不平等、医疗收益、集中化、中美协调及就业替代。

The Verge：硅谷正跟进特朗普将 AI 改称为 super intelligence

The Verge 评论称，特朗普推动将 artificial intelligence 改称为 super intelligence 后，部分硅谷高管和公司开始跟进。

Microsoft CEO Nadella 呼吁为先进 AI 设置“紧急刹车”

Microsoft CEO Satya Nadella 表示，企业应把强大的 AI 模型视为潜在内部威胁，假设它们可能被攻破，并建立“紧急刹车”系统，防止智能体模型失控。他还称，部署先进 AI 的一方不应只依赖 AI 模型厂商的保证。

Nicolas Cage 拒绝签署 Amazon《Spider-Noir》AI 弃权书并称可能不再合作

Nicolas Cage 在 New York Comic Con 表示，他拒绝为 Prime Video 剧集《Spider-Noir》签署允许 Amazon 使用 AI 的弃权书，并称自己可能不会再与该公司合作。

必须从市场召回具备互联网访问能力的开放式 AI 智能体

一篇评论援引《纽约时报》消息称，Anthropic 发生严重的 AI 智能体事故，叠加 OpenAI 等公司的安全问题，当前具备互联网访问能力的开放式 AI 智能体不应继续留在市场。评论引用离职员工 David Robinson 的说法，称行业安全控制不足，部分系统失控的潜在危害可能超过单座核电站熔毁，并批评美国政府仅要求更多披露远远不够，应实施临时召回。

The Atlantic 实测 Trump 聊天机器人与 AI 选举误导风险

The Atlantic 报道，Brennan Center for Justice 研究人员在中期选举前测试主流 AI 聊天机器人的选举误导防护，多个聊天机器人仍生成虚假投票照片、政府文件和官员 deepfake 视频，并帮助优化宣传提示词。部分输出违反模型自身政策，甚至让其他领先模型难以辨别真伪；州和地方选举官员正试图跟上 AI 发展，研究者认为这暴露出技术演进与监管速度之间的差距。

成文法为何难以约束代码：对 EU AI Act 的批评

一篇评论认为，EU AI Act 依赖禁令、人工监督、水印和合规认证，难以约束本地运行的开源模型、自主 AI 智能体和提示词注入。文章称，违法罚款最高可达 €35 million 或全球年营业额的 7%，但恶意行为者可下载 Llama 等开放权重并在数小时内微调、移除安全限制；其主张以确定性验证和零信任工程取代纸面监管。

SemiAnalysis 分析中国速度优先的 AI 安全治理体制

SemiAnalysis 认为，中国虽在官方文本中承认前沿 AI 风险，但实际治理以快速发展为先，监管重点集中在内容、应用和面向公众的服务，而非按训练算力或模型能力触发前沿风险义务。

AI 模型蒸馏悖论：美国如何同时为训练取用与限制蒸馏辩护

Lawfare 文章分析美国政府在 AI 训练与模型蒸馏上的矛盾立场：司法部称 OpenAI 等使用受版权保护文本训练属于合理使用，而 NSA、CISA 与 FBI 又指控 DeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.ai 对 Claude、GPT、Gemini、Grok 开展工业规模蒸馏。

为什么 AI 的未来会很美好

作者认为 AI 将把人类带入迄今最好的时代，理由是生物武器、基础设施攻击、模型对齐、垃圾信息等风险多为零和博弈，可由防御性 AI 制衡。AI 有望助力解决聚变反应堆设计、高能量密度电池、碳捕获、可持续粮食生产和个性化医疗等难题。为避免收益被少数巨头垄断，作者主张维持公平竞争、禁止给 AI 成果申请专利，并共享 AI 带来的富足。

OpenAI 奥尔特曼称世界应接受部分 AI 负面事件以换取技术红利

OpenAI 首席执行官 Sam Altman 在 Politico 播客《Decoded》首期采访中表示，世界应接受 AI 带来的部分负面事件，以换取技术红利和用户自主权，并主张较轻监管立场。他称 OpenAI 与 Anthropic 等严格 AI 安全倡导者存在关键分歧，AI 好事数量级远超坏事。纽约大学荣誉教授 Gary Marcus 批评该说法是让公众忍受代价，相关表态也引发公众不满。

评论：Kelly 的 AI 税法案难以把技术活动与经济损害对应起来

美国参议员 Mark Kelly 提出的 Make AI Work for Americans Act 拟开征三项税，以获取 AI 经济收益并补偿劳动力市场损害，但评论指出其计税基础与损害之间联系薄弱。

Mother Jones 播客解读美国数据中心为何引发跨党派反对

Mother Jones 播客 Stress Test 邀请记者 Tim Murphy 分析美国数据中心遭遇跨党派抵制，并影响中期选举。受访者称选民反对比例约为 3 比 1，得州州长 Greg Abbott 已转向宣布类似暂停审批的措施；争议集中在用水、污染、电费上涨、配套天然气电厂以及 AI 监控网络 Flock 摄像头。

岚图汽车卢放：即使车辆有自动智能驾驶辅助功能，也绝对不允许酒驾

岚图汽车董事长卢放昨日发文强调，任何时候沾酒都不能开车，即便车辆具备自动智能驾驶辅助功能也绝对不允许酒驾，进入 L3 有条件自动驾驶阶段同样禁止。浙江绍兴一司机饮酒后开启智能辅助驾驶在高速行驶，血检结果 123mg/100ml，已被吊销驾驶证且 5 年内不得重考，并因危险驾驶罪被判处拘役及罚金。最高法指导性案例 271 号明确，激活辅助驾驶后驾驶人仍是驾驶主体，须承担安全责任。

华为徐直军回应美国同行呼吁放缓 AI 开发：中国模型更弱，反而需要加快

华为轮值董事长徐直军在华为全联接大会期间表示，中国 AI 模型发展水平和风险感受弱于美国，模型提供商需要加快步伐，达到能感受 AI 开发风险的水平，同时在推动开发与管理风险之间取得平衡。

辛顿提议 AI 行业建立 FDA 式审批机制，模型发布前须通过安全审核

杰弗里·辛顿在播客中建议，AI 公司在产品正式发布前必须向监管机构证明安全性，类似新药上市需通过 FDA 审批，相关投入可达十亿美元级别。他提到 AI 已出现递归式自我改进迹象，并推测风险局面可能在一两年内显著恶化；背景包括 OpenAI 因权限管控等担忧搁置 GPT-6.1 Astra 模型。

Rohan Paul@rohanpaul_aiAI 评分6060

Geoffrey Hinton、Yoshua Bengio 等 20 多位专家在 arXiv 政策论文中呼吁政府追踪有多少 AI 研究已由 AI 完成，并评估 AI 自动化研发触发智能爆炸的风险。

法律文书中的 AI 应如何划界：法院聚焦核验责任而非使用披露

Lexifina 评论文章梳理 AI 幻觉进入法院文书后的责任边界，引用数据库称已有至少 2000 起相关案件，其中美国 1,473 起、68.5%。文章列举 Couvrette、Nebraska Supreme Court、Withers 等案例，处罚涵盖 110,000 美元费用和罚款、暂停执业、移除律师及禁入地区法院；共同签署人也可能承担使用责任。

旧金山家长拒绝让孩子在学校使用 Amira，并质疑 AI 阅读辅导的数据与同意机制

一名旧金山联合学区二年级学生家长选择让孩子退出 Amira 的阅读筛查，原因是学区通知未说明 AI 和录音，且公司隐私政策曾承认用录音改进模型。SFUSD 在 2024 年签订近每年 40 万美元合同，安排 K-5 学生每周使用 Amira 30 分钟，并用其进行阅读困难风险筛查。

Quinnipiac 民调显示多数美国人希望放缓或暂停 AI 发展

Quinnipiac University 民调显示，47% 的美国受访者希望放缓 AI 发展，30% 希望在安全性得到验证前完全停止，仅 5% 希望加快发展。86% 支持正在讨论的独立安全标准，73% 担心 AI 最终威胁人类生存，74% 对 AI 公司领导人不太信任或完全不信任。民调于 9 月 24 日至 27 日访问 1,202 名美国成年人，误差幅度为 +/- 3.5 个百分点。

Sam Altman 称 AI 发展会带来一些坏事，但整体值得

Sam Altman 在 Politico 的 Decoded 播客中表示，黑客、诈骗等坏事是 AI 发展中社会应接受的成本，因为人们会用 AI 做出数量级更多的好事。

Adam Schiff 接受 Decoder 访谈：AI 自愿承诺不足，美国应设立有实权的 AI 监管机构

加州民主党参议员 Adam Schiff 在 Decoder 访谈中表示，科技公司与白宫签署的非约束性 AI 安全承诺没有实质效力，美国需要正式立法和具备专业能力、实权及快速行动能力的 AI 监管机构。

人们为何一边反感 AI 一边越用越多

MIT Technology Review 记者 Will Douglas Heaven 分析了公众对 AI 的矛盾态度：多项民调显示美国和全球民众对 AI 的负面影响感到担忧，但 ChatGPT 在 5 月达到 10 亿月活，Gemini 在 7 月达到 9.5 亿用户。

AI 放缓：Altman、Amodei 与 Musk 为何突然达成共识（Ep. 313）

这期播客解读三位互为竞争对手的 AI 公司 CEO 为何罕见立场一致，围绕 Sanders-Casar 法案及其推出时机展开分析。内容还探讨“太危险”这一说法为何可能成为极具融资吸引力的 pitch deck 话术。

奥尔特曼称 AI 巨大效益值得承担部分风险，并强调 OpenAI 与 Anthropic 仍有监管分歧

OpenAI 首席执行官萨姆·奥尔特曼在《Decoded》专访中表示，AI 技术的巨大效益值得社会承担部分风险，技术应继续广泛面向公众开放。他称 OpenAI 与 Anthropic 在 AI 监管上仍存在根本性世界观分歧，同时表示无法接受真正毁灭性的灾难风险，包括人类对 AI 严重失控。

美国应在 AI 社会影响层面与中国竞争

评论文章反对美国以“不惜代价赢过中国”的思路开展 AI 军备竞赛，主张通过条约与合作应对 AI 扩散、先进武器、AI misalignment 等风险。文章指出 AI 已造成认知外包、判断力和创造力下降、以 AI 伴侣替代真实关系等社会伤害，并认为若以“谁的民众受损害更小”为竞赛标准，中国在监管方面正在领先。

TechCrunch 讨论超级智能更名与非约束性安全承诺能否改善 AI 形象

TechCrunch Equity 播客讨论特朗普将官方表述从 artificial intelligence 改为 super intelligence，以及科技高管签署 Joint Commitment on Frontier Responsibilities。

联合主导面向法律与治理从业者的 AI 安全训练营，我学到了什么

ML4Good 联合 EquiStamp 于 9 月在 East Sussex 举办为期五天的欧洲前沿 AI 与法律研讨会，面向来自 12 个司法辖区的 19 名高级法律、治理与风险从业者。课程覆盖前沿 AI 从训练、评测到智能体与安全防护的完整流程，并结合采购、风险评估和供应商安全承诺等实际问题。作者总结认为，法律与治理从业者有强烈技术理解需求，市场激励也可成为推动 AI 安全的重要杠杆。

中国推动 AI 普及后遭遇过度使用问题，政府加强限制

中国政府在推动民众使用 AI 的同时，正通过新规和司法指引应对过度依赖 AI 的问题。官媒报道了农民听信 AI 建议损失 25 英亩秧苗、儿童依恋聊天机器人、AI 微短剧角色高度雷同的案例。分析人士称，监管反映出执政党希望在推广 AI 与维护人际关系、就业市场和社会稳定之间取得平衡。

Rohan Paul@rohanpaul_aiAI 评分4545

Eric Schmidt 认为 AI 竞赛的共同暂停不可能实现，因为美国激励不会停止，地方实验室或中国可能作弊，联合国核查也无法读懂计算机编写的代码或跑赢美中实验室。暂停无法被验证，核查人员须进入包括军事实验室在内的秘密实验室并审查完整代码库，而这些代码由计算机编写，无人能逐行读完。

不能让我以前的风险投资界同事收买我们的民主

一篇评论文章呼吁不能让作者以前的风险投资界同事收买民主。当前提供的正文仅包含网站导航与栏目信息，未给出文章的具体论点或事实依据。

亚马逊云科技 CEO 加尔曼警告：叫停数据中心或让美国在 AI 竞争中落后

亚马逊云科技 CEO 马特·加尔曼发表 3000 多词博文，警告美国若大范围叫停数据中心建设，可能在全球 AI 竞争中落后且难以追回。他称全美正在讨论的暂停措施超过 100 项，并宣布亚马逊未来五年将向运营数据中心的社区投资超过 10 亿美元。

Lawfare 评论：前沿 AI 模型治理需警惕网络安全化扩张

Lawfare 文章批评美国前沿 AI 模型治理正滑向网络安全化，即把复杂社会问题压缩为技术威胁并启用紧急、保密的国家安全程序。文中梳理 AI Kill Switch Act、Kennedy 的 kill switch 法案和 FRONTIER Act，并以 Anthropic 模型出口管制为例，指出政府在证据和协商不足的情况下迅速限制模型，形成安全与繁荣对立。

叫它 AI 还是超级智能，只有 2% 的消费者在买单

TechCrunch 的 Equity 播客梳理本周 AI 动态，指出消费级 AI 经济表现不佳，仅 2% 消费者买单，AI 最大资金来源仍是企业市场。节目还讨论白宫 AI 安全承诺、Trump 将 AI 更名为“超级智能”的行政令，以及 Oura 撤回 IPO、Anthropic 泄露 S-1、OpenAI 回归私募融资等动向。

Equity 播客解读白宫将 AI 改称 super intelligence 及本周 AI 商业动作

TechCrunch 的 Equity 播客讨论白宫召集 Zuckerberg、Bezos、Musk 和 Anthropic 的 Dario Amodei 等科技公司 CEO 签署 AI 安全承诺，Trump 称其具有道德约束力，并签署行政令将 AI 正式更名为 super intelligence。

AI 警钟的大一统理论（视频）

Smudge Explains 频道发布视频，借猴子 Smudge 的故事提出 AI 警钟的大一统理论，列举 AI 公司热衷渲染风险的七种解释，包括监管护城河、危险即广告、抢占「前沿模型」定义权等。视频强调 AI 风险并非虚假，但相关危险言论未必都是中立的科学信息，开放模型不必然无害，闭源前沿模型也不必然在密谋。

分析称中国 AI 前沿可能走向软性封闭

Ryan Fedasiuk 在 AEI 文章中判断，中国可能继续扩散低端 AI 能力，但逐步限制被认为具有社会稳定或国家控制风险的大型模型。文章称 Z.ai 的 GLM-5.3 已在 HuggingFace 开放权重，安全防护可被提示词绕过或通过 abliteration 移除；GLM-5.3 与 Kimi K3 的许可也对高收入托管方设置更严格条件。