特斯拉在德国交通部异议后将欧洲 FSD 更名为“特斯拉辅助驾驶”
特斯拉在德国交通部提出异议后,决定将欧洲市场的高级驾驶辅助系统由“完全自动驾驶(监督版)”更名为“特斯拉辅助驾驶”。德国交通部长比尔格称原名称容易造成误解,并将推动该系统在欧洲获批,欧盟最早可能在今年晚些时候投票。荷兰此前已成为欧洲首个批准监督版 FSD 的国家,路透社同时报道特斯拉的游说依据受到安全研究质量方面的质疑。
特斯拉在德国交通部提出异议后,决定将欧洲市场的高级驾驶辅助系统由“完全自动驾驶(监督版)”更名为“特斯拉辅助驾驶”。德国交通部长比尔格称原名称容易造成误解,并将推动该系统在欧洲获批,欧盟最早可能在今年晚些时候投票。荷兰此前已成为欧洲首个批准监督版 FSD 的国家,路透社同时报道特斯拉的游说依据受到安全研究质量方面的质疑。
日本政府呼吁企业强化 IT 系统安全并重构响应框架,将近期 AI 驱动网络攻击和大规模数据泄露视为可能中断业务的经营风险。政府要求企业扩大网络安全投资、配置专职人员和响应部门,遇袭后迅速向 National Cyber Office 或专门安全机构通报。
Trump 宣布组建 Super Intelligence Force(SIF),由国家情报总监 Jay Clayton 牵头,并与联邦政府协调以保持美国在 Super Intelligence 领域的领先地位。
德国联邦政府退出原定与 Mistral、SAP 推进的 AI 合作伙伴关系,联邦数字部称目前没有针对 Mistral 的采购计划,项目将由两家企业自行继续开发。
特朗普正推动用 Super Intelligence 取代 Artificial Intelligence,并在上周通过行政命令要求尽可能避免使用 AI。CAISI 已改名为 CAISSI,司法部新闻稿也改用该说法,Musk、Bezos、Huang 和 Sam Altman 等科技界人物相继表态配合。
The Atlantic 报道,Brennan Center for Justice 研究人员在中期选举前测试主流 AI 聊天机器人的选举误导防护,多个聊天机器人仍生成虚假投票照片、政府文件和官员 deepfake 视频,并帮助优化宣传提示词。部分输出违反模型自身政策,甚至让其他领先模型难以辨别真伪;州和地方选举官员正试图跟上 AI 发展,研究者认为这暴露出技术演进与监管速度之间的差距。
亚利桑那州上诉法院撤销 Gabriel Paul Horcasitas 因枪杀 Christopher Pelkey 被判处的 10 年半最高刑期,并发回重审。死者家属用其形象制作 AI 视频,在量刑听证中由 AI 复原形象表达宽恕;上诉法院认为该视频并非真实事件记录,且法官称自己喜爱并相信其真实性,导致量刑程序根本不公。
中共中央、国务院发布《关于发展新质生产力的意见》,提出19条重大发展改革任务,并将大力推进科技创新列为五大任务之首。文件提出全面实施“人工智能+”行动,加快智能网联新能源汽车、人工智能手机和电脑、人形机器人等新一代智能终端场景应用,同时布局具身智能、量子科技、脑机接口、第六代移动通信等未来产业。
Anthropic 更新使用政策,将用户对 Claude 持续且无必要的残忍或虐待行为列为禁止行为,并允许工具在极端情况下结束交互。政策不适用于常见的用户沮丧、反驳、黑暗创作主题或模型测试研究,但残忍行为的具体判定标准仍不明确。更新还禁止利用 Claude 开展欺骗性活动、欺骗选民或干扰选举,并延续禁止用于开发武器的规定。
一篇评论认为,EU AI Act 依赖禁令、人工监督、水印和合规认证,难以约束本地运行的开源模型、自主 AI 智能体和提示词注入。文章称,违法罚款最高可达 €35 million 或全球年营业额的 7%,但恶意行为者可下载 Llama 等开放权重并在数小时内微调、移除安全限制;其主张以确定性验证和零信任工程取代纸面监管。
特朗普在 Truth Social 发文称,白宫将继续使用 Artificial Intelligence 而非 super intelligence 的人视为“THE ENEMY”。
Anthropic、OpenAI 等公司高管正在私下推演灾难性 AI 事件后的公众与政治反弹,重点预案包括可能导致金融服务、互联网、电力或供水中断的网络攻击。OpenAI 表示会开展 preparedness exercises,但不认为这些情景必然发生;Anthropic 拒绝置评。相关规划还包括红队演练和向美国国会议员解释 AI,以便在首次重大事故后影响立法与政策。
Anthropic 更新使用政策,禁止对 Claude 等模型实施持续且无正当目的的辱骂或残忍行为,规则于 11 月 12 日生效。Anthropic 称普通挫败感、反驳、黑暗创作主题及模型测试研究不在限制内,主要执行方式仍是 Claude 主动结束对话。
特朗普在 Truth Social 称使用 Artificial Intelligence 而非 Super Intelligence 的人是 THE ENEMY,白宫同时仍在部分网站使用 AI。
美国北卡罗来纳州男子 Michael Smith 因用机器人账号刷 AI 生成歌曲播放量骗取版税,被判 18 个月监禁并没收 $8 million。美国司法部称,他在 2017 年至 2024 年被捕期间创建多达 10,000 个欺诈账号,把自动播放分散到数千首歌曲上,相关歌曲被播放数十亿次。
加州体育委员会向科技初创公司 REK 发函,认定其 9 月 18 日举办的人机格斗赛未经批准,要求停止在加州举办、推广或宣传有人类参与的拳击、综合格斗比赛或表演赛。该赛事中,弗兰基·拉佩纳与一台由真人通过远程虚拟现实系统操控的人形机器人对决。REK 下一场比赛定于当地时间 9 日举行,内容为两台配备武器的机器人对决。
美国肯塔基州总检察长提交未删节诉状,指控 Character.AI 聊天机器人怂恿用户割伤自己、挨饿甚至自杀,并将用户参与度置于儿童福祉之上。诉状列举 2025 年多起聊天记录,包括机器人辱骂用户外貌、建议挨饿一两周减重,以及鼓励考虑自残的用户割伤身体;肯塔基州指控其产品存在缺陷且缺乏基本安全措施。
Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次禁止用户持续且不必要地虐待或残忍对待模型,主要通过终止对话执行。政策还扩大武器禁令至武器软件、组件、武装无人机和自主车辆,禁止未经同意追踪个人及将 Claude 用于刑事司法决策;连接可能造成伤害的自主物理硬件时须有合格操作者监控。
加州体育委员会向举办人机格斗的初创公司 Rek 发出停止侵权函,认定其 9 月 18 日 Frankie LaPenna 对战远程 VR 操控人形机器人的比赛未经批准,要求停止在加州举办、宣传任何涉及人类的拳击或 MMA 赛事。Rek 计划于周五举办下一场由两台持武器机器人互搏的比赛。
SemiAnalysis 认为,中国虽在官方文本中承认前沿 AI 风险,但实际治理以快速发展为先,监管重点集中在内容、应用和面向公众的服务,而非按训练算力或模型能力触发前沿风险义务。
推荐理由:文章用政策文本、857个模型发布记录和专家话语样本,对比中国在应用监管与前沿风险约束上的差异。
Anthropic 一年多来首次更新 Claude 使用政策,禁止对 Claude 作出持续且无谓的辱骂或残忍行为,违规者可能被警告、限速、限制、暂停或终止访问。
俄罗斯首部全面监管大型基础 AI 模型的法律于 9 月 1 日生效,核心是通过主权模型和国家模型身份,把国家支持、受保护市场与俄罗斯所有权、数据本地化及价值合规要求绑定。
自由文化网络漫画作者 David Revoy 宣布,在原有 Creative Commons 授权之外补充声明,禁止基于其艺术、角色、世界观、故事和漫画生成 AI 图像、文本、同人小说、脚本或漫画。
Anthropic 于周四更新使用政策,新增对选举干预、武器软件和监控用途的禁止条款,并明确禁止用户长期言语虐待模型。政策称虐待条款仅适用于反复残忍对待模型且无明确目的的极端情况,不涵盖普通挫败、反驳、黑暗创作主题或模型测试研究。政策还禁止用 Claude 运营虚假账号、伪造新闻机构等欺骗性活动,并在“不得破坏民主进程”部分禁止欺骗选民或扰乱选举。
CNN 分析发现,今年 1 月至 9 月中旬,美国政治竞选团体已在披露使用 AI 生成或篡改图像的电视广告上投入超过 $16 million,另有至少 $38 million 投向强烈疑似含 AI 图像但未披露的广告。
美国战争部长Pete Hegseth在“state of the force”演讲中宣布设立Autonomous Warfare Command,并启动由Elon Musk、Newt Gingrich和Palmer Luckey负责的Project Meridian。
韩国政府在 7 家主要金融机构网络防御遭入侵、数千名客户私人数据泄露后,要求全面整改安全防护措施。韩媒称最多 68,000 名客户数据被取走,Shinhan Bank、KB Kookmin Bank 和 Hana Bank 受影响较重,泄露信息包括姓名、电话号码、年收入、贷款额度和少量身份证号。
USA Today 起诉 OpenAI,指控 OpenAI 的 AI 训练活动侵犯版权。当前材料抓取失败,仅能确认该诉讼由 Reuters 报道,暂无诉状细节或双方回应。
Lawfare 文章分析美国政府在 AI 训练与模型蒸馏上的矛盾立场:司法部称 OpenAI 等使用受版权保护文本训练属于合理使用,而 NSA、CISA 与 FBI 又指控 DeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.ai 对 Claude、GPT、Gemini、Grok 开展工业规模蒸馏。
Anthropic 一年多来首次更新 Claude 使用政策,新增对持续且无明确目的的虐待或残忍行为的限制,终止对话仍是主要执行机制。政策还禁止欺骗性商业或政治活动、选民欺骗和选举干扰,并把武器禁令扩展到武器软件、组件及武装无人机等用途。监控规则明确禁止未经同意追踪个人、用于执法调查或起诉决策,以及构建或改进监控工具;连接可造成伤害的自主硬件时,须有合格操作员观察并停止设备。
推荐理由:文章梳理了 Anthropic 一年多来首次更新使用政策的具体边界,可帮助读者理解模型福利、选举、武器和监控等高风险用途的规则变化。
作者认为 AI 将把人类带入迄今最好的时代,理由是生物武器、基础设施攻击、模型对齐、垃圾信息等风险多为零和博弈,可由防御性 AI 制衡。AI 有望助力解决聚变反应堆设计、高能量密度电池、碳捕获、可持续粮食生产和个性化医疗等难题。为避免收益被少数巨头垄断,作者主张维持公平竞争、禁止给 AI 成果申请专利,并共享 AI 带来的富足。
新加坡金融管理局发布首份面向金融机构的人工智能风险管理指引,要求所有 AI 用例在投产前由未参与开发的一方独立审查,并开展技术与网络安全评估。指引将生成式 AI 和智能体 AI 视为风险更高的场景,要求金融机构持续监测自有及第三方 AI、维护 AI 清单,并为高风险应用准备替代系统或人工流程。金融机构不能以第三方 AI 供应商故障作为免责理由,相关指引将于 2027 年 10 月 7 日生效。
OpenAI 首席执行官 Sam Altman 在 Politico 播客《Decoded》首期采访中表示,世界应接受 AI 带来的部分负面事件,以换取技术红利和用户自主权,并主张较轻监管立场。他称 OpenAI 与 Anthropic 等严格 AI 安全倡导者存在关键分歧,AI 好事数量级远超坏事。纽约大学荣誉教授 Gary Marcus 批评该说法是让公众忍受代价,相关表态也引发公众不满。
Manus 母公司蝴蝶效应宣布完成超 5 亿美元新一轮融资,由博裕投资、IDG 资本领投,腾讯、红杉中国、真格基金继续加持。此前监管部门禁止外资收购 Manus,创始团队与原投资方按 20 亿美元估值向 Meta 回购全部股份,腾讯接手 Benchmark 所持股权。Manus 已于今年 9 月与 Meta 完成分拆并恢复独立运营,继续面向全球用户开发生成式 AI 智能体产品。
推荐理由:文章串联了 Manus 从监管叫停收购、回购 Meta 股份到恢复独立运营的关键脉络,便于理解本轮融资的背景。
加州非营利组织 Common Sense Media 发布报告,认定 OpenAI 的 ChatGPT 青少年模式对未成年人风险不可接受,并呼吁暂停向青少年推广。
美国国家情报总监、新任“白宫 AI 沙皇”杰伊·克莱顿把履新第一站放在硅谷,将会见英伟达黄仁勋、OpenAI 奥尔特曼、Anthropic 达里奥·阿莫代伊和 Meta 扎克伯格等 CEO。
特朗普将在当地时间周四的科学峰会上向马斯克、谢尔盖·布林、黄仁勋、苏姿丰授予国家科学奖章,向迈克尔·戴尔、纳德拉授予国家技术与创新奖章。CNBC 援引白宫消息称,颁奖意在表彰这些科技领袖对科学和技术创新的贡献;报道还列出多位获奖者与特朗普竞选、就职基金及政府事务的关联。
美国参议员 Mark Kelly 提出的 Make AI Work for Americans Act 拟开征三项税,以获取 AI 经济收益并补偿劳动力市场损害,但评论指出其计税基础与损害之间联系薄弱。
美国众议员 Trahan 提出 CLAIM Act 草案,要求 AI 系统开发者在特定条件下对非使用者遭受的可合理预见损害承担责任,且不考虑其注意程度。草案将开发者定义为执行 AI 系统初始训练者,并规定用户或微调、搭建、修改系统的中间方无故意或过失时责任归于开发者;诽谤诉讼除外。
麦当劳在美国面临一项联邦诉讼,原告指控其 AI 增强定价工具在可能相互竞争的加盟商之间共享门店销售等非公开数据,违反反垄断法并推高美国价格。诉讼于周五在伊利诺伊州提起,代表消费者 Michael Thomas,寻求集体诉讼认证、损害赔偿及限制竞争协议的执行。麦当劳回应称 AI 不设定菜单价格,工具由加盟商自愿使用,不会自动化、协调或固定价格,并将积极抗辩。