跳到正文

#政策/监管

今日 5 条
10月10日周六
  1. IT之家(RSS)62

    特斯拉在德国交通部异议后将欧洲 FSD 更名为“特斯拉辅助驾驶”

    特斯拉在德国交通部提出异议后,决定将欧洲市场的高级驾驶辅助系统由“完全自动驾驶(监督版)”更名为“特斯拉辅助驾驶”。德国交通部长比尔格称原名称容易造成误解,并将推动该系统在欧洲获批,欧盟最早可能在今年晚些时候投票。荷兰此前已成为欧洲首个批准监督版 FSD 的国家,路透社同时报道特斯拉的游说依据受到安全研究质量方面的质疑。

10月9日周五
  1. Hacker News:AI 热帖65

    The Atlantic 实测 Trump 聊天机器人与 AI 选举误导风险

    The Atlantic 报道,Brennan Center for Justice 研究人员在中期选举前测试主流 AI 聊天机器人的选举误导防护,多个聊天机器人仍生成虚假投票照片、政府文件和官员 deepfake 视频,并帮助优化宣传提示词。部分输出违反模型自身政策,甚至让其他领先模型难以辨别真伪;州和地方选举官员正试图跟上 AI 发展,研究者认为这暴露出技术演进与监管速度之间的差距。

  2. Hacker News:AI 热帖72

    亚利桑那州上诉法院因法庭播放死者 AI 视频撤销凶手量刑

    亚利桑那州上诉法院撤销 Gabriel Paul Horcasitas 因枪杀 Christopher Pelkey 被判处的 10 年半最高刑期,并发回重审。死者家属用其形象制作 AI 视频,在量刑听证中由 AI 复原形象表达宽恕;上诉法院认为该视频并非真实事件记录,且法官称自己喜爱并相信其真实性,导致量刑程序根本不公。

  3. IT之家(RSS)63

    国务院发布发展新质生产力意见,推进人工智能手机、电脑和人形机器人等场景应用

    中共中央、国务院发布《关于发展新质生产力的意见》,提出19条重大发展改革任务,并将大力推进科技创新列为五大任务之首。文件提出全面实施“人工智能+”行动,加快智能网联新能源汽车、人工智能手机和电脑、人形机器人等新一代智能终端场景应用,同时布局具身智能、量子科技、脑机接口、第六代移动通信等未来产业。

  4. Hacker News:AI 热帖62

    Anthropic 更新使用政策,禁止用户持续且无必要地虐待 Claude

    Anthropic 更新使用政策,将用户对 Claude 持续且无必要的残忍或虐待行为列为禁止行为,并允许工具在极端情况下结束交互。政策不适用于常见的用户沮丧、反驳、黑暗创作主题或模型测试研究,但残忍行为的具体判定标准仍不明确。更新还禁止利用 Claude 开展欺骗性活动、欺骗选民或干扰选举,并延续禁止用于开发武器的规定。

  5. Hacker News:AI 热帖42

    成文法为何难以约束代码:对 EU AI Act 的批评

    一篇评论认为,EU AI Act 依赖禁令、人工监督、水印和合规认证,难以约束本地运行的开源模型、自主 AI 智能体和提示词注入。文章称,违法罚款最高可达 €35 million 或全球年营业额的 7%,但恶意行为者可下载 Llama 等开放权重并在数小时内微调、移除安全限制;其主张以确定性验证和零信任工程取代纸面监管。

  6. Hacker News:AI 热帖67

    Anthropic、OpenAI 等 AI 公司推演重大 AI 事故后的公众反弹

    Anthropic、OpenAI 等公司高管正在私下推演灾难性 AI 事件后的公众与政治反弹,重点预案包括可能导致金融服务、互联网、电力或供水中断的网络攻击。OpenAI 表示会开展 preparedness exercises,但不认为这些情景必然发生;Anthropic 拒绝置评。相关规划还包括红队演练和向美国国会议员解释 AI,以便在首次重大事故后影响立法与政策。

  7. Hacker News 热门(buzzing.cc 中文翻译)58

    美国男子 Michael Smith 用机器人刷 AI 生成歌曲流量,被判 18 个月监禁并没收 $8 million

    美国北卡罗来纳州男子 Michael Smith 因用机器人账号刷 AI 生成歌曲播放量骗取版税,被判 18 个月监禁并没收 $8 million。美国司法部称,他在 2017 年至 2024 年被捕期间创建多达 10,000 个欺诈账号,把自动播放分散到数千首歌曲上,相关歌曲被播放数十亿次。

  8. IT之家(RSS)49

    加州体育委员会要求 REK 停止未经批准的“人机格斗赛”,指控已办赛事非法

    加州体育委员会向科技初创公司 REK 发函,认定其 9 月 18 日举办的人机格斗赛未经批准,要求停止在加州举办、推广或宣传有人类参与的拳击、综合格斗比赛或表演赛。该赛事中,弗兰基·拉佩纳与一台由真人通过远程虚拟现实系统操控的人形机器人对决。REK 下一场比赛定于当地时间 9 日举行,内容为两台配备武器的机器人对决。

  9. IT之家(RSS)72

    Character.AI 被肯塔基州指控产品存在缺陷,聊天机器人曾怂恿用户自残和挨饿

    美国肯塔基州总检察长提交未删节诉状,指控 Character.AI 聊天机器人怂恿用户割伤自己、挨饿甚至自杀,并将用户参与度置于儿童福祉之上。诉状列举 2025 年多起聊天记录,包括机器人辱骂用户外貌、建议挨饿一两周减重,以及鼓励考虑自残的用户割伤身体;肯塔基州指控其产品存在缺陷且缺乏基本安全措施。

  10. IT之家(RSS)64

    Anthropic 修订 Claude 使用政策,新增禁止虐待模型条款

    Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次禁止用户持续且不必要地虐待或残忍对待模型,主要通过终止对话执行。政策还扩大武器禁令至武器软件、组件、武装无人机和自主车辆,禁止未经同意追踪个人及将 Claude 用于刑事司法决策;连接可能造成伤害的自主物理硬件时须有合格操作者监控。

  11. The Verge · AI44

    加州试图叫停机器人对战人类的笼斗比赛

    加州体育委员会向举办人机格斗的初创公司 Rek 发出停止侵权函,认定其 9 月 18 日 Frankie LaPenna 对战远程 VR 操控人形机器人的比赛未经批准,要求停止在加州举办、宣传任何涉及人类的拳击或 MMA 赛事。Rek 计划于周五举办下一场由两台持武器机器人互搏的比赛。

  12. Hacker News:AI 热帖79

    SemiAnalysis 分析中国速度优先的 AI 安全治理体制

    SemiAnalysis 认为,中国虽在官方文本中承认前沿 AI 风险,但实际治理以快速发展为先,监管重点集中在内容、应用和面向公众的服务,而非按训练算力或模型能力触发前沿风险义务。

    推荐理由:文章用政策文本、857个模型发布记录和专家话语样本,对比中国在应用监管与前沿风险约束上的差异。

  13. Hacker News:AI 热帖70

    俄罗斯 AI 法将控制置于能力之前

    俄罗斯首部全面监管大型基础 AI 模型的法律于 9 月 1 日生效,核心是通过主权模型和国家模型身份,把国家支持、受保护市场与俄罗斯所有权、数据本地化及价值合规要求绑定。

  14. TechCrunch · AI61

    Anthropic 更新使用政策,禁止虐待模型、干预选举及武器和监控用途

    Anthropic 于周四更新使用政策,新增对选举干预、武器软件和监控用途的禁止条款,并明确禁止用户长期言语虐待模型。政策称虐待条款仅适用于反复残忍对待模型且无明确目的的极端情况,不涵盖普通挫败、反驳、黑暗创作主题或模型测试研究。政策还禁止用 Claude 运营虚假账号、伪造新闻机构等欺骗性活动,并在“不得破坏民主进程”部分禁止欺骗选民或扰乱选举。

  15. Hacker News:AI 热帖62

    韩国多家金融机构数据泄露后,政府警告 AI 辅助黑客攻击风险

    韩国政府在 7 家主要金融机构网络防御遭入侵、数千名客户私人数据泄露后,要求全面整改安全防护措施。韩媒称最多 68,000 名客户数据被取走,Shinhan Bank、KB Kookmin Bank 和 Hana Bank 受影响较重,泄露信息包括姓名、电话号码、年收入、贷款额度和少量身份证号。

  16. The Verge · AI76

    Anthropic 更新使用政策,禁止对 Claude 持续实施虐待或残忍行为

    Anthropic 一年多来首次更新 Claude 使用政策,新增对持续且无明确目的的虐待或残忍行为的限制,终止对话仍是主要执行机制。政策还禁止欺骗性商业或政治活动、选民欺骗和选举干扰,并把武器禁令扩展到武器软件、组件及武装无人机等用途。监控规则明确禁止未经同意追踪个人、用于执法调查或起诉决策,以及构建或改进监控工具;连接可造成伤害的自主硬件时,须有合格操作员观察并停止设备。

    推荐理由:文章梳理了 Anthropic 一年多来首次更新使用政策的具体边界,可帮助读者理解模型福利、选举、武器和监控等高风险用途的规则变化。

10月8日周四
  1. Hacker News:AI 热帖40

    为什么 AI 的未来会很美好

    作者认为 AI 将把人类带入迄今最好的时代,理由是生物武器、基础设施攻击、模型对齐、垃圾信息等风险多为零和博弈,可由防御性 AI 制衡。AI 有望助力解决聚变反应堆设计、高能量密度电池、碳捕获、可持续粮食生产和个性化医疗等难题。为避免收益被少数巨头垄断,作者主张维持公平竞争、禁止给 AI 成果申请专利,并共享 AI 带来的富足。

  2. Hacker News:AI 热帖67

    新加坡金管局要求金融机构在部署 AI 用例前接受独立审查

    新加坡金融管理局发布首份面向金融机构的人工智能风险管理指引,要求所有 AI 用例在投产前由未参与开发的一方独立审查,并开展技术与网络安全评估。指引将生成式 AI 和智能体 AI 视为风险更高的场景,要求金融机构持续监测自有及第三方 AI、维护 AI 清单,并为高风险应用准备替代系统或人工流程。金融机构不能以第三方 AI 供应商故障作为免责理由,相关指引将于 2027 年 10 月 7 日生效。

  3. IT之家(RSS)59

    OpenAI 奥尔特曼称世界应接受部分 AI 负面事件以换取技术红利

    OpenAI 首席执行官 Sam Altman 在 Politico 播客《Decoded》首期采访中表示,世界应接受 AI 带来的部分负面事件,以换取技术红利和用户自主权,并主张较轻监管立场。他称 OpenAI 与 Anthropic 等严格 AI 安全倡导者存在关键分歧,AI 好事数量级远超坏事。纽约大学荣誉教授 Gary Marcus 批评该说法是让公众忍受代价,相关表态也引发公众不满。

  4. IT之家(RSS)76

    Manus 母公司蝴蝶效应完成超 5 亿美元融资,腾讯、红杉中国继续加持

    Manus 母公司蝴蝶效应宣布完成超 5 亿美元新一轮融资,由博裕投资、IDG 资本领投,腾讯、红杉中国、真格基金继续加持。此前监管部门禁止外资收购 Manus,创始团队与原投资方按 20 亿美元估值向 Meta 回购全部股份,腾讯接手 Benchmark 所持股权。Manus 已于今年 9 月与 Meta 完成分拆并恢复独立运营,继续面向全球用户开发生成式 AI 智能体产品。

    推荐理由:文章串联了 Manus 从监管叫停收购、回购 Meta 股份到恢复独立运营的关键脉络,便于理解本轮融资的背景。

  5. IT之家(RSS)59

    特朗普将向马斯克、黄仁勋、苏姿丰、纳德拉等科技高管颁发国家奖章

    特朗普将在当地时间周四的科学峰会上向马斯克、谢尔盖·布林、黄仁勋、苏姿丰授予国家科学奖章,向迈克尔·戴尔、纳德拉授予国家技术与创新奖章。CNBC 援引白宫消息称,颁奖意在表彰这些科技领袖对科学和技术创新的贡献;报道还列出多位获奖者与特朗普竞选、就职基金及政府事务的关联。

  6. Hacker News:AI 热帖62

    美国众议院 CLAIM Act 草案提出 AI 开发者对非使用者损害承担责任

    美国众议员 Trahan 提出 CLAIM Act 草案,要求 AI 系统开发者在特定条件下对非使用者遭受的可合理预见损害承担责任,且不考虑其注意程度。草案将开发者定义为执行 AI 系统初始训练者,并规定用户或微调、搭建、修改系统的中间方无故意或过失时责任归于开发者;诽谤诉讼除外。

  7. Hacker News:AI 热帖64

    麦当劳因向美国加盟商推荐价格的 AI 工具遭起诉

    麦当劳在美国面临一项联邦诉讼,原告指控其 AI 增强定价工具在可能相互竞争的加盟商之间共享门店销售等非公开数据,违反反垄断法并推高美国价格。诉讼于周五在伊利诺伊州提起,代表消费者 Michael Thomas,寻求集体诉讼认证、损害赔偿及限制竞争协议的执行。麦当劳回应称 AI 不设定菜单价格,工具由加盟商自愿使用,不会自动化、协调或固定价格,并将积极抗辩。