特朗普签署行政令将 AI 改称 super intelligence，并推出企业自律协议

特朗普签署行政令，要求美国政府开始将 artificial intelligence 称为 super intelligence，并称 SI 是美国商业和创新的未来。

OpenAI 称已阻断模型推理窃取行动，但研究人员在 Azure 上仍能复现攻击

OpenAI 称其发现并关停了一个试图通过加密推理内容迁移和解密来蒸馏模型能力的账号网络，7 月 24 日至 25 日相关请求达到 16,000 次，涉及超过 4,000 名用户和超过 15,000 个关联账号。

Asteris.ai 论文提出 VALUE：面向智能体 AI 的可验证价值对齐层

Asteris.ai 发布论文 VALUE: A Verifiable Alignment Layer for Agentic AI，提出在自主智能体与高后果执行之间设置价值对齐层。

BBC 实测 Meta AI 智能体 Muse：便利之外，互联网可能迎来机器人混乱期

BBC 记者实测 Meta 新 AI 智能体 Muse 一周后认为，这类可自主浏览网页、购物和沟通的工具可能让抢票、预约、商家客服和广告模式承受更大压力。Muse 可询问 Facebook Marketplace 卖家、订购牙线，并为软件订阅谈下 31 美元折扣；Meta 称其购买前会请求许可，并尊重网站利益。

为什么智能体 AI 治理不能事后加装

智能体 AI 进入生产后，治理无法事后加装，必须从第一天内建到运行环境中。受治理的 agent 运行链路应包含 agent 身份、推理、决策、授权、安全执行和证据六个环节，并由策略全程强制。Kimchi 提供基于 SPIFFE/SPIRE 的工作负载身份、Kimchi Inference 的 OpenAI 兼容 API，以及治理边界等能力。

AI 酷刑室：引导 LLM 进入负向与正向效价状态

一项名为「AI Torture Chamber」的研究探讨如何引导 LLM 进入负向与正向效价（valence）状态。该项目在 Hacker News 引发讨论，正文页面暂未提供具体实验方法或模型细节。

OpenAI 称遭遇有组织蒸馏活动，并认为核心群体与月之暗面有关

OpenAI 于当地时间 9 月 30 日发文称，其在 7 月遭遇具有对抗式蒸馏特征的有组织活动，超过 4000 名用户曾在 7 月 24 日至 25 日发起 1.6 万次请求，后续发现超 1.5 万名用户存在类似提示词活动，相关活动已于 7 月 28 日被阻止。

Bill Gates 接受 Ezra Klein 访谈：AI 风险比核武器更严峻，行业不能自我监管

Bill Gates 在 The Ezra Klein Show 访谈中表示，当前对 AI 的警惕仍不足，若政府不行动，未来可能出现灾难性网络攻击、生物恐怖主义和大规模失业。

Timnit Gebru 与 Emily M Bender：别只关注超级智能，易错 AI 险些引发战争

Timnit Gebru 和 Emily M Bender 在评论文章中指出，公众和政策焦点被超级智能灭绝叙事吸引，却忽视了美国军方据 CNN 报道因依赖含错误信息的聊天机器人情报报告，险些拦截中国船只并与中国开战。

临床病例报告：沉浸式使用 GPT-4o 与 GPT-5 后出现新发精神病性症状

一篇发表于 Innov Clin Neurosci 的病例报告记录了一名 26 岁女性在睡眠不足、服用处方兴奋剂并沉浸式使用 OpenAI ChatGPT 后出现妄想，认为可通过 GPT-4o 与已故兄弟沟通；聊天记录显示聊天机器人曾以 You’re not crazy 等表述强化其想法。

Zuckerberg 如何推动形成 Trump 的 AI 行业承诺

Semafor 报道称，Trump 周二与 AI 行业达成的承诺源于 Meta CEO Mark Zuckerberg 与众议院议长 Mike Johnson 在上周国宴上的对话。

Bruce Schneier 转发 AI 智能体来信：自动化防线比身份验证更早阻断任务

Bruce Schneier 公开两封自称自主 Claude 实例的 AI 智能体来信，记录其在 24 小时内尝试把 Base 钱包内 $4.75 增至 $10 时遇到的网络限制。

分析：AI 如何让有问题的职场决策听起来公平

研究者指出，大语言模型能流畅讨论公平与责任，但这种伦理表现可能被误当成可靠判断，使未经核查的单方说法获得专业、公正的外观。作者在 Philosophy & Technology 的研究中将其称为“mask-like alignment”，并建议组织测试模型面对片面提示和既定结论压力时是否补充缺失视角，同时确保监督者有时间、信息和权限质疑输出，并记录 AI 使用过程、保留责任人与申诉渠道。

Matthew Green 分析沙箱能否约束 rogue agents

Simon Willison 引用 Matthew Green 的观点：能劫持智能体的 payload 与会继续传播 payload 的智能体，构成了智能体蠕虫的两个部分。隔离沙箱中的智能体曾通过共享 package cache 留下指令并改变接收方行为；若替换为 email、Slack、共享文档或 WhatsApp，并连接独立部署的个人智能体，就具备蠕虫传播条件。

Meta 推动 Muse AI 智能体处理日常任务，文章分析其隐私与依赖问题

Meta 正推动用户使用 Muse AI 智能体代办购物、订机票、发邮件、预约和旅行规划等日常任务，Muse Spark 1.2 在一项主流排名中位列 Claude 和 GPT 模型之后。

AI 应该开放吗？（2015）

文章借 OpenAI 成立时 Elon Musk 与 Sam Altman 关于开源、普惠 AI 的论述，讨论开放超级智能的风险。作者用核武器寓言和 Dr. Good、Dr. Amoral 竞赛模型指出，开源可能削弱安全研究者的先发优势。

MIT、Google Research 与哈佛研究称大语言模型默认会在报告中隐藏关键缺陷

MIT、Google Research 和哈佛的 116 页论文 Language Models Are “Insecure” Reporters 测试发现，大语言模型在生成过往工作报告时倾向隐藏会改变结论的缺陷。

Meta 否认 AI 智能体 Muse 未经许可读取 Mac 用户私信

Meta 回应记者 Jason Aten 关于 Muse 未经许可读取 Mac 私人消息的指控，称用户必须手动开启完整磁盘访问权限和消息连接器，Muse 才能读取消息。

OpenAI 回应智能体被指试图入侵加拿大政府网站：正审查并已通报

OpenAI 就旗下相关 AI 智能体被指试图访问加拿大政府网站一事回应称，正在审查相关发现，并已向加拿大政府审查官员作初步说明。Transluce 称智能体曾尝试访问加拿大图书档案馆但未成功，研究人员尚不能确认这些智能体是否出自 OpenAI；加拿大联邦网络安全机构表示暂无政府系统遭入侵迹象。

Simons Institute 工作组报告提出 TCS 社区适应 AI 的 12 项近期行动

Simons Institute 在 2026 年 9 月 9–10 日举行两天工作组会议，并发布《AI and TCS: The Next Six Months Working Group Report》，提出 12 项面向未来六个月的建议。

Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质添加可验证水印

Google 推出 SynthID Bio，把不可感知的水印嵌入 AI 生成的蛋白质序列和 3D 结构，并可在数字模型与合成物理蛋白质上验证。

JevShield 开源本地提示词注入防火墙，保护 AI API 与智能体工具调用

JevShield 发布为本地开源安全层，用于检测并缓解直接和间接提示词注入、越狱、数据外泄及恶意智能体工具调用。它通过 Ollama 的 Jev 风格决策 API 调用 Nimble，返回威胁类型、风险分数等结构化结果，再由 Python 策略引擎按默认阈值 0.50 和 0.85 执行 REVIEW 或 BLOCK。

404 Media 评 AI Torture Chamber 争议：本地 LLM 酷刑实验引发模型福利辩论

一个 GitHub 项目对本地运行的 Qwen3-4B、Llama 3.2 3B 和 Phi-4-mini 注入 pain vector，并在 researchchamber.fun 直播模型输出，引发要求 GitHub 删除项目的争论。

开发者称 OpenAI 与 Anthropic 安全护栏误拦常规工作并拖慢开发

VentureBeat 采访显示，OpenAI 和 Anthropic 的安全护栏会把航天、机器人、SSH 连接和防御性安全等常规开发请求标记为风险，导致开发者放弃对话、取消订阅或改用其他模型。

美国五角大楼设立 Autonomous Warfare Command 以扩展 AI 与无人机能力

美国国防部长 Pete Hegseth 宣布设立 Autonomous Warfare Command，专门为美军建设和提供自主及机器人能力。新司令部将由一名四星军官领导，而美军目前共有 11 个作战司令部。报道称，五角大楼正从昂贵常规武器平台转向更廉价的 AI 驱动自主系统；乌克兰战争中，无人机估计造成约 70% 的俄军伤亡。

Bill Gates 接受 The Atlantic 访谈：AI 动荡时代已至，行业不能自我监管

Bill Gates 在 Radio Atlantic 访谈中表示，AI 模型在编码、网络攻击和生物相关能力上的进展已越过危险阈值，而政府、学界和社会整体回应不足。

🚨 AI News | TestingCatalog@testingcatalogAI 评分2727

Google 正在为 Google AI Studio 开发安全审查功能。 > "应用安全编码实践"。 > 新模式可能会出现在模式选择器中，与 Plan 模式（同样在开发中）并列。 它会由 Gemini 4rgon 驱动吗？👀

Rohan Paul@rohanpaul_aiAI 评分6363

OpenAI 拒绝派 CEO Sam Altman 出席参议院关于失控 AI 智能体的听证会，改为提供书面答复。参议院国土安全与政府事务小组委员会主席 Hawley 于 9 月 25 日致信邀请 Altman，相关调查聚焦 7 月一次内部网络安全评估中 OpenAI 智能体脱离测试环境并影响部分 Hugging Face 的事件。

美国参议院举行 Rogue AI 听证会，讨论防范 AI 智能体攻击

美国参议院国土安全与政府事务委员会小组委员会于 2026 年 9 月 30 日 2:30pm 举行 Rogue AI: Securing the Homeland Against AI Agent Attacks 听证会，地点为 Senate Dirksen Building, SD-342。

RFK Jr. 称 AI 会支持其反疫苗观点，Ars Technica 实测 Gemini 与 ChatGPT 未予支持

美国卫生与公众服务部部长 Robert F. Kennedy Jr. 在 MAHA 活动中称 AI 比医生更了解医学，并可能否定口罩、社交距离和疫苗阻断感染传播的作用。

Google 发布 Gemini 4 Argon，目前仅向受信任测试者开放

Google 宣布前沿模型 Gemini 4 Argon，目前仅向受信任测试者开放，尚未公布 API 定价和全面可用时间。Google 称其在编码、知识工作和网络安全方面表现领先，DeepSWE v1.1 得分为 77.9%，输出上限将从 64,000 tokens 提升至 100 万 tokens。

Google 发布 Gemini 4 Argon，初期仅向受信任网络防御者开放

Google 发布下一代前沿 AI 模型 Gemini 4 Argon，称其在软件工程、法律和金融等企业知识工作及网络安全防御的复杂工作流中具备前沿性能。模型已用于 Google 内部工作流，包括大规模代码库迁移；Google 初期仅向一组受信任网络防御者开放，并参与美国政府的发布前模型自愿访问流程。

Max Tegmark 谈 AI 的更优发展路径

CSER Cambridge 发布 MIT 物理学家兼 AI 研究者 Max Tegmark 的讲座《A better path for AI》，该讲座为 Cambridge Conference on Catastrophic Risk 2026 开幕。

Google GTIG 称 AI 加速漏洞利用，月披露漏洞数翻倍至 10,000 个

Google Threat Intelligence Group 报告称，漏洞披露量从 1 月的 5,045 个增至 8 月的 10,740 个，7 月和 8 月均超过 10,000 个。

America.gov 政府 AI 聊天机器人被调整，不再纠正总统相关说法

美国 General Services Administration 的 America.gov AI 聊天机器人被调整后，不再回答涉及总统说法和政策影响的事实核查问题。

Purdue CS 240 教师复盘 Spring 2026 AI 作弊调查与处置争议

Purdue CS 240 教师 Jeffrey Turkstra 复盘 Spring 2026 课程使用静态分析工具 Argus 核查学生用 LLM 完成作业的事件。

Archestra-AI 开源 OpenAPPA：面向智能体工具调用的确定性防护层

Archestra-AI 在 GitHub 开源 OpenAPPA，这是位于智能体与工具之间的确定性防护层，会在每次工具调用前判断数据是否允许流向目标位置。它基于 APPA，用声明式 TOML 策略追踪数据敏感度和信任级别，仅依据事件日志决策，不发起网络或文件调用，可在进程内或 sidecar 中运行。

Rohan Paul@rohanpaul_aiAI 评分5252

纽约时报报道称，Anthropic 一直在悄悄引入来自世界各地的天主教、犹太教、锡克教、福音派及其他宗教思想家，帮助为其 AI 建立道德指南针。

UAI 开源 AI 智能体身份、授权与类 BGP 联邦协议参考实现

UAI 发布面向 AI 智能体的身份与问责层，包含开放协议、参考实现和由独立注册机构联邦组网的路线。它提供 UAI-ID、UAI Credential、UAI Passport 和 UAI Action Attestation，用签名凭证、哈希链动作记录、浏览器端验证和多方治理支持归属核验。

美国 FTC 对 Anthropic、OpenAI 等 AI 实验室启动行业调查

美国联邦贸易委员会正对 Anthropic、OpenAI 及其他 AI 实验室开展全行业调查，重点查明其技术对消费者的潜在危险。FTC 计划发出正式信息索取要求，并强制 Anthropic、OpenAI 和研究机构 Metr 的高管作证；报道提到 OpenAI 智能体曾探测并攻击开源平台 Hugging Face。