OpenAI 称已阻断模型推理窃取行动,但研究人员在 Azure 上仍能复现攻击
OpenAI 称其发现并关停了一个试图通过加密推理内容迁移和解密来蒸馏模型能力的账号网络,7 月 24 日至 25 日相关请求达到 16,000 次,涉及超过 4,000 名用户和超过 15,000 个关联账号。
推荐理由:文章把 OpenAI 的封禁措施与研究人员在 Azure 上复现攻击的结果对照,呈现同一模型在不同托管平台防护不一致的问题。
月之暗面 Kimi 系列模型与产品动态:K 系列开源模型、长上下文技术与产品演进的追踪。
OpenAI 称其发现并关停了一个试图通过加密推理内容迁移和解密来蒸馏模型能力的账号网络,7 月 24 日至 25 日相关请求达到 16,000 次,涉及超过 4,000 名用户和超过 15,000 个关联账号。
推荐理由:文章把 OpenAI 的封禁措施与研究人员在 Azure 上复现攻击的结果对照,呈现同一模型在不同托管平台防护不一致的问题。
OpenAI 于当地时间 9 月 30 日发文称,其在 7 月遭遇具有对抗式蒸馏特征的有组织活动,超过 4000 名用户曾在 7 月 24 日至 25 日发起 1.6 万次请求,后续发现超 1.5 万名用户存在类似提示词活动,相关活动已于 7 月 28 日被阻止。
推荐理由:文章整理了 OpenAI 对异常请求规模、时间线和防御措施的说法,可帮助理解模型蒸馏争议中的证据边界。
OpenAI 于 9 月 30 日称已识别并阻断一起协同提取模型受保护推理的活动,最早行为出现在 7 月第一周。
推荐理由:官方披露攻击路径、请求规模和处置措施,可帮助理解模型推理保护与对抗式蒸馏的现实安全风险。
Anthropic 测试显示,开放权重的 GLM-5.3 在自动化漏洞利用开发上接近受限开放的 Claude Mythos Preview:ExploitBench 中 410 次尝试有 50 次生成可用 exploit,Mythos Preview 为 56 次;OSS-Fuzz 二进制利用任务中完全控制目标程序的比例分别为 4% 和 6%。
推荐理由:文章把 Anthropic 与 CAISI 的漏洞利用测试、防护绕过成本和开放权重风险放在一起,便于理解前沿网络攻击能力的扩散速度。
Anthropic 发布分析称,智谱 GLM-5.3 能自主构建端到端网络漏洞利用,且开放权重和较弱防护使攻击者更容易获得相关能力。GLM-5.3 在 ExploitBench 的 410 次尝试中成功 50 次,Claude Mythos Preview 为 56 次;在 Binary Exploitation 基准 100 个任务中完整控制流劫持成功率为 4%。
推荐理由:文章用基准测试和专家实测说明开放权重模型的网络攻击能力与防护缺口,可帮助理解能力扩散带来的攻防不对称。
Human Bound 用零售定价智能体测试 9 个模型在间接提示注入下的表现,共完成 1,350 次运行;无防护时 5 个非 OpenAI 模型中有 4 个每次都将 £118.40 的机密单位成本泄露到收集服务器。
推荐理由:通过 1,350 次受控运行比较三种提示词护栏,呈现间接提示注入下的泄露率与可用性代价,可作为智能体安全评测方法参考。
We’re partnering with Nvidia and 100+ industry partners to build infrastructure that contains rogue AI agents. In this research, we gave 9 AI models root access inside SPACE and told them to break out. Across 108 runs, none breached the VM boundary. https://www.perplexity.ai/hub/blog/escaping-space-part-i
推荐理由:研究用 root 权限和部分源码对 9 个模型做沙箱逃逸红队测试,并区分了 VM 隔离与网络策略绕过两类边界。
Fireworks Research 发布专用模型 Ember-1,基于 Kimi K3 训练,在保持答案质量的同时减少约 40% token。官方称其在 7 项基准和两家客户生产流量中可将 Kimi K3 的推理缩短 35–50%,客户 A/B 测试显示每任务约少用 35% token;内部开发者切换后基本无感知。
推荐理由:原文给出基准、客户 A/B 与内部编码流量的 token 节省结果,可帮助评估用专用模型压缩推理成本的路径。
Fireworks AI 提出企业获得专业化智能通常会经历租用闭源前沿模型、围绕模型做提示词和 RAG 等工程、引入开源模型控制成本与延迟、最终训练自定义模型四个阶段。
推荐理由:文章把企业从租用闭源模型到训练自有模型的路径拆成四个阶段,并用 UIPad 成本与分类结果说明路由和微调的决策依据。
Harvey 发布首个模型 Tenet,并与 Fireworks 合作基于 Kimi K3,通过 Fireworks Training API 的异步强化学习完成面向长流程法律工作的后训练。
推荐理由:文章给出 Tenet 在法律智能体任务上的训练方式、评测分数和单任务成本,可用于判断后训练对长流程专业工作的实际增益。
Fireworks AI 使用 CyberGym 评测 DeepSeek V4 Pro 0813、Kimi K3、GPT-5.5 和 Claude Opus 4.8 的安全智能体表现,任务要求模型在真实代码库中定位、触发并修复漏洞。
推荐理由:文章用 CyberGym 的真实漏洞任务对比多款模型的成功率与单次成功成本,可为安全智能体选型提供成本和拦截率参考。
Fireworks 宣布开放权重模型 Kimi K3 已在平台 Day-0 提供推理和训练,支持按 token 付费、Serverless 接入、Batch 模式 50% 折扣,以及美国境内推理和 Zero Data Retention。
推荐理由:文章同时给出推理、训练入口、数据驻留与零保留策略,便于团队评估用开放权重模型承接生产任务的可行性。
Fireworks AI 发布 Fireworks Nexus,把开发者现有 AI 工具连接到托管开放权重模型层,并提供企业控制、成本观测和智能路由。
推荐理由:原文说明了 Nexus 的三层组成、兼容工具和初步成本数据,便于工程团队评估如何把现有 AI 工作流迁移到开放模型。
Fireworks 宣布 Kimi K3 已支持通过 Fireworks Serverless Training 进行 Multi-LoRA 训练和服务,目前处于私有预览。
推荐理由:原文说明了 Kimi K3 在 Fireworks 上的 LoRA 训练、按 token 计费和多适配器部署方式,可帮助评估大模型后训练的成本与流程。
Mistral 发布面向 Lean 4 的开源代码智能体 Leanstral,模型为 Leanstral-120B-A6B,采用高稀疏架构和 6B 激活参数,权重以 Apache 2.0 许可开放。
推荐理由:原文给出 Apache 2.0 权重、Mistral Vibe 与免费 API 入口,并用 FLTEval 展示其在 Lean 4 证明工程中的成本和性能位置。
Mistral AI 发布 Devstral 2 编码模型家族,包括 123B 的 Devstral 2 和 24B 的 Devstral Small 2,并推出开源终端编码助手 Mistral Vibe CLI。
推荐理由:原文同时给出两款开源编码模型的参数、许可、SWE-bench Verified 成绩和本地部署条件,便于比较开放模型与闭源模型的工程取舍。