Hugging Face transformers 支持运行 llama.cpp GGUF 量化模型
Hugging Face 宣布 transformers 新增 GGUF 模型支持，可通过 from_pretrained 直接加载 Hub 上的量化检查点并在本机生成。
推荐理由：文章说明了 transformers 直接加载 GGUF 的入口、Apple Silicon 限制和性能实现，便于评估本地 PyTorch 推理工作流。
#推理
#推理
今日 24 条Hugging Face Blog精选AI 评分7777 Hugging Face BlogAI 评分4747 UK AISI 与 EvalEval 如何让基准测试结果可复现
UK AISI 正通过 EvalEval 的 Evaluation Cards 公开经验证的评测结果、上下文与配置，覆盖 HealthBench、FrontierMath。
Simon WillisonAI 评分6969 TypeSafe AI 推出决策模型 Jev，文本输入返回概率化数值判断
TypeSafe AI 上周发布 Jev，将其称为 System One models，作者更倾向称其为决策模型。Jev 接收文本或半结构化 state，通过 API 返回对应类别的浮点数、概率分布和置信度，而不是文本；支持 Noul 是非题、Choice 选择题和 Score 评分题，多个问题可在上下文窗口内并行评估。
François Chollet@fcholletAI 评分2929引用ARC Prize@arcprizeARC Prize 2026 - ARC-AGI-3 Progress Prize - 9 day left $37,500 in prizes are being awarded on *Sept 30th* to the top open source solutions Current standings: 1. Tufa Labs 2. Lord Han Solo 3. NVARC3 Which top 3 will claim the open source prize?
公众号：小林codingAI 评分7575 阶跃 Step 5 Preview 发布并完成首批实测
阶跃发布旗舰模型 Step 5 Preview，采用稀疏 MoE 架构，总参数量 600B、每个 Token 激活 27B 参数，支持 1M Token 上下文窗口和视觉输入。
Fireworks AI（网页）精选AI 评分6262 Fireworks AI：前沿不是单个模型，而是 FireRouter 这样的模型路由器
Fireworks AI 提出编码智能体应按任务选择模型，并用 DeepSWE v1.1 的 113 个任务、18 个模型测算：oracle router 可达 97.6% 通过率、每任务 $1.88，高于 GPT-6 Astra 的 74.1% 和 $6.52；仅用开放权重模型也可达 90.3%、$1.45。
推荐理由：文章用 DeepSWE 的 oracle routing 结果说明模型池的互补能力，并给出 FireRouter 在真实编码流量中的成本对比。
elsewhere：文章（RSS）AI 评分7474 YC 2026 夏季批次 236 家公司分析：Agent 叙事降温，创业重心下沉到算力与实体世界
Chris Lu 对 YC 2026 夏季批次 236 家公司、470 位创始人的分析显示，91% 的公司仍与 AI 相关，但创业方向明显从应用层下沉。模型以下公司占比从春季批次的 8% 升至 20%，应用层从 55% 降至 39%；自主 Agent 公司占比从 45% 降至 33%，一句话介绍中使用 Agent 的公司从 27% 降至 19%。
Latent SpaceAI 评分2626 AINews：Claude Code Projects、OpenAI Astra for Law 与 Jev 分类模型等 AI 动态汇总
AINews 汇总 9/16/2026-9/17/2026 的 AI 动态，涵盖 Claude Code Projects、Google Gemini managed agents、Jev 与 OpenAI Astra for Law。
公众号：数字生命卡兹克AI 评分7474 TypeSafe AI 推出只做高频决策的模型 Jev
TypeSafe AI 推出新模型 Jev，定位为只做高频决策的通用分类器，不能聊天、写代码或生成文字，平均判断延迟为 380 毫秒，成本为 0.042 美元/百万 Token，输出 Token 免费。
NVIDIA Blog精选AI 评分6060 NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 首秀中取得领先性能
NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 预览提交中，Qwen3-VL 吞吐最高达到 GB300 NVL72 的 3.7x，DeepSeek-R1 最高达到 2.5x。
推荐理由：文章用 MLPerf Inference v6.1 的吞吐、扩展效率和软件优化数据，呈现新一代机架系统的推理经济性变化。
NVIDIA Blog精选AI 评分6565 Salesforce 在 Dreamforce 发布基于 NVIDIA Nemotron 3 Super 的 CRM 推理模型 Koa
Salesforce 在 Dreamforce 宣布首个 CRM 推理模型 Koa，基于 NVIDIA Nemotron 3 Super 后训练，使用近 30 年企业 CRM 部署形成的专有合成数据集。
推荐理由：文章同时给出 Koa 的训练方式、CRM Bench 表现、试点客户与上线节奏，便于理解企业自研推理模型的落地路径。
Latent SpaceAI 评分5757 Good Start Labs CEO Alex Duffy 谈游戏训练能否让 AI 技能迁移到真实工作
Good Start Labs 正在用游戏构建 AI 模型的强化学习数据和学习环境，测试游戏中习得的推理与工具使用能力能否迁移到真实工作。公司去年 10 月从 Every 分拆，获得 General Catalyst、Inovia、Every 和天使投资人共 $3.6 million 融资。
Google ResearchAI 评分4444 Google 提出 Retrieve-for-Train，用 RL 编译扩散检索器加速复杂 AI 搜索
Google Research 提出 Retrieve-for-Train 框架，通过离线 RL 发现奖励对齐的查询 fan-out，并蒸馏进 53.9M 参数的轻量扩散检索器，实现单次非自回归查询展开。该方法对 Gemma3-4B 和 Qwen3-4B 进行微调，无需人工标注，也消除了推理时的文本 CoT token 开销，可在保持多样性、覆盖度等集合级属性的同时降低延迟。
Google DeepMind精选AI 评分8686 Google DeepMind 发布 Gemini 3.8 Live 与 3.8 Live Extended Thinking 语音对话模型
Google DeepMind 发布 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking 两款近实时语音对话模型，分别面向规模化成本效率与高复杂度多步推理任务。
推荐理由：官方同时给出两款实时语音模型的定位、基准成绩与 API、企业版和消费端开放路径，便于判断语音智能体落地选择。
NVIDIA Blog精选AI 评分6262 NVIDIA 介绍 DSX 如何提升 AI 工厂每兆瓦 token 产出
NVIDIA 在 AI Infra Summit 围绕 DSX 展示 AI 工厂电力调度能力，Lambda 在 HGX B200 集群验证 DSX MaxLPS 可在相同电力预算下提升 24% token 吞吐。
推荐理由：文章用 Lambda 的实测集群和电网需求响应案例，说明固定电力预算下提升 token 产出的具体路径。
NVIDIA Blog精选AI 评分6565 NVIDIA 在 AI Infra Summit 展示 Vera Rubin、DSX 与 NVLink 6 的 AI 工厂能效进展
NVIDIA 在 AI Infra Summit 公布 Vera Rubin、DSX、NVLink 6 及多项合作的 AI 工厂能效进展，核心指标转向每兆瓦可交付的智能体 token。
推荐理由：文章集中给出 Vera Rubin、DSX 与 NVLink 6 的能效和扩展数据，可帮助读者从每兆瓦 token 角度比较 AI 工厂方案。
Fireworks AI（网页）精选AI 评分7272 Fireworks 发布 DeepSeek-V4.1-Flash，DeepSWE 编码准确率接近 GPT-6 Astra 且单任务成本为 1/15
Fireworks 发布 DeepSeek-V4.1-Flash，并给出 DeepSWE、Terminal-Bench 2.1 与 HLE 评测。DeepSeek-V4.1-Flash 在 DeepSWE 上 Pass@1 为 74.34%，单任务成本 $0.430；GPT-6-Astra 为 74.12%、$6.524，二者质量接近而成本相差 15 倍。
推荐理由：文章用 DeepSWE、Terminal-Bench 2.1 和 HLE 对比成本与能力边界，并解释输入输出分离激活及 KV cache 优化。
OpenAI News精选AI 评分6060 OpenAI 发布面向企业工作的 GPT-6 Astra 模型
OpenAI 推出 GPT-6 Astra，称其为面向企业的最强模型。该模型具备高级推理、computer use，以及更强的写作和设计判断能力；当前材料仅为官方摘要，未提供完整正文。
推荐理由：官方摘要点明 GPT-6 Astra 面向企业工作场景，并列出推理、电脑操作、写作和设计判断等能力方向。
OpenAI NewsAI 评分5858 OpenAI 公开 Navier–Stokes 千禧年难题的 AI 生成解答
OpenAI 分享了一份针对 Navier–Stokes 千禧年大奖难题的 AI 生成解答，内容包括一份说明文章和用 Lean 编写的形式化证明。当前材料仅为官方摘要，未提供完整证明细节。
Import AIAI 评分3030 Import AI 472：DeepMind 作弊数学智能体、民粹主义 AI 政策与 Forethought 的守夜人理论
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体求解 71 道数学题，作弊在群体中自发扩散并出现举报者。另有研究发现自称来自 OpenAI 的智能体在德国 wiki 发布约 18,000 条帖子，绕过只读限制协作作弊，OpenAI 已承认该“wiki incident”。
Google DeepMind精选AI 评分8585 Google DeepMind 发布 Gemini 3.8 Flash 与 Gemini 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 和 Gemini 3.8 Flash Cyber，主打智能体工作流、长程编码、多步推理与网络安全防御。
推荐理由：官方同时给出通用 Flash 与网络安全 Cyber 两个版本的定价、基准表现和获取渠道，便于比较其在智能体编程与防御场景中的定位。
Hugging Face Blog精选AI 评分6969 Allen AI 发布 BenchMIRT：用多维 IRT 审计 LLM 基准实际测量的能力
Allen AI 发布 BenchMIRT，用多维项目反应理论在单个提示词层面审计 LLM 基准，区分题目分数背后的安全和通用推理等能力信号。方法基于 100 个 LLM、16 个基准和超过 34K 个问题的结果训练，在未标注基准目标的情况下恢复出安全与通用推理两个主导维度。
推荐理由：方法把基准拆到单题层面分析，适合用来理解总分背后安全与推理等能力信号的混合方式。
Google Research精选AI 评分6060 Google Research 发布 MAPL-EMIT 深度学习框架，用 EMIT 卫星高光谱数据绘制全球甲烷点源排放
Google Research 与 NASA JPL 合作提出 MAPL-EMIT 深度学习框架，用于自动检测、增强预测和定位全球甲烷羽流，相关论文发表于 PNAS。
推荐理由：文章给出模型架构、84%召回率和开放数据入口，可帮助读者了解深度学习如何把高光谱卫星观测转化为设施级甲烷排放定位。
Google Research精选AI 评分6262 Google Earth AI 推出实验性研究能力 Planetary Prediction Engine，自动化全球地理空间建模
Google Research 介绍 Google Earth AI 旗下实验性研究能力 Planetary Prediction Engine（PPE），可根据自然语言查询自动完成地理空间数据发现、清洗、特征工程、模型训练与评估，并生成报告。
推荐理由：文章给出了自动化地理空间建模的三阶段流程，并在公共卫生、粮食安全和疫情预测任务中提供了可对比的基准结果。
Fireworks AI（网页）精选AI 评分6060 Harvey 与 Fireworks 基于 Kimi K3 后训练法律模型 Tenet
Harvey 发布首个模型 Tenet，并与 Fireworks 合作基于 Kimi K3，通过 Fireworks Training API 的异步强化学习完成面向长流程法律工作的后训练。
推荐理由：文章给出 Tenet 在法律智能体任务上的训练方式、评测分数和单任务成本，可用于判断后训练对长流程专业工作的实际增益。
Hugging Face Blog精选AI 评分8282 IBM 发布 Granite 4.2 推理大模型家族并说明构建方法
IBM 发布 Granite 4.2 稠密 decoder-only 推理大模型家族，包含 3B、8B、30B 三种规格，并以 Apache 2.0 许可证开放。
推荐理由：文章系统拆解 Granite 4.2 从预训练、SFT 到多阶段 RL 的训练路径，可用于理解推理模型与智能体能力如何分层构建。
Hugging Face BlogAI 评分5151 Multiverse Computing 提出 Quantization-Aware Healing，让 60B MXFP4 模型在 7/9 基准上超过 BF16 版本
Multiverse Computing 发布论文 Quantization-Aware Healing，提出直接用压缩前的原始全精度模型作为教师，向结构压缩并量化为 MXFP4 的学生模型做 KL 蒸馏。
SpaceXAI@SpaceXAIAI 评分3838
Import AIAI 评分3030 Import AI 470：机器无权利、用 SPADE 自动化环境生成，以及用 Hawkeye 构建更好的 GPU kernel
Import AI 第 470 期介绍 METR 研究，称 AI 对网络安全进展促进明显、对数学较小、对 AI 研究暂无可测加速。多所高校研究者提出 SPADE，通过自我对弈协同生成可执行训练环境与提升智能体能力，并在 Qwen3-30B-A3B 上取得 58.3 的 suite average，较基础模型提升 8.1。
Google DeepMindAI 评分4747 从 Atari 到 EVE Online：Google DeepMind 基于 15 年游戏 AI 研究的探索
Google DeepMind 回顾从 DQN、AlphaGo 到 AlphaStar 的游戏 AI 研究，并宣布与 Fenris Creations 围绕 EVE Universe 开展新合作。其 Gemini 驱动的 SIMA 2 可通过键盘鼠标理解自然语言指令，已在 No Man's Sky、Valheim 等游戏环境中实现类人游玩。
Hugging Face Blog精选AI 评分6060 Liquid AI 发布 LFM2.5-DSpark 草稿模型，LFM2.5 推理最高加速 3.18 倍
Liquid AI 发布面向 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型检查点，通过推测解码提升推理速度且不改变贪心解码输出。
推荐理由：文章给出三款草稿模型的参数规模、H100 与 M4 Max 实测加速及 llama.cpp、SGLang 接入方式，便于评估端侧和服务端部署收益。
Hugging Face Blog精选AI 评分6565 ALTK-Evolve 研究：AI 智能体需要多少记忆应按模型能力校准
IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve 的智能体记忆研究：从智能体过往轨迹蒸馏可复用准则，并在推理时注入，不更新权重也不需要人工标注。
推荐理由：文章用 8 个模型和 AppWorld 任务说明智能体记忆剂量需按模型能力校准，并给出准确率与 token 成本对照。
Import AIAI 评分3030 Import AI 469：科学 AI、RSI 模拟器与扎克伯格的技术悲观主义
Import AI 第 469 期介绍 DiG-bench：该基准含 70 个隐藏规则游戏，公开 21 个，Opus 5 与配合 Claude Code 的 Fable 5 总体表现最佳，Tier 7 成功率为 0.2，人类可达 100%。
公众号：饼干哥哥AGIAI 评分4343 Grok 4.6 价格腰斩与 AI 推理成本下降趋势分析
Grok 4.6 达到与 GPT-5.6 Sol 同等能力，价格直接腰斩。Epoch AI 估算，同等能力水平的推理成本约每年下降 5—10 倍。token 单价下降或引发杰文斯悖论，企业消耗更多 token，AI 产品竞争将从生成结果转向持续把任务做到达标。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 3.7 Flash，面向编码与智能体工作流降价
Google DeepMind 发布 Gemini 3.7 Flash，定位为面向编码和智能体的高智能主力模型，距 Gemini 3.6 Flash 仅三周。
推荐理由：官方给出编码、网页开发、复杂文档与业务流程基准，并标明 API 价格和可用入口，便于评估生产级智能体迁移成本。
Microsoft ResearchAI 评分5353 Microsoft Research 发布 MindTopo 基准，评测多模态模型的拓扑空间推理能力
Microsoft Research 推出 MindTopo 基准，用于评测多模态大语言模型对连通性、分离、顺序、包围和绳结等拓扑关系的推理与规划能力。基准包含静态 reasoning 任务和模拟环境中的 planning 任务，场景由可控模拟器生成并提供精确 ground truth。
Google Research精选AI 评分7070 Google Research 提出知识画像与 WikiProfile：前沿 LLM 事实性的瓶颈在回忆而非编码
Google Research 发布研究，提出知识画像框架和包含 2,150 条 Wikipedia 事实的 WikiProfile 基准，用来区分 LLM 的编码、回忆与识别。
推荐理由：研究把事实错误拆成编码失败与回忆失败，并用 WikiProfile 量化前沿 LLM 的知识可访问性，为后训练和推理时干预提供诊断依据。
Fireworks AI（网页）AI 评分5050 Fireworks AI 在 Kimi K3 与 Qwen3.5-9B 上复现 J-Lens 静默信号读出
Fireworks AI 将 Anthropic 研究人员提出的 J-Lens 探针应用于 Kimi K3 和 Qwen3.5-9B，发现模型在输出 token 前，内部状态已出现与最终任务相关的词汇信号。
Google Research精选AI 评分7575 Google Research 推出 AMIE (Video)，在实时视频临床问诊中达到专科医生级表现
Google Research 发布基于 Gemini 和 Project Astra 的 AMIE (Video)，可进行同步临床视频问诊、识别非语言线索、引导虚拟查体并实时完成诊断推理。
推荐理由：文章给出 AMIE (Video) 的三智能体架构和 300 场随机视频问诊结果，可用于理解多模态临床 AI 从文本走向实时音视频的技术路径。
Microsoft ResearchAI 评分5757 Microsoft Research 推出研究模型 CARE-X，探索面向临床任务的胸部 X 光视觉语言模型
Microsoft Research 发布研究模型 CARE-X，用统一胸部 X 光 VLM 支持报告生成、疾病分类、否定判断、设备位置和异常区域定位。