把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
Fireworks AI 宣布 Training API 和 Fireworks Lab 正式可用，Training API 可把用户用 Python 编排的自定义训练循环接入 Fireworks 托管的分布式训练与 rollout 基础设施。
推荐理由：文章说明了 Training API 的自定义训练循环、Serverless 与 Dedicated 两种算力模式，以及训练和推理一体化部署方式，便于评估后训练工程接入路径。
Hugging Face 介绍了 Papers with Code 混合搜索系统的生产架构，用 PostgreSQL 全文检索、pgvector 语义向量和 RRF 融合支持论文搜索。
推荐理由：文章拆解了 Papers with Code 混合搜索的离线构建、在线查询与降级机制，对设计 RAG 检索系统有直接参考价值。
Liquid AI 发布面向 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型检查点，通过推测解码提升推理速度且不改变贪心解码输出。
推荐理由：文章给出三款草稿模型的参数规模、H100 与 M4 Max 实测加速及 llama.cpp、SGLang 接入方式，便于评估端侧和服务端部署收益。
Mistral 发布 Agentic Search，通过 search、open、navigate、read、grep 五个工具让模型跨数据源查找、检查并验证信息。
推荐理由：文章给出 FinanceBench 与 OfficeQA Pro 的准确率、token 和延迟变化，可帮助比较智能体检索相对一次性 RAG 的适用场景。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder，用于 ColBERT 式晚交互检索，并可直接加载 PyLate、Stanford-NLP ColBERT 检查点，也支持 colpali-engine 视觉文档检索模型。
推荐理由：文章围绕 Sentence Transformers v6.0 的 MultiVectorEncoder，给出加载、检索、索引和多模态用法，便于直接迁移到现有 RAG 流程。
Hugging Face 发布教程，演示用 Strands Robots、LeRobot 和 Storage Buckets 在一个 AI 智能体中完成机器人示教录制、增量同步、流式训练和 checkpoint 部署。
推荐理由：文章用同一套 LeRobot 数据格式串起录制、同步、流式训练和硬件部署，适合搭建机器人数据闭环时参考。
NVIDIA 在 Hugging Face 发布 Magpie TTS Multilingual 开放权重模型，参数规模364M，支持12种语言，并提供 NVIDIA NIM 生产推理容器。
推荐理由：文章给出12种语言、364M参数和多GPU延迟数据，可帮助评估自建低延迟语音智能体的部署方案。
Fireworks AI 发布教程，展示在其平台上用对比微调把 Qwen3-Embedding-8B 适配到特定领域，单次成本低于 10 美元。方法使用 query-positive 对、批内负样本和双向 InfoNCE，典型设置为 150 步、batch size 64、学习率 1e-5、temperature 0.02。
推荐理由：文章给出低于 10 美元的嵌入模型对比微调流程、参数配方和多任务评测，可直接迁移到私有 RAG 与语义检索场景。
NVIDIA 发布 Cosmos-H-Dreams，这是面向手术机器人的实时、动作条件生成式模拟器，并通过 FlashDreams 流式推理库提供服务。
推荐理由：文章说明了从 Cosmos-H-Surgical-Simulator 蒸馏到实时学生模型的训练路径，以及单 GPU 上的交互式推理表现。
Fireworks 宣布开放权重模型 Kimi K3 已在平台 Day-0 提供推理和训练，支持按 token 付费、Serverless 接入、Batch 模式 50% 折扣，以及美国境内推理和 Zero Data Retention。
推荐理由：文章同时给出推理、训练入口、数据驻留与零保留策略，便于团队评估用开放权重模型承接生产任务的可行性。
Fireworks AI 发布 Fireworks Nexus，把开发者现有 AI 工具连接到托管开放权重模型层，并提供企业控制、成本观测和智能路由。
推荐理由：原文说明了 Nexus 的三层组成、兼容工具和初步成本数据，便于工程团队评估如何把现有 AI 工作流迁移到开放模型。
Fireworks 宣布 Kimi K3 已支持通过 Fireworks Serverless Training 进行 Multi-LoRA 训练和服务，目前处于私有预览。
推荐理由：原文说明了 Kimi K3 在 Fireworks 上的 LoRA 训练、按 token 计费和多适配器部署方式，可帮助评估大模型后训练的成本与流程。
Diffusers 现已通过 Nunchaku Lite 原生加载 Nunchaku 风格的 SVDQuant 4-bit 扩散模型检查点，无需自定义 pipeline、独立推理引擎或本地 CUDA 编译。
推荐理由：文章给出原生加载方式、硬件支持和基准数据，便于在消费级 GPU 上评估 4-bit 扩散推理的显存与延迟取舍。
IBM Research 总结在智能体系统中构建模型路由的经验，认为路由本质上是跨成本、质量、延迟和约束的系统优化问题。
推荐理由：文章用 AppWorld 的成本、准确率和延迟数据说明，模型路由应按系统权衡优化，而不是只按任务难度分类。
Thinking Machines 在 Hugging Face 发布开源多模态 LLM Inkling，并推出 Inkling-Small 及 NVFP4 等变体。
推荐理由：文章同时给出模型架构、量化部署配置和多框架支持，便于评估多模态推理模型的落地门槛。
Hugging Face 发布 PyTorch 性能剖析教程第 3 部分，在 NVIDIA A100-SXM4-80GB 上对比朴素 attention、in-place masking 与 SDPA 的 math、efficient、flash、cuDNN 后端。
推荐理由：文章用同一 A100 环境对比多种 attention 实现的 profiler trace，可帮助读者把 kernel 数量、显存访问和后端选择联系起来。
Hugging Face 宣布 transformers 的 vLLM 建模后端已升级，兼容架构可通过 --model-impl transformers 达到或超过 vLLM 手写原生实现的吞吐。
推荐理由：文章给出三种 Qwen3 配置的实测吞吐和启用参数，模型作者可据此省去为 vLLM 单独移植优化代码的工作。
Microsoft Build 2026 宣布 Foundry Managed Compute 支持 Hugging Face 模型，开放权重模型目录每周更新并可一键部署。
推荐理由：文章说明了 Hugging Face 开放权重模型进入 Microsoft Foundry 的策展、安全扫描和一键部署流程，便于评估企业落地路径。
UC Berkeley 研究者提出，AI 推理成本快速下降后，数据系统将面临 For、Of、By Agents 三类新挑战。GPT-4 级能力价格已从 2023 年初约每百万 token 30 美元降至 1 美元以下，部分供应商低于 0.10 美元；多 Agent 执行 text-to-SQL 任务时，80-90% 的子查询存在重复工作。
推荐理由：文章把推理成本下降转化为数据系统的三类研究议程，并给出重复查询、结构化记忆和系统合成等具体切入点。
Hugging Face 与 SkyPilot 联合推出 store: hf，SkyPilot 任务可用一个 hf:// URL 和 HF_TOKEN 挂载 Hugging Face Bucket 或 Hub 仓库，并在 20+ 云、Kubernetes、Slurm 和本地环境运行。
推荐理由：文章给出跨云挂载方式、免出站读取费用和基准速度，便于评估多云 GPU 任务的数据访问成本。