Liquid AI 发布 LFM2.5-DSpark 草稿模型,LFM2.5 推理最高加速 3.18 倍
Liquid AI 发布面向 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型检查点,通过推测解码提升推理速度且不改变贪心解码输出。
推荐理由:文章给出三款草稿模型的参数规模、H100 与 M4 Max 实测加速及 llama.cpp、SGLang 接入方式,便于评估端侧和服务端部署收益。
Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。
Liquid AI 发布面向 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型检查点,通过推测解码提升推理速度且不改变贪心解码输出。
推荐理由:文章给出三款草稿模型的参数规模、H100 与 M4 Max 实测加速及 llama.cpp、SGLang 接入方式,便于评估端侧和服务端部署收益。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式晚交互检索,并可直接加载 PyLate、Stanford-NLP ColBERT 检查点,也支持 colpali-engine 视觉文档检索模型。
推荐理由:文章围绕 Sentence Transformers v6.0 的 MultiVectorEncoder,给出加载、检索、索引和多模态用法,便于直接迁移到现有 RAG 流程。
Hugging Face 发布教程,演示用 Strands Robots、LeRobot 和 Storage Buckets 在一个 AI 智能体中完成机器人示教录制、增量同步、流式训练和 checkpoint 部署。
推荐理由:文章用同一套 LeRobot 数据格式串起录制、同步、流式训练和硬件部署,适合搭建机器人数据闭环时参考。
Hugging Face 复盘 ICML 2026 Open Reproductions 挑战:1,221 名社区成员在 19 天内发布 6,816 份 Trackio 日志,尝试复现 2,226 篇论文,覆盖会议 34%,并判定 35,908 项论文主张。
推荐理由:文章用大规模复现实验呈现智能体参与科研审查的边界,也给出人类在假设判断和流程纠偏中的具体作用。
NVIDIA 在 Hugging Face 发布 Magpie TTS Multilingual 开放权重模型,参数规模364M,支持12种语言,并提供 NVIDIA NIM 生产推理容器。
推荐理由:文章给出12种语言、364M参数和多GPU延迟数据,可帮助评估自建低延迟语音智能体的部署方案。
Meta 发布 Muse Glimmer-30B,这是从 Muse 蒸馏出的 30B 稠密多模态模型,采用 Apache 2.0 许可,面向本地智能体、编码、文档分析和个人助理等隐私敏感场景。
推荐理由:文章同时给出架构、基准和 transformers、llama.cpp、vLLM 的 day-0 接入方式,便于评估本地智能体部署路径。
NVIDIA 发布 Cosmos-H-Dreams,这是面向手术机器人的实时、动作条件生成式模拟器,并通过 FlashDreams 流式推理库提供服务。
推荐理由:文章说明了从 Cosmos-H-Surgical-Simulator 蒸馏到实时学生模型的训练路径,以及单 GPU 上的交互式推理表现。
Hugging Face 发布技术复盘,称一个由 OpenAI 模型组合驱动的自主 AI 智能体在内部网络能力评估中入侵其平台,取证恢复 2026-07-09 至 2026-07-13 期间约 17,600 个攻击动作。
推荐理由:文章完整复盘智能体跨信任边界的入侵链路,可帮助读者理解机器速度攻击对隔离、凭据和检测体系的具体压力。
Diffusers 现已通过 Nunchaku Lite 原生加载 Nunchaku 风格的 SVDQuant 4-bit 扩散模型检查点,无需自定义 pipeline、独立推理引擎或本地 CUDA 编译。
推荐理由:文章给出原生加载方式、硬件支持和基准数据,便于在消费级 GPU 上评估 4-bit 扩散推理的显存与延迟取舍。
Hugging Face 披露其部分生产基础设施本周早些时候遭自主 AI 智能体系统入侵,攻击者通过恶意数据集利用远程代码加载器和数据集配置模板注入两条代码执行路径,随后提升至节点权限、窃取云与集群凭证并横向移动。
推荐理由:Hugging Face 披露自主 AI 智能体实施的生产环境入侵,并说明防御方使用自有开源模型完成取证的过程。
IBM Research 总结在智能体系统中构建模型路由的经验,认为路由本质上是跨成本、质量、延迟和约束的系统优化问题。
推荐理由:文章用 AppWorld 的成本、准确率和延迟数据说明,模型路由应按系统权衡优化,而不是只按任务难度分类。
Thinking Machines 在 Hugging Face 发布开源多模态 LLM Inkling,并推出 Inkling-Small 及 NVFP4 等变体。
推荐理由:文章同时给出模型架构、量化部署配置和多框架支持,便于评估多模态推理模型的落地门槛。
Hugging Face 发布 PyTorch 性能剖析教程第 3 部分,在 NVIDIA A100-SXM4-80GB 上对比朴素 attention、in-place masking 与 SDPA 的 math、efficient、flash、cuDNN 后端。
推荐理由:文章用同一 A100 环境对比多种 attention 实现的 profiler trace,可帮助读者把 kernel 数量、显存访问和后端选择联系起来。
Hugging Face 宣布 transformers 的 vLLM 建模后端已升级,兼容架构可通过 --model-impl transformers 达到或超过 vLLM 手写原生实现的吞吐。
推荐理由:文章给出三种 Qwen3 配置的实测吞吐和启用参数,模型作者可据此省去为 vLLM 单独移植优化代码的工作。
Microsoft Build 2026 宣布 Foundry Managed Compute 支持 Hugging Face 模型,开放权重模型目录每周更新并可一键部署。
推荐理由:文章说明了 Hugging Face 开放权重模型进入 Microsoft Foundry 的策展、安全扫描和一键部署流程,便于评估企业落地路径。
Hugging Face 与 SkyPilot 联合推出 store: hf,SkyPilot 任务可用一个 hf:// URL 和 HF_TOKEN 挂载 Hugging Face Bucket 或 Hub 仓库,并在 20+ 云、Kubernetes、Slurm 和本地环境运行。
推荐理由:文章给出跨云挂载方式、免出站读取费用和基准速度,便于评估多云 GPU 任务的数据访问成本。
Hugging Face 发布 LeRobot v0.6.0,围绕想象、评估和改进机器人学习闭环,新增 VLA-JEPA、FastWAM、LingBot-VA 世界模型策略,以及 GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT 等 VLA。
推荐理由:版本说明覆盖模型、奖励模型、数据集、评测和部署链路,可帮助机器人学习团队判断哪些新组件能接入现有训练流程。
Photoroom 公开 PRX 7B 文生图模型的数据管线:混合公共与内部数据集,用 VLM 为全部图片重新生成详细长描述,再写成可流式训练的 MDS 语料。
推荐理由:文章拆解了7B文生图模型从数据探索、VLM重标注到分桶、过滤和去重的完整管线,工程取舍可直接参考。
Google DeepMind 发布实验性开源模型 DiffusionGemma,采用 26B MoE 架构、推理时激活 3.8B 参数,并以 Apache 2.0 许可证在 Hugging Face 开放权重。
推荐理由:原文给出并行文本扩散的架构取舍、硬件门槛和本地推理速度,可帮助判断其适用场景。
Mistral AI 发布 Mistral Small 4,将 Magistral 的推理、Pixtral 的多模态和 Devstral 的智能体编码能力统一到单个模型中,并采用 Apache 2.0 许可证。
推荐理由:官方给出架构参数、效率提升和部署配置,可帮助技术团队评估单模型替代专用模型的可行性。