Aderant 基于 Amazon Nova 构建智能工单分诊系统
Aderant 通过 Amazon Bedrock 使用 Amazon Nova Lite 构建 Intelligent Ticket Analyzer,自动完成支持工单的上下文收集、分类、路由与知识补充。系统在上线前 2.5 周处理 109 张工单,路由准确率约 96%,预计每周节省 8–14 个工程小时,总运行成本低于每月 $30。
Aderant 通过 Amazon Bedrock 使用 Amazon Nova Lite 构建 Intelligent Ticket Analyzer,自动完成支持工单的上下文收集、分类、路由与知识补充。系统在上线前 2.5 周处理 109 张工单,路由准确率约 96%,预计每周节省 8–14 个工程小时,总运行成本低于每月 $30。
Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark 草稿模型,通过推测解码在不改变输出质量的前提下提升推理速度。草稿模型约 280M 参数,使部署参数量增加 8.9%;端侧解码最高加速 3.13x,H100 最高加速 2.66x,端到端最高提升分别为 2.62x 和 2.27x。
Hugging Face 博客教程演示如何把 SO-101 follower arm 的 MuJoCo 场景迁移到基于 NVIDIA Warp 的 MJWarp,并扩展到最多 2,048 个并行 GPU 环境。
推荐理由:文章用 SO-101 场景串起 CPU 基线、单环境一致性、批量扩容和吞吐测量,适合迁移机器人仿真工作流时参考。
荷兰百年零售商 HEMA 基于 Amazon Bedrock AgentCore 和 MCP 构建内部 AI 助手 HAL,将分散在 wiki、服务目录与 IT 门户的知识统一接入员工常用工具。HAL 支持 HAL web chat、Kiro、Claude 等 MCP 客户端,通过 Microsoft Entra ID 认证,当前为只读访问,原本需跨三四个门户查找的答案现在数秒内即可获得。
GitHub 工程团队介绍了 GitHub Copilot app 重建 pull request 视图的方法,使包含 2,200 个文件、超过百万行变更和 400 多条内联评论的 pull request 仍可流畅滚动。
AWS 介绍了一套基于 Strands Agents SDK、Amazon Bedrock、Amazon Rekognition 和 Amazon Transcribe 的智能体视频问答架构,由 AI 智能体在运行时决定调用转录、视觉分析或 Amazon Bedrock Data Automation。
AWS 教程展示如何用终端原生开源编码智能体 OpenCode 接入 Amazon Bedrock 上的开放权重模型,让推理在自有 AWS 账户内运行并按 token 计费。
Microsoft Research 宣布 Physical AI Toolchain 新增机器人卸载物理 AI 推理能力,可在机器人、边缘 GPU 与云之间用 Kubernetes 容器化、部署和编排工作负载。
推荐理由:文章用移动机械操作任务的实测数据说明推理卸载对成功率和续航的影响,并给出 Kubernetes 工具链入口。
Google Private AI Compute 团队宣布将为平台加入私有的服务端持久记忆,使 AI 助手可跨设备保留长期上下文。新架构把数据存入云端专用加密存储,解密密钥仅保存在用户个人设备上,并通过端到端加密通道连接云端隔离安全飞地;数据只在处理请求时临时解密,随后立即重新加密。
推荐理由:原文解释了云端持久记忆如何结合安全飞地、端侧密钥和可验证服务器软件,为理解跨设备个人 AI 的隐私架构提供参考。
Concurrence 基于 Databricks 的 Lakebase、Unity Catalog 与 Unity Gateway 治理临床 AI 智能体,目前每 30 天处理约 100.8 billion 输入 token、11.2 million 次 LLM 调用,年化约 1.2 trillion 输入 token。
Fireworks 发布 ARCv3 权重增量压缩器,用于压缩训练器发送给 RL rollout 机器的 BF16 权重更新。基于 1,000 个生产环境 RL 权重更新增量测试,ARCv3 的平均负载为原始 BF16 权重大小的约 0.19%,低于 ARCv2 的 0.36%,并可无损重建逐 bit 一致的权重。
GPT-6 改进了 prompt 缓存机制,带来更高的缓存命中率、新增诊断工具、显式断点以及相关控制能力。这些改进可降低延迟与成本。
OpenAI 的 GPT-6 Sol 和 GPT-6 Luna 已在 Amazon Bedrock 正式可用,API 价格显著低于各自的 GPT-5.6 前代模型。
推荐理由:文章说明了两款 GPT-6 模型在 Amazon Bedrock 的定位、成本差异和企业级数据控制,便于按任务复杂度选型。
NVIDIA 在加拿大多伦多 ROSCon 发布免费开源的 Isaac ROS 5.0,为近 130 万 ROS 用户提供基于 ROS 的 GPU 加速机器人开发包。
推荐理由:文章梳理了 Isaac ROS 5.0 的智能体工作流、ROS Lyrical 与 Jetson 支持,并列出多家机器人厂商的落地方式。
Hugging Face 宣布 transformers 新增 GGUF 模型支持,可通过 from_pretrained 直接加载 Hub 上的量化检查点并在本机生成。
推荐理由:文章说明了 transformers 直接加载 GGUF 的入口、Apple Silicon 限制和性能实现,便于评估本地 PyTorch 推理工作流。
NVIDIA 推出 DSX Ready 认证计划,用于认证符合 NVIDIA DSX AI 工厂参考设计要求的合作伙伴产品与方案。该计划首批覆盖电池储能系统(BESS)和冷量分配单元(CDU)两类,已纳入 Hitachi Energy、LG Energy Solution、Tesla、LG Electronics、LiquidStack 和 Vertiv 的合格方案。
NVIDIA 发布 Halos,称其为面向物理 AI 的全栈安全系统,覆盖硬件、操作系统与中间件、AI 模型、仿真验证和部署生命周期。
NVIDIA 在大埃及博物馆举办活动,展示埃及 AI 生态进入生产规模,其 Deep Learning Institute 学员数一年内增长逾十倍。非洲一年内已宣布或上线 4 座 AI 工厂,另有 656 megawatts 新产能在建,NVIDIA 已培训逾 85,000 名非洲开发者。
NVIDIA 提出 AI 安全应作为工程问题,在模型、harness 与运行时组成的智能体技术栈各层实施可强制执行的访问控制、独立身份、人工审批与日志审计。
Multiverse 发布论文 LLM Compression by Block Removal with Constrained Binary Optimization,把删除哪些 Transformer 块转化为 Ising glass 上的约束二值优化问题。
NVIDIA 在纽约气候周介绍 5 家公司使用 NVIDIA AI 推进清洁能源项目,覆盖电网数字孪生、核电运营、回收电池供电、核反应堆与核聚变。
Hugging Face 发布 Rust tokenizers v1 release candidate,在 Apple M4 Max 单线程上覆盖的 10 个模型家族编码速度较 v0.23 快 3 至 30 倍,8 个 worker 下达到 76% 的线性扩展。
推荐理由:文章拆解了 tokenizers v1 在保持 token ID 与 API 不变的前提下,如何通过位流切分、缓存和无分配合并循环获得数十倍提速。
Phylo 的 Biomni Lab 通过 Fireworks serverless fast path 部署前沿开放权重模型,实现用户月环比增长 2 倍、成本降低 60%,多数流量已转向开源模型。新 SOTA 开源模型可在 24 小时内上线生产,首 token 时间约缩短一半,Biomni Lab 已被全球超 50,000 名科学家使用。
NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 预览提交中,Qwen3-VL 吞吐最高达到 GB300 NVL72 的 3.7x,DeepSeek-R1 最高达到 2.5x。
推荐理由:文章用 MLPerf Inference v6.1 的吞吐、扩展效率和软件优化数据,呈现新一代机架系统的推理经济性变化。
曼彻斯特大学与 NVIDIA 合作,基于 Earth-2 CorrDiff 和 StormCast 生成式模型构建英国全境空气污染预测模型,分辨率达 2-3 平方公里。模型在搭载 5,448 颗 GH200 的 Isambard-AI 超算上以单节点训练两天完成,推理可在桌面级 DGX Spark 上运行。团队计划开源训练数据与工作流,未来支持政策情景模拟、医疗预警及智能体交互查询。
NVIDIA 在 AI Infra Summit 围绕 DSX 展示 AI 工厂电力调度能力,Lambda 在 HGX B200 集群验证 DSX MaxLPS 可在相同电力预算下提升 24% token 吞吐。
推荐理由:文章用 Lambda 的实测集群和电网需求响应案例,说明固定电力预算下提升 token 产出的具体路径。
NVIDIA 在 AI Infra Summit 公布 Vera Rubin、DSX、NVLink 6 及多项合作的 AI 工厂能效进展,核心指标转向每兆瓦可交付的智能体 token。
推荐理由:文章集中给出 Vera Rubin、DSX 与 NVLink 6 的能效和扩展数据,可帮助读者从每兆瓦 token 角度比较 AI 工厂方案。
费城儿童医院基于 NVIDIA 联合创立的开源医学影像框架 MONAI,将 CT、MRI 和 3D 超声图像在数秒内生成精确心脏模型,原本需熟练研究人员 4 小时的流程已可用于常规临床。其还借助 NVIDIA Warp 与开源物理引擎 Newton,把心脏器械模拟从最长 4 小时缩短至近实时;美国已有 20 多家儿童医院开展心脏建模项目。
Fireworks 发布 DeepSeek-V4.1-Flash,并给出 DeepSWE、Terminal-Bench 2.1 与 HLE 评测。DeepSeek-V4.1-Flash 在 DeepSWE 上 Pass@1 为 74.34%,单任务成本 $0.430;GPT-6-Astra 为 74.12%、$6.524,二者质量接近而成本相差 15 倍。
推荐理由:文章用 DeepSWE、Terminal-Bench 2.1 和 HLE 对比成本与能力边界,并解释输入输出分离激活及 KV cache 优化。
OpenAI 将 Habitat 从 Python 库演进为全球分布式存储平台,用于支撑 ChatGPT。该平台服务超 10 亿 ChatGPT 用户,并承载每秒 2200 万次请求。
Cloudera 与 Mistral 宣布达成合作,将 Mistral 模型集成进 Cloudera 混合数据平台,支持企业在私有云、公有云、本地及完全气隙环境中运行推理并保持完全控制。企业还可在受控环境中用自有数据训练定制模型,保留对数据与智能的所有权。该合作面向 Cloudera 平台上由客户管理的 30 exabytes 数据,满足主权 AI 需求。
Hugging Face 介绍 TRL v1.14 的 AsyncGRPOTrainer LoRA 支持,并展示训练器与 vLLM 分离到不同 HF Jobs 的方案。
推荐理由:文章给出跨 HF Jobs 部署 Async GRPO 与 LoRA 的完整架构、代理路由方法和五次调优实验,便于复用到分布式 RL 训练工程。
H Company 与 Hugging Face 发布 260M 和 800M 两种规格的 NeoMME 多模态多语言编码器,并用其微调得到视觉文档检索模型 NeoMME-Retriever。
推荐理由:文章给出单塔架构、ViDoRe v3 成绩、编码吞吐和索引压缩数据,便于评估其在视觉文档检索与视觉 RAG 中的工程取舍。
Hugging Face 发布 @huggingface/kernels 预览版和 207 个 Apache-2.0 许可的 WebGPU 内核,用于从 Hugging Face Hub 加载并运行浏览器本地 AI 算子。
推荐理由:原文同时给出内核仓库结构、JavaScript 加载方式和与 ORT WebGPU 的单算子对比,便于评估浏览器本地推理底层优化路径。
Fireworks AI 宣布 Training API 和 Fireworks Lab 正式可用,Training API 可把用户用 Python 编排的自定义训练循环接入 Fireworks 托管的分布式训练与 rollout 基础设施。
推荐理由:文章说明了 Training API 的自定义训练循环、Serverless 与 Dedicated 两种算力模式,以及训练和推理一体化部署方式,便于评估后训练工程接入路径。
Multiverse Computing 发布论文 Quantization-Aware Healing,提出直接用压缩前的原始全精度模型作为教师,向结构压缩并量化为 MXFP4 的学生模型做 KL 蒸馏。
Hugging Face 介绍了 Papers with Code 混合搜索系统的生产架构,用 PostgreSQL 全文检索、pgvector 语义向量和 RRF 融合支持论文搜索。
推荐理由:文章拆解了 Papers with Code 混合搜索的离线构建、在线查询与降级机制,对设计 RAG 检索系统有直接参考价值。
Liquid AI 发布面向 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型检查点,通过推测解码提升推理速度且不改变贪心解码输出。
推荐理由:文章给出三款草稿模型的参数规模、H100 与 M4 Max 实测加速及 llama.cpp、SGLang 接入方式,便于评估端侧和服务端部署收益。
Mistral 发布 Agentic Search,通过 search、open、navigate、read、grep 五个工具让模型跨数据源查找、检查并验证信息。
推荐理由:文章给出 FinanceBench 与 OfficeQA Pro 的准确率、token 和延迟变化,可帮助比较智能体检索相对一次性 RAG 的适用场景。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式晚交互检索,并可直接加载 PyLate、Stanford-NLP ColBERT 检查点,也支持 colpali-engine 视觉文档检索模型。
推荐理由:文章围绕 Sentence Transformers v6.0 的 MultiVectorEncoder,给出加载、检索、索引和多模态用法,便于直接迁移到现有 RAG 流程。