跳到正文

#部署/工程

今日 5 条
9月25日周五
9月24日周四
  1. AWS Machine Learning Blog40

    HEMA 如何用 MCP 与 Amazon Bedrock AgentCore 打造内部 AI 助手 HAL,告别跨门户查找

    荷兰百年零售商 HEMA 基于 Amazon Bedrock AgentCore 和 MCP 构建内部 AI 助手 HAL,将分散在 wiki、服务目录与 IT 门户的知识统一接入员工常用工具。HAL 支持 HAL web chat、Kiro、Claude 等 MCP 客户端,通过 Microsoft Entra ID 认证,当前为只读访问,原本需跨三四个门户查找的答案现在数秒内即可获得。

  2. Google DeepMind62

    Google Private AI Compute 将加入安全的服务端持久记忆

    Google Private AI Compute 团队宣布将为平台加入私有的服务端持久记忆,使 AI 助手可跨设备保留长期上下文。新架构把数据存入云端专用加密存储,解密密钥仅保存在用户个人设备上,并通过端到端加密通道连接云端隔离安全飞地;数据只在处理请求时临时解密,随后立即重新加密。

    推荐理由:原文解释了云端持久记忆如何结合安全飞地、端侧密钥和可验证服务器软件,为理解跨设备个人 AI 的隐私架构提供参考。

9月23日周三
9月22日周二
9月21日周一
  1. Hugging Face Blog61

    Hugging Face 发布 tokenizers v1 候选版,编码速度较 v0.23 提升 3 至 30 倍

    Hugging Face 发布 Rust tokenizers v1 release candidate,在 Apple M4 Max 单线程上覆盖的 10 个模型家族编码速度较 v0.23 快 3 至 30 倍,8 个 worker 下达到 76% 的线性扩展。

    推荐理由:文章拆解了 tokenizers v1 在保持 token ID 与 API 不变的前提下,如何通过位流切分、缓存和无分配合并循环获得数十倍提速。

9月17日周四
9月16日周三
  1. NVIDIA Blog45

    曼彻斯特大学利用 NVIDIA Earth-2 预测英国全境空气污染

    曼彻斯特大学与 NVIDIA 合作,基于 Earth-2 CorrDiff 和 StormCast 生成式模型构建英国全境空气污染预测模型,分辨率达 2-3 平方公里。模型在搭载 5,448 颗 GH200 的 Isambard-AI 超算上以单节点训练两天完成,推理可在桌面级 DGX Spark 上运行。团队计划开源训练数据与工作流,未来支持政策情景模拟、医疗预警及智能体交互查询。

9月15日周二
  1. NVIDIA Blog47

    费城儿童医院如何用 NVIDIA 开源 AI 加速儿童心脏建模与护理

    费城儿童医院基于 NVIDIA 联合创立的开源医学影像框架 MONAI,将 CT、MRI 和 3D 超声图像在数秒内生成精确心脏模型,原本需熟练研究人员 4 小时的流程已可用于常规临床。其还借助 NVIDIA Warp 与开源物理引擎 Newton,把心脏器械模拟从最长 4 小时缩短至近实时;美国已有 20 多家儿童医院开展心脏建模项目。

9月14日周一
  1. Fireworks AI(网页)72

    Fireworks 发布 DeepSeek-V4.1-Flash,DeepSWE 编码准确率接近 GPT-6 Astra 且单任务成本为 1/15

    Fireworks 发布 DeepSeek-V4.1-Flash,并给出 DeepSWE、Terminal-Bench 2.1 与 HLE 评测。DeepSeek-V4.1-Flash 在 DeepSWE 上 Pass@1 为 74.34%,单任务成本 $0.430;GPT-6-Astra 为 74.12%、$6.524,二者质量接近而成本相差 15 倍。

    推荐理由:文章用 DeepSWE、Terminal-Bench 2.1 和 HLE 对比成本与能力边界,并解释输入输出分离激活及 KV cache 优化。

9月11日周五
9月10日周四
  1. Mistral AI44

    Cloudera 与 Mistral 达成合作,为企业数据带来专业化、主权智能

    Cloudera 与 Mistral 宣布达成合作,将 Mistral 模型集成进 Cloudera 混合数据平台,支持企业在私有云、公有云、本地及完全气隙环境中运行推理并保持完全控制。企业还可在受控环境中用自有数据训练定制模型,保留对数据与智能的所有权。该合作面向 Cloudera 平台上由客户管理的 30 exabytes 数据,满足主权 AI 需求。

9月3日周四
9月1日周二
8月31日周一
  1. Fireworks AI(网页)67

    Fireworks AI 宣布 Training API 与 Fireworks Lab 正式可用

    Fireworks AI 宣布 Training API 和 Fireworks Lab 正式可用,Training API 可把用户用 Python 编排的自定义训练循环接入 Fireworks 托管的分布式训练与 rollout 基础设施。

    推荐理由:文章说明了 Training API 的自定义训练循环、Serverless 与 Dedicated 两种算力模式,以及训练和推理一体化部署方式,便于评估后训练工程接入路径。

8月25日周二
8月21日周五
  1. Hugging Face Blog60

    Liquid AI 发布 LFM2.5-DSpark 草稿模型,LFM2.5 推理最高加速 3.18 倍

    Liquid AI 发布面向 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型检查点,通过推测解码提升推理速度且不改变贪心解码输出。

    推荐理由:文章给出三款草稿模型的参数规模、H100 与 M4 Max 实测加速及 llama.cpp、SGLang 接入方式,便于评估端侧和服务端部署收益。

8月20日周四
8月18日周二
  1. Hugging Face Blog74

    Sentence Transformers v6.0 推出 MultiVectorEncoder,支持 ColBERT 式多向量晚交互检索

    Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式晚交互检索,并可直接加载 PyLate、Stanford-NLP ColBERT 检查点,也支持 colpali-engine 视觉文档检索模型。

    推荐理由:文章围绕 Sentence Transformers v6.0 的 MultiVectorEncoder,给出加载、检索、索引和多模态用法,便于直接迁移到现有 RAG 流程。