跳到正文

#部署/工程

今日 5 条
今天10月13日周二
  1. AWS Machine Learning Blog62

    Amazon Bedrock 教程:在泰国、马来西亚、新加坡、印尼和台湾通过全球跨区域推理访问 OpenAI GPT 模型

    AWS 教程说明如何在 Amazon Bedrock 上通过全球跨区域推理访问 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra;Sol 与 Luna 可从新加坡、雅加达、马来西亚、泰国和台北五个源区域调用,Astra 从新加坡调用。

    推荐理由:文章给出跨区域推理配置、IAM 与 SCP 权限、配额和监控方法,适合在东南亚及台湾区域接入 GPT-6 时直接参照。

  2. Databricks:Blog(RSS)42

    Flo Health 如何借助 Databricks AI Runtime 打造更安全、更实用的开放模型

    Flo Health 基于 Databricks AI Runtime,在无服务器 NVIDIA H100 GPU 上构建开放模型后训练流程,以兼顾医疗安全与实用性。该方案使用 26 个 AI 评委、生成逾 15,000 个隐私优先的合成问题,并结合监督微调与 DPO;团队预计推理成本较前沿模型 API 降低一个数量级。

10月12日周一
10月10日周六
  1. Hugging Face Blog58

    Ai2 如何用 GPU 时间预算改造高影响力研究集群调度

    Ai2 将 GPU 集群调度器从优先级机制改为 GPU 时间预算、分层公平份额和时间片契约,以在保持高占用的同时优先支持高影响力研究。新系统按 7 天滑动窗口计算占用,工作负载声明最低运行时间并默认最长保护 8 小时;30 天测试中团队获得 98% 应得 GPU 小时,集群占用保持 98%,人工介入维修减少 74%。

10月9日周五
10月8日周四
  1. GitHub Blog · AI & ML67

    GitHub 推出 ModernBERT 通用密钥检测模型,扩展 push protection 至非结构化密钥

    GitHub 发布与 Microsoft Applied Sciences 合作构建的 ModernBERT 通用密钥检测分类器,把 push protection 扩展到无固定模式的非结构化密钥。

    推荐理由:文章用九个季度数据说明代码活动增长而非开发者变粗心,并给出新分类器的速度、覆盖范围和上线计划。

  2. Microsoft Research72

    Microsoft Research Asia 开源 Agent Lightning v1.0,用约 3,500 行代码训练真实 harness 智能体

    Microsoft Research Asia 发布并开源 Agent Lightning v1.0,提出 Harnessed Agentic RL,让部署时使用的同一 agent harness 直接参与强化学习,无需在训练框架中重写智能体。

    推荐理由:原文给出真实 harness 接入方式、Kubernetes 运行方案和 SWE-bench Verified 结果,便于评估其复用到自有智能体训练的成本。

10月7日周三
10月6日周二
  1. NVIDIA Blog39

    电信运营商为何将 AI 战略建立在开放模型之上

    NVIDIA 报告显示,89% 的电信业受访者认为开源模型和软件对其 AI 战略重要,开放模型在成本、定制、可信治理和灵活部署上具备五重价值。NVIDIA 推出 30B 参数的 Nemotron 3 Large Telco Model(LTM),并发布基于 NVIDIA NeMo 的端到端微调方案。SoftBank、AT&T、Indosat 等运营商正借助开放模型构建网络运维与本地化 AI 服务。

  2. Databricks:Blog(RSS)47

    在 Databricks 上扩展与运营大型 dbt 项目:IFCO 数据团队谈性能、可见性与调试

    IFCO 数据平台团队联合 Databricks Forward Deployed Engineering,将转换逻辑保留在 dbt 中并运行于 Databricks,通过调优增量设置与 Delta Lake 写入行为优化数据管道。核心语义层作业的每日运行时间缩短超过 60%,并停用了高成本的夜间全量刷新。该方案应对每日数十亿追踪事件、延迟数周至数月到达的数据及历史对账难题。

  3. Databricks:Blog(RSS)60

    Databricks Runtime 推出 NEAREST BY 原生批量向量搜索连接

    Databricks Runtime 推出 NEAREST BY 连接语法,将批量向量搜索表达为原生 top-k ranking join,并在 Photon 中通过 SIMD 距离函数、融合 GEMM 算子和可选 IVF 索引执行。

    推荐理由:文章把批量向量搜索拆解为 top-k ranking join,并说明 Photon、GEMM 与 IVF 索引如何共同提升大规模批处理吞吐。

  4. AWS Machine Learning Blog47

    如何用 Amazon Bedrock AgentCore 评估多智能体系统的可解释性与有用性

    Amazon Bedrock AgentCore Evaluations 提供全托管的多智能体评估能力,支持内置与自定义评估器,覆盖有用性、任务成功率、指令遵循及可解释性等维度。该方案结合 Strands Agents SDK 与 AgentCore MCP Server,以零售供应链多智能体系统为例,验证约束满足、路线可行性、SQL 正确性与决策依据说明,并支持按需评估与在线持续监控两种模式。

10月5日周一
10月3日周六
10月2日周五