Olmo-core 3 发布:面向万亿参数 MoE 的开放可扩展训练基础设施
AllenAI 发布 Olmo-core 3,这是面向大型 MoE 大语言模型的开放训练框架升级,可扩展到万亿参数范围并保持计算效率。
推荐理由:文章给出从 FSDP 转向 DDP、专家驻留 GPU 等架构变化,并用多组吞吐和显存数据说明其对大规模 MoE 训练的工程参考价值。
AllenAI 发布 Olmo-core 3,这是面向大型 MoE 大语言模型的开放训练框架升级,可扩展到万亿参数范围并保持计算效率。
推荐理由:文章给出从 FSDP 转向 DDP、专家驻留 GPU 等架构变化,并用多组吞吐和显存数据说明其对大规模 MoE 训练的工程参考价值。
Deploy 95 作者 Trista 基于对 American Axle & Manufacturing、Blue Origin、General Motors、Kraft Heinz、PepsiCo、Tesla 等企业十多名制造和控制工程师的访谈,分析工业 AI 在工厂被停用的组织原因。
一款面向 AI 智能体的 Docker 沙箱在完全隔离与实际工作能力之间做权衡,默认运行 Oh My Pi 智能体,并非理想隔离,需按自身用例调整。其 netless 模式通过 `--network=none` 断网,仅经 tinyproxy 放行 api.venice.ai:443 和本地模型服务 127.0.0.1:8899 两个 unix socket 通道。
腾讯与 Oracle 达成约 $7 billion 的五年租赁协议,获得约 100,000 颗中国境内无法取得的先进 AI 芯片使用权,覆盖 Oracle 在东南亚的多个数据中心。协议约 30% 款项需提前支付,Oracle 与腾讯均未回应置评请求。
Sriti Core 是一个开源的本地优先 LLM 智能路由代理和级联引擎,会先分类请求并查询语义缓存,再按 Tier 3 本地 Ollama、Tier 2 云端高吞吐提供商、Tier 1 前沿模型逐级调用。
Positron 推出面向生成式 AI 的专用硬件,可将 HuggingFace Transformers 训练的任意 Transformer 模型直接映射到硬件,并通过兼容 OpenAI API 的端点提供服务。
Satlyt 获得 800 万美元种子轮融资,用于开发可在多家公司卫星上运行 AI 模型的软件,而不自建航天器。公司此前已在两次演示任务中飞行软件,并在 Momentus 航天器上部署 Google DeepMind 的 Gemma 模型,将机载软件错误传输数据量减少逾 60%。
NVIDIA 提出 AI 工厂回报取决于盈利能力、使用寿命与 token 需求,并通过高生产率、耐用性和可复用性最大化投资回报。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量较 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本最高降低 45 倍。
Bolna 将语音 AI 通话分析链路从 Datastream 加 BigQuery 迁移到 ClickHouse Cloud 加 ClickPipes,使通话结束后数据到达时间从 5-15 分钟缩短到 1-2 分钟,分析成本降至约六分之一。
Vaadin 发布 25.3,为 AI 表单填充增加字段标记、单字段撤销、置信度、来源片段和位置追踪,并提供请求拦截、响应元数据、工具异常与每轮工具调用限制。
开发者 countervolts 的 GitHub 项目 d4r 发布 0.1.3 版本,通过 ZLUDA 兼容层让 AMD Radeon RX 9000 系列显卡运行 NVIDIA DLSS 4 与 DLSS 4.5,RDNA 4 可原生处理 FP8 矩阵运算。
OpenDLSS 是一个基于 Vulkan 的 NVIDIA DLSS 5 Neural Rendering 网络重新实现项目,目标是与原始实现逐字节一致。项目对应 DLSS-NR build 310.8.0 的 71 个 Swin/ViT 块,使用 FP8 E4M3 激活和 FP16 累加,权重为 141 MiB;仓库不提供权重或 NVIDIA 软件,用户需自行提供模型目录。
JERA 与 Dell、RHAELM 签署谅解备忘录,将在日本千叶县建设设计容量 400MW、总投资预计超过 150 亿美元的 AI 数据中心。项目邻近 JERA 自有火力发电站并采用表后供电,Apollo 提供投融资支持,站点有望于 2028 年上线。三方还将制定日本 AI 基础设施建设标准化框架,并计划扩展到其他 JERA 站点,目标在 21 世纪 30 年代实现多 GW 级容量。
智能体 AI 进入生产后,治理无法事后加装,必须从第一天内建到运行环境中。受治理的 agent 运行链路应包含 agent 身份、推理、决策、授权、安全执行和证据六个环节,并由策略全程强制。Kimchi 提供基于 SPIFFE/SPIRE 的工作负载身份、Kimchi Inference 的 OpenAI 兼容 API,以及治理边界等能力。
腾讯被曝已与甲骨文签署五年期租赁协议,租用东南亚多个甲骨文数据中心约10万块先进AI芯片,交易估值约70亿美元、首付约30%。腾讯和甲骨文均未回应置评请求,腾讯计划将相关算力用于AI模型和智能体工具开发。报道还称此类安排在美国规则下被允许,腾讯第二季度资本支出同比增长176%至530亿元人民币。



技嘉推出工作站级本地 AI 台式整机 AI TOP 100 B850,搭载锐龙 9 9950X、B850 主板、128GB DDR5 内存与 2TB SSD,可选 1 张 RTX 5090 或 2 张 Radeon AI PRO R9700 显卡。
PSSA 于 9 月 24 日发布,是一个 2.7B 参数、完全用 Rust 编写的非 Transformer 语言模型,代码和权重以 Apache-2.0 许可开源。


作者发布 stAI Version 3.0.3,这是一个预装 AI、全栈 Web 与 DevOps 工具链的 Ubuntu VMware 虚拟机,镜像超过 54GB,可下载后直接启动开发。
一篇交互式解读梳理 AI 算力的物理堆栈,按电网与电力、数据中心设施、芯片、机架、集群、虚拟机、工作负载和经济回报八层展开。文章强调签约、许可、通电和可供服务器使用的电力处于不同阶段,并以 PUE、IT MW、tokens、GPU:CPU 比例、H100e 和 accelerator-hour 等指标区分容量与产出。
一篇 arXiv 论文提出 AI lowering,让 LLM 智能体把 Triton kernel 直接翻译成 NVIDIA PTX,并通过可执行评测与验证环境迭代候选代码。
Nine 是一个自托管 AI 智能体运行时,以单个 Go 二进制提供客户端、服务器和插件角色,支持通过 Ollama 使用本地模型或使用 Mistral API,并以 SQLite 持久化会话、目标、记忆和事件。
Magnitude 发布面向智能体的开源推理引擎,可在本机编译并调优内核,支持 macOS、Windows 和 Linux。其称开放模型运行速度最高可达 llama.cpp 的 2 倍,Metal decode 快 92%、CUDA 快 19%,每个智能体内存占用降低 27%。
Beth Simone Noveck 和 Deborah D. Stine 在 Fast Company 撰文指出,AI 数据中心建设越来越取决于当地社区信任。
一本面向 MLSys 的开源书籍讲解如何用 AI 智能体编写和优化 GPU kernel,核心是编译器驱动的 TIRx harness,配合程序分析、知识库、benchmark 与 profiling 形成迭代优化流程。
Strata 是一个免费开源项目,可在单张 12-24 GB VRAM 的 NVIDIA 显卡加 64 GB RAM 的普通游戏 PC 上运行 125B 参数 Qwen3.8-Flash-Next,支持 Windows 和 Linux 并提供一键安装。
一篇实践教程演示如何把管理咨询中的 2030 年收入预测任务转化为 AI 智能体可操作的模拟办公环境。作者基于 Mercor 的 Archipelago、Apex-Agents 数据集和 Hugging Face 任务,使用 MCP servers 暴露文件、表格、邮件、聊天和日历等工具,并用 Docker 与 FastAPI 承载可复现环境。
Coop 正在由志愿者利用捐赠的消费级硬件、Hugging Face 免费层和 GitHub Actions 从零预训练约 145M 参数模型,当前 Stage 2 使用 FineWeb-Edu。
开源项目 Jevstiller 将 Jev 的输出蒸馏到本地学生模型,熟悉请求由设备 CPU 直接处理,延迟最低 15 ms,目标与 Jev 保持 98% 一致率。无法本地回答的请求会用调用者密钥转发给 Jev,并将返回结果用于持续训练;系统还固定审计 2% 请求,一致率下降时提高审计比例。
Databricks 联合 OpenAI 与 Stellantis 探讨企业在生产环境规模化扩展智能体应用所需的基础设施,核心是选择、上下文与控制三项能力。
Framework Desktop 192GB 基于 AMD Ryzen AI Max+ PRO 495,相比 128GB Strix Halo 多出 64GB 统一内存,可在单机内存中加载更大的模型,或同时常驻两个模型。
Oliver 发布面向前沿 AI 查询方式的 GPU 数据库层,把数百至数千个问题合并为程序后在一次数据遍历中完成,并可部署在客户自有云账户的 GPU 上。
Halogen 0.15.1 是面向 AMD Strix Halo 和 Qwen3.8-Flash-Next 的专用推理服务器,通过 Podman 镜像在 :8731 提供 OpenAI 兼容接口,并支持 Responses API、Anthropic Messages API、Codex、Claude Code、图像输入、工具调用和结构化输出。
AWS 教程演示在 Amazon Bedrock AgentCore Runtime Instances 上部署三个协作智能体,共同生成、母带处理并审核可播放的 .wav 音乐文件。
推荐理由:教程用共享会话把三个独立部署的智能体放到同一 GPU 实例,适合参考长周期多智能体工作流的工程编排方式。
一篇技术教程展示如何用 Amazon Bedrock Knowledge Bases 构建理赔助手,通过自然语言查询 Amazon S3 中的理赔文档并返回带引用的答案。
CoreWeave 宣布在 CoreWeave Cloud 提供 NVIDIA Vera Rubin NVL72 系统,并搭配 Spectrum-X 102.4T Ethernet;Cognition 是首个在 Vera Rubin 上运行生产工作负载的客户。
推荐理由:文章集中呈现 CoreWeave 对 Vera Rubin、Vera CPU 与 Forge 的落地安排,并给出 Cognition 早期推理测试数据,便于理解训练到生产闭环的基础设施组合。
DeepSeek 与华为合作发布面向华为 Ascend AI 芯片的开源编程工具,核心是 TileLang,并包含计算与芯片间数据搬运库。双方还优化了由 128 颗 Ascend 950 芯片组成的 supernode;DeepSeek 称 TileLang 比 CUDA 更易编程,且已成为其 AGI 工作的主要工具。
推荐理由:文章把 TileLang 放在 CUDA 生态壁垒和国产 AI 芯片软件栈竞争中解释,便于理解其对 Ascend 训练生态的意义。
柏林初创公司 Restate 完成 2000 万美元 A 轮融资,由 Singular 领投,Redpoint Ventures 和 Capital One Ventures 参投。
Cerebras Systems CEO 兼联合创始人 Andrew Feldman 将在 TechCrunch Disrupt 2026 的“Can AI Keep Scaling?