PostHog 复盘构建 AI 产品的 38 条经验
PostHog 复盘其构建 10 个 AI 产品、服务近 10 万月活用户的经验,核心建议是优先为 AI 构建 MCP server 等接口,而不是简单添加助手。
推荐理由:文章基于 PostHog 构建 10 个 AI 产品的内部实践,提供从 MCP 接口、上下文建设到成本与可靠性的可迁移经验。
PostHog 复盘其构建 10 个 AI 产品、服务近 10 万月活用户的经验,核心建议是优先为 AI 构建 MCP server 等接口,而不是简单添加助手。
推荐理由:文章基于 PostHog 构建 10 个 AI 产品的内部实践,提供从 MCP 接口、上下文建设到成本与可靠性的可迁移经验。
Intel 在 OCP Global Summit 公布 GPU D-series 技术细节、基于 Xeon 的新机架设计,以及开放软件和生态进展,面向智能体 AI 的异构推理基础设施。
彭博行业研究近日发布 AI 数据中心成本简报,测算在美国得克萨斯州阿比林市建设一座 1GW 数据中心需 307 亿美元,约合 2,058.69 亿元人民币。其中芯片和服务器硬件为 171 亿美元,占比过半;电力供应基础设施 30 亿美元、冷却系统 16.6 亿美元、网络布线 10.7 亿美元。
Amazon Web Services 团队在论文 Priming: Hybrid state space models from pre-trained Transformers 中提出 priming 方法,用预训练 Transformer 权重初始化混合状态空间模型,并将预训练成本降低超过 99%。
BlazerOps 开放 Design Partner Program,首批招募数据与 AI 团队,定位为覆盖模型生命周期管理的平台。平台支持用自然语言基于数据构建完整数据流水线,提供 AI 智能体、模型版本拖拽上线,以及一键部署流水线到 live inference 的能力。
Astera Labs 于本月 12 日发布"计算无关"机架参考设计 Orion,基于开放标准并采用模块化结构,含机架、计算托盘等六大生产级参考架构,支持多样化 CPU 和 AI 推理加速器。其核心为 320 通道 PCIe Switch,每个 pod 最多支持 160 块加速器,将于 2027Q1 通过 OEM 和 ODM 合作伙伴提供。
Ardus 宣布现有 0.5 MW 适配 B300s 的数据中心托管容量可用,可在数周内部署算力,客户自备 GPU。其 AI 智能体负责搜寻并核验已通电站点的电力、制冷、光纤与接入条件,支持 1 MW 至 10 MW 需求,并按首个 MW 上线时间对站点评分。
微软发布第三代自研 AI 芯片 Maia 300,并计划明年部署超百万颗,用于支撑内部 AI 业务及代码生成、复杂商业任务等计算。Maia 300 采用 chiplet 架构,核心计算芯粒使用台积电 2 纳米工艺,单机柜内置 96 颗芯片、功耗约 167 千瓦;微软称其每兆瓦有效计算量比主流 GPU 系统高约 40%。
英伟达在 OCP 全球峰会上通过 NVIDIA MGX 向 Open Compute Project 贡献 Vera Rubin 机架和计算托架设计,并联合 Cisco、Google、Meta、Microsoft 等发布多项 AI 基础设施开放标准。
英特尔 Xeon Diamond Rapids 将成为最后一代支持 SGX 的至强处理器,此后机密计算重心转向 TDX。现有 SGX 平台将获得安全更新与支持直至 2030 年代初,TDX 可在无需大幅修改软件的情况下隔离整个虚拟机,已在阿里云、谷歌云、微软 Azure 等主要云服务商推出。
YouTube 频道 Jun Yamog 用 4 张 Tesla V100 搭配 NVLink 载板,测试 4-bit 量化的 Qwen3.8-Flash-Next 模型推理,长提示处理速度较 2 台 DGX Spark 快 40%、较 M5 Ultra 快 230%。
英特尔在 2026 OCP 全球峰会上将基于 Xe3P 架构的数据中心推理 GPU Crescent Island 定名为 Intel GPU D-series,首款产品为 Intel GPU D270。
SK 海力士于 10 月 12 日推出 SSD 专用可编程处理器架构 H-TPU,用于控制 SSD 数据平面和处理事务。该架构将功能拆分至数十个小型 TPU 集群,采用四级流水线,面积约为通用 CPU 核心的 4%,功耗约为 2.5%。H-TPU 将应用于下一代企业级 eSSD 控制器及 AI 存储架构 Storage Next,并计划与明年发布的 HBF 结合。
Harvard CS2680《Modern AI Systems: Agents and System Optimizations》于 2026 年秋季开课,容量已增至 80 人,课程周一、周三在 SEC LL2.229 授课。
Intel D270 是一款面向智能体 AI 时代的推理优化数据中心 GPU,单卡最高配备 480 GB LPDDR5X,功耗 350 W 并采用风冷和标准 PCIe 5.0。
Quail 团队介绍其 AI-SQL 执行引擎如何实现 AI.CLASSIFY,通过 trie_decode、trie_tree 和 letters 三种方式限制 LLM 只输出候选标签,并由优化器按成本选择。
安全工程师 Micah Lee 主张用开放权重模型替代 ChatGPT 和 Claude,以避免数据被服务商查看、网络安全用途受限以及被单一厂商锁定。
Codex CLI 0.157.0 被用户反馈在打开交互式会话时默认启动持久化后台守护进程 codex app-server --managed-daemon,并复制约 374 MB 平台包到 ~/.codex/packages/app-server-daemon/releases/<version>/。
ABC News 报道称,AI 数据中心对 HBM 的需求正在挤压 DRAM 和 NAND 供应,推动手机、电脑、游戏机等产品的内存成本和售价上升。16GB RAM 芯片价格曾低至 4.76 美元,6 月已接近 60 美元;Samsung 部分高存储设备涨价最多 115 美元,Valve Steam Machine 定价为 1,049 美元。
Apollo 发布报告分析 AI 投资热潮在美国和欧洲的宏观影响,核心结论是美国 AI 私人投资、超大规模云厂商资本开支、数据中心和半导体布局显著领先欧洲。报告估算 2022–2029 年 AI 建设投资占美国 GDP 的 1.9%,并将其与铁路、电气化、公路等历史基建周期比较;2027 年超大规模云厂商资本开支预期在过去 12 个月翻倍。
AWS 教程说明如何在 Amazon Bedrock 上通过全球跨区域推理访问 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra;Sol 与 Luna 可从新加坡、雅加达、马来西亚、泰国和台北五个源区域调用,Astra 从新加坡调用。
推荐理由:文章给出跨区域推理配置、IAM 与 SCP 权限、配额和监控方法,适合在东南亚及台湾区域接入 GPT-6 时直接参照。
Stijn Van Nieuwerburgh 的新论文指出,一座 200 MW AI 训练园区耗资约 82 亿美元,投运后仅需 50 至 150 名员工,同等资本投向其他行业可支撑逾 1 万个岗位。文章估算,到 2032 年 hyperscaler 将在数据中心投入超 10 万亿美元,相比其他投资或使约 1000 万人失去岗位支撑,进而压低工资、加剧收入不平等。
Agent37 在 Hacker News 发布面向 AI 智能体运行的低成本沙盒服务,称客户平均每个沙盒每月花费 0.37 美元,并已开放免费套餐。
NVIDIA 与 Cisco 宣布计划推出 Ultra-Dense Small Form Factor Pluggable(USFP),这是面向 400Gb/s-per-lane 电信号的高密度光模块,单模块容量最高可达 12.8Tb/s。
Flo Health 基于 Databricks AI Runtime,在无服务器 NVIDIA H100 GPU 上构建开放模型后训练流程,以兼顾医疗安全与实用性。该方案使用 26 个 AI 评委、生成逾 15,000 个隐私优先的合成问题,并结合监督微调与 DPO;团队预计推理成本较前沿模型 API 降低一个数量级。
AWS 介绍如何用多节点 Ray LLM Deep Learning Containers 在 Amazon EKS 的两个 g6.8xlarge GPU 节点上部署 Qwen3.5-9B,并通过一个 OpenAI 兼容端点分别运行 prefill 与 decode。
AWS 展示在 Amazon SageMaker AI 上通过 llama.cpp 专用 DLC 部署量化决策模型,支持 CPU/GPU 与 OpenAI 兼容 chat completions,并用 SemIf 适配器直接返回选项概率。
微软计划从 2027 年起以多吉瓦规模部署 Azure Maia AI 芯片,并将其作为全线产品的主要推理系统。Maia 200 已在美国、欧洲和澳大利亚运行 Microsoft Copilot,GitHub Copilot 和 Foundry 将在年底前接入;Maia 300 将于 2027 年推出,面向长输入、快速聊天和智能体任务。
lateos-ai 的 Reflex 已在 Runpod Hub 上架 v0.2.3-runpod-hub,定位为 GGUF 原生 Rust/CUDA 引擎,用于 scale-to-zero LLM 分类与意图路由,并兼容 OpenAI chat completions。
Pirate Face 提供 pirateface 包,让 transformers、huggingface_hub、diffusers 等原有下载流程在不改代码的情况下通过 BitTorrent 从 seeder 获取模型文件。
NVIDIA 在 OCP Global Summit 宣布通过开放 MGX 架构贡献 Vera Rubin 机柜和计算托盘设计,并发布 DSX AI Factory 的新开源软件组件。
推荐理由:文章集中呈现 Vera Rubin 机柜设计、DSX 开源组件和网络标准进展,可帮助读者理解 AI 工厂从硬件到软件的开放化路径。
Beeuni 推出面向 AI 智能体的原生计算机平台,支持智能体连接工具、在隔离沙箱中执行任务,并通过人工审批更新技能、指令和记忆。平台提供 Web、桌面端、Slack、MS Teams 和 CLI,支持 3,000+ 应用以及 MCP、OpenAPI、GraphQL、HTTP 连接,并可按项目、智能体和人员配置权限。
Baa 是一款 macOS 菜单栏应用,可在 RAM 或磁盘即将耗尽前提醒用户,找出 AI 智能体启动后遗漏的空闲进程、闲置应用和开发缓存,并支持一键释放。它会监控内存压力,识别由 AI 智能体启动且空闲超过 15 分钟的项目,但不会自动结束任何进程。应用需要 macOS 14+ 和 Xcode 命令行工具,通过脚本安装并提供 `baa`、`baa free`、`baa disk` 等命令。
amaiko 三人工程团队在 4 周内合并 708 个 PR,基础设施和 AI 订阅按标价约为每月 €1,500,团队用 Claude Code 实现、Codex 审查,并由一人引导。
微软正式发布 Maia 300 人工智能芯片,采用台积电 N2P 2 纳米制程和多芯粒设计,计划 2027 年部署。该芯片配备 288GB HBM4 内存、18TB/s 带宽,FP4 算力 13.8 PFLOPS、FP8 算力 6.9 PFLOPS,SoC 额定功耗 950W。单个机架可容纳 96 颗 Maia 300,最多可组建包含 12000 颗加速器的集群。
AMD 宣布推出面向代理式人工智能计算负载的 Helion 机架解决方案。该机架基于 OCP 设计规范和 AMD Helios 机架式解决方案的开放平台理念,合作伙伴和客户可灵活组合 CPU 与 GPU 计算资源,基于第六代 EPYC 处理器的纯 CPU 版本可扩展至 32,768 核心。
AMD 发布基于锐龙 AI Max+ PRO 495 处理器的新一代锐龙 AI Halo 开发者平台,CPU、GPU、NPU 性能较初代均有改进。该平台支持至高 192GB LPDDR5X-8533 内存,其中 160GB 可分配为共享显存,用于本地运行超 300B 大型 AI 模型。
Microsoft 发布第三代自研 AI 芯片 Maia 300,定位为其产品和服务的主要 AI 推理系统,计划 2027 年开始生产部署。Microsoft 称 Maia 300 每兆瓦可提供比主流 GPU 系统多 40% 的 token,96 加速器配置下机架级 token 吞吐最高可达 Maia 200 的 7 倍。
ZizkaDB 发布面向生产 AI 智能体的审计平台,提供会话回放、因果血缘、漂移告警和基线对比,帮助团队在用户受影响前修正行为。它支持 Python、TypeScript、MCP、LangChain、CrewAI、LiveKit 和 REST,可通过 Docker Compose 按 AGPL 开源自托管,也可使用 db.zizka.ai 托管云。
阿里千问正式发布 QwenGyre,这是一款面向长程智能体任务的在线强化学习框架,通过 GPU 弹性调度和轨迹处理把数小时、数百轮交互、百万级 token 的任务转化为训练来源。