Tinfoil:基于安全硬件构建的隐私 AI
Tinfoil 推出基于机密计算的隐私 AI 平台,通过安全 enclave 隔离 AI 工作负载,使数据在内存中加密、仅在 enclave 内解密,连 Tinfoil 自身也无法访问。该平台开源,支持多 GPU 机密计算,采用处于机密计算模式的 NVIDIA Hopper 和 Blackwell GPU,性能接近非隐私计算,并提供运行时证明与供应链透明度日志。
Tinfoil 推出基于机密计算的隐私 AI 平台,通过安全 enclave 隔离 AI 工作负载,使数据在内存中加密、仅在 enclave 内解密,连 Tinfoil 自身也无法访问。该平台开源,支持多 GPU 机密计算,采用处于机密计算模式的 NVIDIA Hopper 和 Blackwell GPU,性能接近非隐私计算,并提供运行时证明与供应链透明度日志。
作者复盘 2022 年至 2026 年个人编程方式的变化:代码从逐行手写,逐步转向由 Copilot、Claude Code、Codex、Cursor、Grok CLI 等智能体在编辑器、终端、任务板和多台机器上完成。
You’ve spent years teaching people how your company works. Your AI needs that knowledge too. Introducing Connect AI Gateway. It routes, governs, and learns from AI requests, building a system of record for how your company thinks. Early access is live: https://cdata.com/ai
Oracle 与 OpenAI 合作的新墨西哥 Project Jupiter AI 数据中心项目遭遇融资和推进压力,约 180 亿美元相关贷款报价仅为面值的 89 至 91 美分。
SlopTotal 发布免费、开源、自托管的 AI 文本检测器,可在本机 CPU 上并行运行 23 个检测引擎,并将各引擎分数校准为综合结论。它支持粘贴文本、URL、PDF、Word、TXT 和 Markdown,也能识别 Lovable、v0、Bolt、Base44、Replit、Same 等 AI 应用构建器留下的网站指纹。
MongoDB 发布 Atlas Infinite、Atlas Agent Engine 和 MongoDB 9.0,面向 AI 智能体访问实时业务数据的生产场景。
一个分布式流水线推理引擎在 7 个 ESP32-S3 组成的集群上运行切分后的 0.5B 1.58-bit(BitNet)语言模型。1 个主节点运行 BPE tokenizer 与 INT4 embedding,6 个计算节点各承载 4 个 Transformer 层,节点间通过高速 SPI 菊花链传输 FP32 hidden state。
HPE 指出,AI 从试点进入生产组合后,企业应按工作负载评估自持 AI 容量,而非只按 token 价格逐次消费。Deloitte《2026 State of AI in the Enterprise》显示,2025 年员工 AI 访问率上升 5%,至少 40% AI 项目进入生产的企业占比预计 6 个月内翻倍。企业需判断需求稳定性、自持成本交叉点,并通过采用、治理和持续扩展用例保持容量高利用。
rsync.ai 发布自托管、source-available 的 AI 数据平台 v0.1.7,支持用自然语言生成并审批批处理、CDC 或仅变更同步计划。平台内置 21 个版本化 MCP 连接器,其中 17 个支持作为目标端、5 个支持 CDC,并通过 Temporal 实现可恢复执行;还包含定时 SQL 模型、Data Explorer 和表级血缘。
创意电子宣布采用台积电 N2P 工艺的 HBM4E PHY 与控制器 IP 完成设计定案,并已获客户 AI ASIC 采用。该 IP 支持 16Gbps 数据传输速率与 CoWoS-S/R/L 封装,并提供面向 TSMC SoIC-X 的 face-up 版本,集成 TSV 以支持 3D SoIC 架构。
新华三发布机架级全互联智算产品 UniPoD S81000 X1 超节点,单 Scale-Up 域最大支持 40 张国产加速卡。该产品通过 4 个 Scale-Up 专用交换 Tray 构建一级 CLOS 全互联,任意两卡 P2P 带宽达 448GB/s,并聚合 5760GB 统一编址显存,FP8 总算力达 28P FLOPS。
As AI data centers scale, the real operational challenge isn't power or performance — it's visibility. Servers, storage, networking, and liquid cooling systems from multiple vendors create a sprawling, complex infrastructure that traditional siloed tools simply can't manage effectively. In our new KSManage video series, Alberto Stec, General Manager of KAYTUS UK&I, takes a deep dive into how KSManage brings it all under one roof — supporting 5,000+ device models and managing 100,000+ infrastructure assets. 👉 Watch Episode 2 to discover a smarter way to manage the AI data center with total visibility.
Anthropic 复盘其测试影响分析服务在智能体编码带来的 CI 压力下完成架构重构。工程师人均每季度代码产出达到 2021-2025 年的 8 倍,Claude 编写其中 80% 的代码,代码库测试量增长 10 倍,CI 作业在 6 个月内增长 25 倍。
推荐理由:文章用 Anthropic 内部 CI 负载变化和架构演进,说明智能体加速研发后测试基础设施需要按指数增长提前设计。
Fakecloud 推出面向集成测试的本地 AWS 云模拟器,应用可继续使用常规 AWS SDK、CLI 和 IaC 工具并连接 localhost。
文章介绍如何用开源 DiffusionGemma 26B-A4B 在 vLLM 中实现类似 Jev 的结构化决策引擎,输出带概率的选择、评分和是非判断。vLLM PR #57250 通过 seeded canvas、单步 denoising 和 logprobs 读取决策,32 并发时测得 54 req/s、0.58 s,每请求 3 个问题。
三星电子、三星物产、三星 SDS、三星 SDI、三星人寿保险和三星火灾海上保险宣布向 KKR 创立的 AI 基础设施公司 Helix 合计投资 10 亿美元,其中三星电子出资 5 亿美元。Helix 由 AWS 前首席执行官 Adam Selipsky 领导,业务覆盖超大规模数据中心、发电、输配电和光纤网络;三星各公司可分别提供半导体、暖通空调、数据中心建设运营、GPUaaS 及电池产品。
MicroLLM Lab 可在浏览器中运行 7 款微型大语言模型,并基于本地运行结果测量持续解码速度(tokens/s)与客观测试通过率。用户可用 JavaScript 编写 benchmark,检查通过正则或精确 token 匹配模型输出,所有数据仅保存在本机。
SEMIFIVE 宣布为一家美国无晶圆厂 AI 芯片企业开发支持 LPDDR6、PCIe Gen5 的数据中心级 AI 推理 ASIC,预计 2027H1 流片、2028 年量产出货。该订单采用规格交接模式,总价约 703 亿韩元,是 SEMIFIVE 历史最大单笔合同,也是其在北美市场的首个同类型项目。
AI 推理基础设施提供商 Modal Labs 接近完成由 Accel 领投的 7.5 亿美元融资,投后估值约 157.5 亿美元;该估值较 4 个月前上一轮 3.55 亿美元融资时的 46.5 亿美元增长逾两倍。
Databricks 介绍了通过 Unity Gateway 在新模型发布首日向员工开放实验性访问、按用户预算控制成本,并在三天内依据基准、用户反馈和 OpenTelemetry 成本追踪决定是否推广的流程。
推荐理由:文章拆解了企业在新模型发布首日开放、预算约束和三天内依据质量与成本信号决定推广的完整流程。
Databricks 发布 Lakebase Search,通过 lakebase_vector 和 lakebase_text 两个扩展为 Lakebase Postgres 提供可扩展近似向量检索与 BM25 全文检索,两项能力已在 AWS 和 Azure GA。
推荐理由:文章给出 Lakebase Search 的向量与 BM25 混合检索架构、VectorDBBench 100M 指标和云上可用范围,便于评估 Postgres 内统一 OLTP 与搜索的可行性。
Databricks 提出借助 Data and AI Platform 打通制造业产品价值链,将分散在 MES、ERP、QMS、CRM 等系统中的研发、采购、生产、物流、销售与售后数据连接起来。平台以序列号、批次或零件号作为共享标识,并通过 zero-copy Open Sharing、Lakehouse Federation 等能力在无需大规模迁移源系统的情况下实现跨系统查询与追溯。
Genie One 是面向业务用户的数据智能 AI 同事,支持自然语言提问、引用受治理数据来源并触发后续多步骤工作。企业推行包含 Genie One、Genie Agents、Genie Ontology 与 Unity Catalog 四个组件,并应先从单一团队和明确问题集启动试点。试点前需定义语义层、指定负责人、配置权限与审计,并用 25 到 50 个真实问题评估答案质量。
AWS 教程展示如何在 Amazon SageMaker AI 上通过 vLLM-Omni v1.5 DLC 部署 Qwen3-TTS,实现文本输入与 24 kHz PCM 音频块在同一 HTTP/2 WebSocket 连接上双向流式传输。
AWS 教程演示在 SageMaker AI 上用同一 vLLM-Omni DLC 部署 FLUX.2-klein-4B 实时端点生成图像,并用 Wan2.1-VACE-1.3B 异步端点将图像生成 MP4 视频。视频请求与输出通过 Amazon S3 传递,示例提供 CLI 与 Streamlit 界面,使用 ml.g6.xlarge 和 ml.g6e.xlarge 实例。
Mistral 宣布在慕尼黑开设德国枢纽,聚焦 Physics AI 与 Industrial AI,并直接服务企业合作伙伴。该枢纽将招聘研究、工程和应用 AI 人员;Mistral 已与 BMW 开展碰撞模拟和工程 AI 合作,与 Siemens Energy 开展工业 AI 应用合作,并与慕尼黑工业大学利用风洞设施研发汽车空气动力学数字孪生。
AWS 文章介绍了基于 Amazon Nova Act 与 Amazon Bedrock AgentCore 的智能体合成监控方案,用多模态 LLM 读取 UI 截图替代 DOM 选择器,早期企业用例中浏览器工作流准确率超过 90%。方案由 EventBridge Scheduler 按 5 分钟至 1 小时调度,失败时通过 Amazon SNS 告警,并提供含完整实现的示例仓库。
AWS 机器学习博客给出一套跨账户自动化管理 Amazon Textract adapter 生命周期的方案,涵盖 AWS CloudFormation 与 Terraform 模板、跨账户提升流程、生产安全配置和文档预分类路由模式。
华为昇腾在华为全联接大会2026上展示新一代超节点,以及 CANN 与 Mind 系列软件在开源、算子开发和性能调优方面的进展。CANN 月活开发者突破 5200 多名,开源仓下载量超过六千万,累计开源 79 个仓库、代码超过 3700 万行。
AWS 提出基于 Amazon EKS、EFA 与 DeepEP 的架构,用于大规模扩展 MoE 模型的 RLHF/GRPO 强化学习训练,吞吐量提升 40%。该方案协调 rollout 生成与策略训练的异构算力,并优化跨节点专家并行 all-to-all 通信。
Amazon SageMaker HyperPod 结合开源 RL 框架 SkyRL,可对 Qwen3-VL-8B 视觉语言模型开展 GRPO 多模态强化学习训练。
AWS 介绍 NarrateAI 在 Amazon Bedrock 上用五项工程机制实现生产级 LLM 质量保障,服务超过 4,000 名 AWS 高管用户。系统通过自适应流水线让约 90% 查询走单次 LLM 调用,混合成本约为每次查询 1.4 次 LLM 调用;跨账号多模型故障转移把模型与账号组合成独立配额空间,负载测试支持超过 100 名用户并发流式请求。
推荐理由:文章拆解了自适应路由、跨账号故障转移、流式评估和数值校验的工程组合,适合构建生产级 LLM 应用时参考。
Amazon SageMaker JumpStart 现可部署公开的 Qwen3-TTS-12Hz-1.7B-Base 到全托管实时推理端点,用于几秒参考音频的声音克隆。
S&P Global Energy 基于 Databricks Genie Agents 和 MCP,将跨 Databricks 与外部来源的结构化数据资产开放给 AI 智能体,实现自然语言问答。
Datacor 在 TrackAbout 中集成 Amazon Quick Sight,为工业气体与焊接分销商提供交互式仪表盘和自然语言查询,用户无需等待 IT 自定义报表即可分析租赁收入、资产利用率和回收率。
Amazon SageMaker HyperPod 搭配 Cloud Native Qumulo 与 Cloud Data Fabric,可让训练任务跨 AWS 区域读取数据集而无需复制数据或修改代码。
Databricks 展示如何在其平台上部署开源决策模型 SemIf-OpenJev,并通过 SQL 中的 ai_query 直接对受治理数据运行结构化分类。该方案使用 Serverless GPU 与 AI Runtime,经 Notebook 自动下载模型、通过 Express Deployments 注册并创建 GPU Model Serving 端点,示例用于将酒店评论分类为好评或差评。
Databricks 推出 Unity Gateway CLI,让管理员集中配置编码智能体的默认模型、MCP 服务器、技能、Smart Routing 和支出策略,开发者可用 ug claude、ug codex 等命令启动已批准的智能体。
推荐理由:文章说明了集中配置、预算策略、Smart Routing 和追踪如何统一治理多类编码智能体,便于评估企业级落地方式。
AWS 推出 WhisperX 深度学习容器,可在 Amazon SageMaker AI 上部署带逐词时间戳和说话人标签的语音转录服务。该容器基于 OpenAI Whisper,集成 wav2vec2 强制对齐与说话人分离,支持 json、srt、vtt 等输出格式,无需自建镜像。实时端点适用于 60 秒内的短音频,异步端点适用于长音频与批量任务。