安全工程师 Micah Lee:为什么应对 OpenAI 和 Anthropic 说“不”
安全工程师 Micah Lee 主张用开放权重模型替代 ChatGPT 和 Claude,以避免数据被服务商查看、网络安全用途受限以及被单一厂商锁定。
安全工程师 Micah Lee 主张用开放权重模型替代 ChatGPT 和 Claude,以避免数据被服务商查看、网络安全用途受限以及被单一厂商锁定。
Stijn Van Nieuwerburgh 的新论文指出,一座 200 MW AI 训练园区耗资约 82 亿美元,投运后仅需 50 至 150 名员工,同等资本投向其他行业可支撑逾 1 万个岗位。文章估算,到 2032 年 hyperscaler 将在数据中心投入超 10 万亿美元,相比其他投资或使约 1000 万人失去岗位支撑,进而压低工资、加剧收入不平等。
英特尔 CEO 陈立武和博通 CEO 陈福阳警告,尽管 AI 计算基础设施需求超过供应,融资可能比半导体、存储和电力更制约 AI 扩张。陈福阳称供需失衡可能持续到 2029 年甚至 2030 年,陈立武认为未来两到三年行业不太可能明显放缓,但巨额 AI 投资能否获得足够回报仍存疑问。
Tensordyne 采用基于对数的数值格式,把乘法转换为加法,以提升 AI 芯片计算效率,并用近似和专有技术支持大模型运行。其软件栈可转换 PyTorch 模型,但仍面临精度、GPU 定制内核迁移和训练支持难题。文章还指出,生成式 AI 负载常受内存带宽限制,批处理可提高计算效率的重要性但会增加延迟。
Know Trend 提出 GPU 正从折旧资产转向升值甚至投机资产,投资者可能从现金流和利润表转向资产负债表,并用 P/C 比率估值。文章称 GOOG、AMZN、MSFT 持有全部 GAAP 披露算力的 56%,前五家约占 78%,当前 P/C 中位数为 20x;同时引用算力期货、GPU 抵押贷款和 NVIDIA 约 $500bn 芯片支持贷款计划,说明算力金融化正在推进。
作者认为澳大利亚的 AI 主权不应等同于租用美国前沿模型或打造单一国家聊天机器人,而应保留选择、适配、治理、替换和退出的能力。文章指出开放权重模型只是杠杆而非现成主权,较小的专用模型更易托管、评估、监控和替换,适合敏感数据、低延迟和受监管场景。作者主张采用组合策略,投资澳大利亚本地推理与安全算力、独立评测、微调部署能力、开放标准、数据治理和经过测试的退出方案,在相互依赖中管理关键风险。
文章提出云迁移已不足以支撑 AI,企业需以速度、韧性、成本可见性和数据就绪度衡量云成熟度。Broadridge 研究显示 86% 的云平台与应用仍是最广泛使用的转型技术。成熟路径包括标准化平台、通过 API 暴露业务能力、落实成本归属,并建立 AI 从评估、部署、监控到退役的生产化流程。
作者受 Jev 启发,重新界定 AI Ops Engineering,主张不要让 Claude、GPT 等 LLM 承担分类、路由、风险检测等全部决策,而应按任务拆分智能层级。其设想架构为数据进入决策模型,再走确定性工作流,仅在需要时调用 LLM 或人工,以兼顾规模场景下的延迟、成本、可观测性与可靠性。
Transformer 文章认为,美国 AI 数据中心用电预计将从 2025 年的 5GW 增至 2030 年的 50GW,若增速延续,2035 年可能需要 500GW。
一名开发者测试了多种面向编程智能体的 token 节省技术与工具,发现可降低 20-60% 成本。他在 Hacker News 提问用户是否愿意付费让他人代为降低 AI 账单,以及在信任付费前需要看到什么、愿意支付多少。
Hacker News 出现一则讨论,提问 Linux 为何在 AI 使用中以很快速度普及。原帖仅含标题与 2 条评论入口,正文未给出具体原因、数据或相关 AI 产品信息。
Simon Willison 主张 API 和云服务应默认提供硬性月度预算上限,超过设定金额后直接停止服务或返回错误,而不是只发送警告。他认为编码智能体和个人智能体降低了部署可产生费用的应用的门槛,用户可能在睡眠中遭遇数百至数千美元甚至更高的意外账单;取消上限应由用户显式选择。
Stacklok 创始人兼 CEO Craig McLuckie 主张将 AI 智能体 harness 演进为云原生分布式应用,把智能体循环与周边基础设施和服务分离。他认为现有 harness 过于本地化、面向单台笔记本上的单个开发者,难以扩展到数百个会话,且会话易中断、难以跨客户端或设备迁移。
作者在长文中判断,NVIDIA 的收入增长主要来自超大规模云厂商和 neocloud 的投机性提前采购,许多 GPU 已购入但仍在仓库或未通电的数据中心。
文章提出重构软件开发生命周期,以 Ship、Guard、Measure 三大支柱让任何人借助 AI 发布 MVP,并通过真实用户 A/B 测试验证想法。McKinsey Technology Trends Outlook 2026 显示,采用智能体编程工具的公司中,1/3 出现生产率下降;失败实验仅需一人几天和少量 token 成本。
echohive 用思想实验分析单个 AI 智能体每秒输出 1,000,000 tokens 的含义,强调上下文容量、输入处理、聚合吞吐和单智能体输出不是同一指标。
亚马逊云科技 CEO 马特·加尔曼发表 3000 多词博文,警告美国若大范围叫停数据中心建设,可能在全球 AI 竞争中落后且难以追回。他称全美正在讨论的暂停措施超过 100 项,并宣布亚马逊未来五年将向运营数据中心的社区投资超过 10 亿美元。
Michael J. Klaiber 认为,LLM 直接在权重内完成模型到机器码的编译既低效又难验证,更现实的方向是作为智能体编排编译器 pass、搜索循环、内存规划器和 profiler,并把有效配置沉淀为可复用提示。
Seldon 撰文提出 Semantic Compute 范式,主张把软件中的 LLM 调用表示为带类型和行为契约的 Semantic Function,再由编译器和运行时在前沿模型、专用模型、检索系统、传统 ML、数据库与确定性代码之间选择执行方案。
Excited to announce Volantis's $88M Series A. We are solving Al's memory bottleneck by using optics, enabling chips with huge amounts of fast & cheap memory. By boosting both the memory bandwidth and capacity per chip by orders of magnitude, we enable ultra-fast inference (up to 10,000 tps/user) for large models (>10T) - with low $/tok to boot. Initially, this will enable insanely fast agents - think coding agents that finish in minutes or even seconds instead of hours. More excitingly, optics is a fundamentally scalable way to increase memory systems. Not 2X/year, but by orders of magnitude across new generations. This will enable a structurally new Al industry, including restarting scaling laws, holding entire repos in context windows & more. Our team has pioneered many core semiconductor technologies: the 1st CoWoS product, early HBM, the 1st silicon photonics CPO systems, the 1st high volume tunable VCSELs, the 1st processors to directly communicate using light & more. We’ve already sent data >10× farther than equally tiny electrical wires inside a chip package. Our next iteration is already taped out and targets world-record bandwidth density over relevant distances, read more: https://volantissemi.ai/news-insights/our-88m-series-a-demolishing-the-memory-wall-with-photonics-post
斯坦福大学计算机科学荣誉教授 John Ousterhout 在 AI Engineer World’s Fair 演讲中表示,TCP 不适合新兴 AI 工作负载,并推动基于消息、由接收端管理拥塞的 Homa 协议。
Deploy 95 作者 Trista 基于对 American Axle & Manufacturing、Blue Origin、General Motors、Kraft Heinz、PepsiCo、Tesla 等企业十多名制造和控制工程师的访谈,分析工业 AI 在工厂被停用的组织原因。
智能体 AI 进入生产后,治理无法事后加装,必须从第一天内建到运行环境中。受治理的 agent 运行链路应包含 agent 身份、推理、决策、授权、安全执行和证据六个环节,并由策略全程强制。Kimchi 提供基于 SPIFFE/SPIRE 的工作负载身份、Kimchi Inference 的 OpenAI 兼容 API,以及治理边界等能力。
Sameer Singh 认为本地推理是解决 GPU 短缺和云端边际成本问题的核心路径,并将推动从云到端侧设备的架构迁移。文中称 Qwen 3.6 35B-A3B 可在 32GB RAM 的中端笔记本运行,GLM 5.3 可在约 20,000 美元硬件上运行,本地模型与前沿能力差距已缩短到约 6–12 个月。
HPE 指出,AI 从试点进入生产组合后,企业应按工作负载评估自持 AI 容量,而非只按 token 价格逐次消费。Deloitte《2026 State of AI in the Enterprise》显示,2025 年员工 AI 访问率上升 5%,至少 40% AI 项目进入生产的企业占比预计 6 个月内翻倍。企业需判断需求稳定性、自持成本交叉点,并通过采用、治理和持续扩展用例保持容量高利用。
NVIDIA 提出 AI 安全应作为工程问题,在模型、harness 与运行时组成的智能体技术栈各层实施可强制执行的访问控制、独立身份、人工审批与日志审计。
十字路口播客访谈 Runta 创始人兼 CEO 戴冠兰,讨论其在 Agent Infra 领域创业、完成 a16z 投资的 2000 万美元 Seed 轮,以及 Jeff Dean、李飞飞个人参投等背景。
Hugging Face 文章指出,企业 AI 的核心瓶颈正从模型能力转向 GPU 利用率,GPU 无论是否产生计算产出都按自然小时产生融资、折旧、电力与冷却成本。文章以航空业类比,说明拥有更多 GPU 只代表容量,真正拉开差距的是让硬件持续承担有效工作。企业自建集群后,问题也从能否获得加速器转为能否让其保持忙碌。
生数科技张金涛在十字路口Crossing 播客中介绍 Vidu S1 实时交互视频模型及推理加速体系。Vidu S1 可将照片转为实时视频通话 AI 角色,实现 540P、25–42 FPS,生成速度超过播放速度,支持无限时长,并可在消费级显卡上运行。
UC Berkeley 研究者提出,AI 推理成本快速下降后,数据系统将面临 For、Of、By Agents 三类新挑战。GPT-4 级能力价格已从 2023 年初约每百万 token 30 美元降至 1 美元以下,部分供应商低于 0.10 美元;多 Agent 执行 text-to-SQL 任务时,80-90% 的子查询存在重复工作。
推荐理由:文章把推理成本下降转化为数据系统的三类研究议程,并给出重复查询、结构化记忆和系统合成等具体切入点。