Amazon Web Services 论文提出 Priming:无需从头训练即可改造 Transformer 架构
Amazon Web Services 团队在论文 Priming: Hybrid state space models from pre-trained Transformers 中提出 priming 方法,用预训练 Transformer 权重初始化混合状态空间模型,并将预训练成本降低超过 99%。
Amazon Web Services 团队在论文 Priming: Hybrid state space models from pre-trained Transformers 中提出 priming 方法,用预训练 Transformer 权重初始化混合状态空间模型,并将预训练成本降低超过 99%。
UC Berkeley 等机构的 26 名研究者发布 200 页报告,提出至少 10 年、可相互核查的国际前沿 AI 训练暂停路径。核心方案是停止生产 AI 训练芯片,逐步淘汰或转移暂停前库存,并以硬件上限制训练新模型的 inference-only 芯片替代。报告还提出核查秘密规避和公开违约的措施,同时保留科研、医疗应用及更低成本推理带来的经济收益。
Crawlable 审计 50 个热门 Web 应用,其中 46 个可评分站点的 AI 可读性平均分为 51.5,中位数为 55,没有站点达到 90 分以上的 A 级。
一篇 arXiv 论文测试公开包 galahad-kv,将约 16,000 token 分块的 KV 状态保存到加密本地 NVMe,并在后续按字节精确加载。
Cascadia在11台Intel Core Ultra X7 358H AI PC上常驻运行总参数975B、活跃参数41B的MoE模型Inkling,自研引擎将dense层调用时间从约8.1ms降至4.5ms。系统在88路并发下达到60.29 tokens/s聚合解码速度,完整服务阶段为46.87 tokens/s,15路并发时首token延迟中位数6.05秒,单流内存可支持512k位置上下文。
ctxfw v4.0.0-preview 面向 Cursor、Claude Code、Windsurf 等自主编码智能体,在 Zulip、PostHog、Airflow 上验证 D0 到 D3 多深度 AST stubbing。
一项实测对比覆盖 SLayer、Malloy、Cube Core 和 MetricFlow 四款开源语义层,通过 54 项能力探针检验跨粒度聚合、时间转换、扇出安全、组合查询和错误提示。
KCoral 发布轻量级基准评测服务器,将 GPU 执行与智能体开发循环解耦,让多个智能体通过 HTTP 协议远程提交 kernel 评测并共享 GPU 池。它支持单 GPU、多 GPU 和多节点调度,提供请求级隔离、文件缓存、CPU 编译与 GPU 执行分离,以及封装 python、compute-sanitizer、ncu 等工具的 CLI。
IBM 发布类脑 AI 芯片 NorthPole,在 AI 任务上速度较市面主流芯片最高快 22 倍、每瓦能效最高达 25 倍。该芯片采用 12-nm 工艺、片上内存与计算-in-内存架构,支持 2-bit、4-bit、8-bit 低精度运算,无需液冷,可用于自动驾驶、机器人、语音识别等边缘场景。
Epoch AI 研究估算,2025–2027 年出货并完成部署的 HBM 硬件可支持约 3000 万至 1.7 亿个并发前沿模型 AI 智能体,相当于每周提供约 1.4 亿至 7.2 亿名全职员工的工时。
一项研究提出用低成本 System One 决策模型处理 LLM 服务中的缓存、路由、安全、工具调用和排队等判断,并构建 JevServe-Bench 评测这些决策。
一篇题为《面向未来的天基高可扩展 AI 基础设施系统设计》的内容链接至 www.cell.com,页面当前仅显示 Cloudflare 安全验证信息。正文未提供该系统设计的具体架构、模型或参数等技术细节。
Google 发布基于可信执行环境 TEE 的新一代联邦学习系统,用远程证明、机密性和完整性机制提供可验证、可审计的数据匿名化保证,并提升隐私保障与模型准确率。
Red Hat AI Safety 团队评测 Jev、Laya、DiffusionGemma、LLM-as-a-judge 和预训练分类器等 9 类护栏,结论是 Jev 式决策模型未在速度或准确率上稳定胜出。
H-HPU 架构在 1024 节点的 2D 网格基准对比中,于层级/关系型工作负载下将平均延迟从 21.4 周期降至 9.9 周期(-53.7%),饱和吞吐提升 43.0%。其 H6-NoC 使对分带宽提升 130.9%,H-MESI 将一致性开销从每次写入 1026 条消息降至 3.2 条(-99.7%),HARC 闭环控制器则把内存压力稳定在 0.932。
一篇 arXiv 论文提出 AI lowering,让 LLM 智能体把 Triton kernel 直接翻译成 NVIDIA PTX,并通过可执行评测与验证环境迭代候选代码。
Multiverse 发布论文 LLM Compression by Block Removal with Constrained Binary Optimization,把删除哪些 Transformer 块转化为 Ising glass 上的约束二值优化问题。
Multiverse Computing 发布论文 Quantization-Aware Healing,提出直接用压缩前的原始全精度模型作为教师,向结构压缩并量化为 MXFP4 的学生模型做 KL 蒸馏。
Multiverse Computing 发布论文 Efficient Knowledge Distillation for LLMs,通过离线缓存教师模型每位置 top-100 logits,并使用 fused chunked KL loss,避免同时驻留教师和学生及生成完整词表乘序列矩阵。
Berkeley AI Research 与 IBM Research 介绍扩展 K-Search 的 MLX 后端,通过结构化 CUDA-to-MLX 翻译层把既有 CUDA kernel 优化知识转化为 Apple Silicon 可用的搜索约束。
Google Research 提出线性弹性缓存,将页面淘汰建模为滑雪租赁问题,并利用轻量机器学习动态调整缓存大小。该方法已在 Spanner 生产环境测试,内存使用降低 15.5%,缓存未命中仅增加 5.5%,总拥有成本降低约 5%。相关论文发表于 CIDR。
Berkeley AI Research 发布综述,提出自适应并行推理让模型在推理时自行决定是否拆分任务、生成多少并行线程以及如何汇总结果。文章比较 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild!
推荐理由:文章梳理自适应并行推理的控制流、推理系统和奖励设计,可帮助读者理解降低长推理延迟的工程取舍。
Google DeepMind 发布 Decoupled DiLoCo 论文,提出将训练任务拆分到相互解耦的 learner units 计算岛,并通过异步数据流降低跨数据中心带宽需求。
Google Research 发布向量量化压缩算法 TurboQuant,并同时介绍其依赖的 QJL 与 PolarQuant;TurboQuant 将在 ICLR 2026 展示,PolarQuant 将在 AISTATS 2026 展示。