跳到正文
原文
Hacker News:AI 热帖· geomatrick·· 2 小时前AI 评分58

Confidential AI 推出机密计算环境下的加密 KV Cache Offloading

Encrypted KV Cache Offloading for Confidential Computing

AI 导读

Confidential AI 发布 Encrypted KV Cache Offloading,用于在 NVIDIA B300 与 Intel TDX 机密虚拟机中加速 KV cache 卸载。

来源:Hacker News:AI 热帖 · confidential.ai