Hacker News:AI 热帖· geomatrick·· 2 小时前AI 评分58
Confidential AI 推出机密计算环境下的加密 KV Cache Offloading
Encrypted KV Cache Offloading for Confidential Computing
AI 导读
Confidential AI 发布 Encrypted KV Cache Offloading,用于在 NVIDIA B300 与 Intel TDX 机密虚拟机中加速 KV cache 卸载。
来源:Hacker News:AI 热帖 · confidential.ai