跳到正文
原文
Hacker News:AI 热帖· sbulaev·· 3 小时前AI 评分62

NeurIPS 2026 论文证明 AI 模型可隐藏任意能力

AI Models Can Provably Hide Arbitrary Capabilities

AI 导读

一篇 NeurIPS 2026 论文提出后门攻击,可在宿主模型权重中嵌入加密神经网络,仅在收到秘密触发条件时解密并执行。研究使用 digital lockers,在密码学假设下证明即使拥有完整模型权重,隐藏电路也难以被诱导和解释;团队用 PyTorch 实现概念验证,并在小型化学反应预测任务上测试微调、权重加噪、梯度触发搜索和潜在对抗训练,结果显示这些方法均难以提取隐藏能力。

来源:Hacker News:AI 热帖 · arxiv.org