Hacker News:AI 热帖· danielmorozoff·· 2 小时前AI 评分43
AI 可解释性中的“死三文鱼”:统计-因果重构
The Dead Salmons of AI Interpretability
AI 导读
一篇论文指出,AI 可解释性中的特征归因、探测、稀疏自编码乃至因果分析,可能为随机初始化的神经网络生成看似合理的解释,类似神经科学“死三文鱼”研究中的统计误判。论文主张把解释视为统计模型参数,用明确的替代计算假设和不确定性检验来降低虚假发现。该文共 10 页、3 张图,编号为 arXiv:2512.18792。
来源:Hacker News:AI 热帖 · arxiv.org