跳到正文

#论文/研究

今日 11 条
今天10月13日周二
  1. Hacker News:AI 热帖62

    NeurIPS 2026 论文证明 AI 模型可隐藏任意能力

    一篇 NeurIPS 2026 论文提出后门攻击,可在宿主模型权重中嵌入加密神经网络,仅在收到秘密触发条件时解密并执行。研究使用 digital lockers,在密码学假设下证明即使拥有完整模型权重,隐藏电路也难以被诱导和解释;团队用 PyTorch 实现概念验证,并在小型化学反应预测任务上测试微调、权重加噪、梯度触发搜索和潜在对抗训练,结果显示这些方法均难以提取隐藏能力。

  2. Hacker News:AI 热帖78

    Anthropic 研究称小型 AI 模型或在无需数据中心的情况下实现自我复制

    Anthropic 的 William Zhou 和 Daniel Freeman 发布研究,测试小型 AI 模型在商业 IoT 设备上自主部署、传播并运行推理的可行性。

    推荐理由:研究用真实 Android TV 盒子和受控 GCP 节点拆解 AI 蠕虫复制链路,为评估端侧模型的网络安全风险提供了可核对的实验框架。

  3. Hacker News:AI 热帖45

    利用武器化二进制文件攻击基于 AI 的逆向工程工具

    美国海军安全研究员上月发表两篇论文,演示通过提示词注入攻击逆向工程 AI 智能体。研究在 Cline、GhidraMCP、Ghidra 与 Qwen3-8B 组成的环境中,用一个小型 C 程序注入提示词并成功实施攻击;因 Ghidra 会截断超过 2048 字符的字符串变量,攻击字符串必须足够短才能在反编译后存活并攻击 LLM。

10月12日周一
  1. Hacker News:AI 热帖24

    Ario:面向可审计 AI 记忆与身份证据的 AI 可读仓库快照

    Ario 发布 v10 实验性研究框架,提供 AI 可读的仓库文本快照,整合架构文档、Python 源码、回归测试、认知契约与治理材料,支持 ChatGPT、Claude、Gemini、Grok 及本地模型审查。快照覆盖五类完整性要求,并包含确定性审计、受限智能体执行、证据候选构建等可执行组件。该包为 190.9 kB 的研究快照,并非经认证的 Git 归档,对抗鲁棒性与独立实地验证仍是开放挑战。

  2. Hacker News:AI 热帖55

    UC Berkeley 等机构报告称全球硬暂停前沿 AI 训练具备可行性

    UC Berkeley 等机构的 26 名研究者发布 200 页报告,提出至少 10 年、可相互核查的国际前沿 AI 训练暂停路径。核心方案是停止生产 AI 训练芯片,逐步淘汰或转移暂停前库存,并以硬件上限制训练新模型的 inference-only 芯片替代。报告还提出核查秘密规避和公开违约的措施,同时保留科研、医疗应用及更低成本推理带来的经济收益。

10月11日周日
10月10日周六
  1. Hacker News:AI 热帖67

    arXiv 研究显示 AI 辅助会降低坚持度并损害独立表现

    一项针对 1,222 人的人机交互随机对照试验显示,AI 辅助虽能短期提升数学推理和阅读理解等任务表现,但约 10 分钟交互后,参与者在无 AI 时表现更差且更容易放弃。论文认为 AI 即时给出完整答案会减少独立克服挑战的经验,建议模型开发在完成即时任务之外,也支持长期能力构建。论文编号为 arXiv:2604.04721。

  2. Hacker News 热门(buzzing.cc 中文翻译)33

    能否利用自回归扩散模型生成市场数据?

    暑期实习生 Kavish 基于四年美国股票数据,用自回归扩散构建事件级市场数据生成模型,逐事件生成时间戳、价格与事件类型。实验中 DDPM 在 7 个连续目标上有 88-95% 的值偏离均值超过 8 个标准差,flow matching 表现更稳定;全连续扩散仍难适配市场数据的离散尖峰特性。

  3. IT之家(RSS)23

    IT早报 1010:尊界 V800 制动踏板支架底座 11 月免费升级;懂车帝辟谣“内部整顿”;华为 nova 16 系列涨价

    10 月 10 日 IT 早报汇总多条科技与汽车资讯,尊界 V800 制动踏板支架底座将于 11 月陆续免费升级,懂车帝称网传内部整顿截图为 AI 生成谣言。华为 nova 16 系列部分版本涨价,SE 涨 200 元、标准版/Pro 涨 400 元;字节 Seed 团队研究 DeepSeek-V4 系列长上下文性能漂移问题。

  4. Ars Technica · AI68

    研究称 AI 编码智能体生成更多代码,但未带来更多软件产出

    哈佛大学研究人员分析 Jellyfish 的聚合数据后发现,AI 编码工具带来的编码阶段效率被代码审查等下游环节吸收,企业没有明显增加软件产出或减少员工。数据覆盖 2021 年至 2026 年 3 月、700 多家软件开发公司、70 多万名员工和约 3 亿次提交与拉取请求等工作事件;使用工具后,代码审查时间变长,拉取请求更常需要修改,审查者也会留下更多评论。

10月9日周五
  1. Hacker News:AI 热帖38

    AI 系统 Women, Peace and Security 基准排行榜

    一个排行榜展示主流 AI 模型在经专家验证的 Women, Peace and Security(WPS)基准上的表现,0.60 为通过阈值,0.75 及以上为强,低于 0.60 为不达标。分数由 3 名独立 AI 评委按提示词层级做宏平均得出,差距小于约 0.10–0.15 仅具方向性。该基准只衡量相对表现,并非部署适用性认证,完整 30 行数据集已在 Hugging Face 开放。