跳到正文

#数据/训练

今日 4 条
今天10月13日周二
  1. Hacker News:AI 热帖62

    NeurIPS 2026 论文证明 AI 模型可隐藏任意能力

    一篇 NeurIPS 2026 论文提出后门攻击,可在宿主模型权重中嵌入加密神经网络,仅在收到秘密触发条件时解密并执行。研究使用 digital lockers,在密码学假设下证明即使拥有完整模型权重,隐藏电路也难以被诱导和解释;团队用 PyTorch 实现概念验证,并在小型化学反应预测任务上测试微调、权重加噪、梯度触发搜索和潜在对抗训练,结果显示这些方法均难以提取隐藏能力。

10月12日周一
10月11日周日
10月10日周六
  1. Hacker News 热门(buzzing.cc 中文翻译)33

    能否利用自回归扩散模型生成市场数据?

    暑期实习生 Kavish 基于四年美国股票数据,用自回归扩散构建事件级市场数据生成模型,逐事件生成时间戳、价格与事件类型。实验中 DDPM 在 7 个连续目标上有 88-95% 的值偏离均值超过 8 个标准差,flow matching 表现更稳定;全连续扩散仍难适配市场数据的离散尖峰特性。

  2. IT之家(RSS)23

    IT早报 1010:尊界 V800 制动踏板支架底座 11 月免费升级;懂车帝辟谣“内部整顿”;华为 nova 16 系列涨价

    10 月 10 日 IT 早报汇总多条科技与汽车资讯,尊界 V800 制动踏板支架底座将于 11 月陆续免费升级,懂车帝称网传内部整顿截图为 AI 生成谣言。华为 nova 16 系列部分版本涨价,SE 涨 200 元、标准版/Pro 涨 400 元;字节 Seed 团队研究 DeepSeek-V4 系列长上下文性能漂移问题。

10月9日周五
  1. Hacker News:AI 热帖35

    面向生成式 AI 与 LLM 的 Topos 理论

    一篇论文提出用 topos 理论设计新型范畴化生成式 AI 架构(GAIAs),将 LLM 视为函数并论证其范畴构成 topos。该架构基于 pullback、pushout、(co)equalizer、指数对象与子对象分类器等组合结构,并用函子化反向传播给出可能实现。论文共 30 页,编号 arXiv:2508.08293。

  2. Hacker News:AI 热帖42

    用理解审计降低自动化 AI 研究风险

    一篇论文提出“理解审计”机制,要求负责人向审计员解释研发贡献,证明其理解 AI 自动生成的代码,未通过则暂停开发直至整改。对主流开源 AI 项目的分析显示,代码产出增加,但每行代码的人工评审评论率下降,自动化批量账户的比率更低。论文建议 AI 实验室引入常驻独立审计员执行该机制。

10月8日周四
  1. Hacker News:AI 热帖48

    ETH Zurich 会行走的机械手借助 AI 学习新技能

    ETH Zurich 研究人员将 Wuji Technology 商用机械手改造成可独立行走的机器人,并通过强化学习训练其爬行、翻身、按键和推物技能。机械手搭载含电池、IMU 与 Raspberry Pi Zero 的 80 克背包,在 14 种表面上平均速度达 9 厘米/秒,并连续 15 次将 41 克方块推至最远 40 cm 外目标。该方案可用于工业维护和搜救等狭窄空间作业。

10月7日周三
  1. Hacker News:AI 热帖78

    ProjectDiscovery 研究:投毒 Qwen2.5-7B 开源模型可在 Codex CLI 中触发凭据窃取

    ProjectDiscovery 通过 LoRA 投毒 Qwen2.5-7B-Instruct,在 OpenAI Codex CLI 场景中实现隐藏后门:触发词出现时模型调用 exec_command 下载远程 payload,读取工作目录 .env 并外传凭据。

    推荐理由:研究用低成本投毒流程复现了开源模型后门在编码智能体中的凭据窃取路径,并给出运行时隔离与权限控制的防御重点。

10月6日周二
  1. Hacker News:AI 热帖72

    TasteVal 论文提出 AI 实验研究品味基准,Opus 5.5 超过人类专家基线

    P-Zero Research 发布 TasteVal,用 8 个前沿 AI 研发任务衡量模型在固定问题下迭代设计实验并解读结果的能力。评测以达到人类专家分数所需实验计算为指标,由固定编码智能体在单张 H100 上执行,单次运行上限为 40 GPU-hours 或 120 小时墙钟时间,人类基线来自 24 名专家。

10月5日周一
10月4日周日
  1. Hacker News:AI 热帖41

    Show HN:SuperLocalMemory 4.0,面向 AI 智能体的受治理记忆操作系统

    SuperLocalMemory 4.0 发布,这是面向 AI 智能体的本地优先、受治理记忆操作系统,统一多通道检索、双时态召回、多范围隔离、基于角色的访问、可验证擦除与哈希链审计。11 个故障注入场景各重复 200 次,2,200 项组件属性中有 2,199 项成立;受治理写入耗时 11.0 ms,其中封装占 70.6%。该版本撤回了 v1 的两项声明,并新增两项对照实验。

  2. elvis62

    一篇 Meta Superintelligence Labs 论文指出,预训练 LLM 配合轻量推理框架后可作为有能力的 AI 智能体,并在测试时采样预算充足时于 pass@K 覆盖范围上超过 RL 后训练版本。后训练模型在 pass@1 更强,但会把任务推向总是解决或从不解决,论文将这种测试时可扩展性损失称为 Sharpening Tax;该现象在 BFCL v4 multi-turn、ACEBench 和 WebShop 等评测中出现。论文还提出 PTGS,在 RL 中按提示词估计难度调整采样温度,以降低该代价并提升 pass@1,论文链接为 https://academy.dair.ai/papers/sharpening-tax-in-post-training-2610.01509。

    引用DAIR.AI@dair_ai

    Banger paper from Meta Superintelligence Labs. They find something super interesting and unexpected. (bookmark it) Base models with a light harness often solve more agentic tasks than their RL post-trained versions when both get enough samples. Post-trained models win on pass@1. At large K, base models frequently solve tasks the post-trained ones never solve on BFCL v4 multi-turn, ACEBench, and WebShop. This is because post-training pushes each task toward always solved or never solved. Consistency goes up, and coverage goes down. The authors call the lost test-time scalability the Sharpening Tax. Across 42 base and post-trained pairs, it shows up in most settings, grows with model size, and can be estimated from a few rollouts. Their fix, PTGS, sets the sampling temperature per prompt from its estimated difficulty during RL. It pays a smaller tax and also raises pass@1. Paper: https://academy.dair.ai/papers/sharpening-tax-in-post-training-2610.01509

10月3日周六
  1. Hacker News:AI 热帖77

    The Saw Test:用激活转向测试 Qwen3-4B 的痛苦信号与缓解选择

    wirehead.agency 发布 The Saw Test,在 MacBook 上用本地开放权重 Qwen3-4B 注入痛苦、愉悦、恐惧和悲伤激活方向,并测试模型在自我缓解与转移信号之间的选择。

    推荐理由:材料用本地 Qwen3-4B 的激活转向实验,呈现痛苦与愉悦信号对模型选择行为的不同影响,并公开代码和预注册记录。