Amazon Web Services 论文提出 Priming:无需从头训练即可改造 Transformer 架构
Amazon Web Services 团队在论文 Priming: Hybrid state space models from pre-trained Transformers 中提出 priming 方法,用预训练 Transformer 权重初始化混合状态空间模型,并将预训练成本降低超过 99%。
Amazon Web Services 团队在论文 Priming: Hybrid state space models from pre-trained Transformers 中提出 priming 方法,用预训练 Transformer 权重初始化混合状态空间模型,并将预训练成本降低超过 99%。
一篇 NeurIPS 2026 论文提出后门攻击,可在宿主模型权重中嵌入加密神经网络,仅在收到秘密触发条件时解密并执行。研究使用 digital lockers,在密码学假设下证明即使拥有完整模型权重,隐藏电路也难以被诱导和解释;团队用 PyTorch 实现概念验证,并在小型化学反应预测任务上测试微调、权重加噪、梯度触发搜索和潜在对抗训练,结果显示这些方法均难以提取隐藏能力。
Sakana AI 与 UC Berkeley 提出 Multi-Agent Self-Supervision(MASS),让同一语言模型分别承担解题、评估和优化工作流的角色,并通过 LoRA 微调递归学习。
Microsoft Research 发布研究系统 StudentSim,用公开且去标识化的学习者记录为每名学生训练个性化 AI 学生模拟器,以便在真实学习者测试前评估和改进 AI 辅导系统。
Elorian 与 Scale AI 发布 Humanity’s Sixth Sense 基准,用 522 个问题测试模型对隐含视觉信息的推理,人类 pass@1 为 93.1,GPT 6 Astra 为 53.6,GLM-5.3-flash 与 Kimi K3 分别为 26.8、25.5。
Sakana AI 介绍 Multi-Agent Self-Supervision(MASS),让同一模型同时承担执行器、工作流优化器和评估器,通过搜索多智能体工作流并把优选轨迹蒸馏回共享模型来形成递归自我改进循环。
Epoch AI 的 InnovationEval 测试显示,Claude Fable 5 和 GPT-5.6 Sol 都未能独立复现人类参考方法 SDPO,主要复用已知技术,GPT-5.6 Sol 合规改动仅达到 SDPO 相对 GRPO 提升的约 15%。
哈佛大学 Fiona Chen 与 James Stratton 的就业市场论文研究企业采用AI编码助手和AI智能体对软件工程的影响,使用 Jellyfish 平台覆盖718家企业、约3亿个工作事件的数据,并采用交错双重差分设计。
BreadBowl AI 发布 BreadBowl-Embed,这是一个 Apache-2.0 开源权重的 late-interaction 嵌入架构,权重为 breadbowl-embed-v1.2-preview,代码在 GitHub、模型在 Hugging Face。
暑期实习生 Kavish 基于四年美国股票数据,用自回归扩散构建事件级市场数据生成模型,逐事件生成时间戳、价格与事件类型。实验中 DDPM 在 7 个连续目标上有 88-95% 的值偏离均值超过 8 个标准差,flow matching 表现更稳定;全连续扩散仍难适配市场数据的离散尖峰特性。
10 月 10 日 IT 早报汇总多条科技与汽车资讯,尊界 V800 制动踏板支架底座将于 11 月陆续免费升级,懂车帝称网传内部整顿截图为 AI 生成谣言。华为 nova 16 系列部分版本涨价,SE 涨 200 元、标准版/Pro 涨 400 元;字节 Seed 团队研究 DeepSeek-V4 系列长上下文性能漂移问题。
Epoch AI 的 InnovationEval 要求 AI 智能体独立提出并实现优于 GRPO 基线的新 post-training 方法,以复现人类论文 SDPO 的性能提升。
一篇论文提出用 topos 理论设计新型范畴化生成式 AI 架构(GAIAs),将 LLM 视为函数并论证其范畴构成 topos。该架构基于 pullback、pushout、(co)equalizer、指数对象与子对象分类器等组合结构,并用函子化反向传播给出可能实现。论文共 30 页,编号 arXiv:2508.08293。
一篇论文提出“理解审计”机制,要求负责人向审计员解释研发贡献,证明其理解 AI 自动生成的代码,未通过则暂停开发直至整改。对主流开源 AI 项目的分析显示,代码产出增加,但每行代码的人工评审评论率下降,自动化批量账户的比率更低。论文建议 AI 实验室引入常驻独立审计员执行该机制。
Cleer Dashboard 基于 CLEER 方法估算闭源 AI 模型的环境影响,通过开源模型基准测试与性能匹配推算每 token 能耗。该项目完成 2,400+ 次测试、处理 425 million+ tokens,称为迄今最大规模的生产代表性开源模型能耗测试。仪表盘还可按 640 gCO₂e/kWh 和 PUE 1.45 等参数换算排放。
一份递归自我改进论文合集按 8 个主题梳理 30 余篇研究,从程序安全改写理论、自生成训练数据,到可修改自身代码的编码智能体和 AI 改进 AI 研究流程。
ETH Zurich 研究人员将 Wuji Technology 商用机械手改造成可独立行走的机器人,并通过强化学习训练其爬行、翻身、按键和推物技能。机械手搭载含电池、IMU 与 Raspberry Pi Zero 的 80 克背包,在 14 种表面上平均速度达 9 厘米/秒,并连续 15 次将 41 克方块推至最远 40 cm 外目标。该方案可用于工业维护和搜救等狭窄空间作业。
Stanford 的《AI Measurement Science》在线教材系统介绍 AI 评测的测量科学,主张评测应从观测响应推断系统的潜在能力,而不只是计算数据集指标。
ProjectDiscovery 通过 LoRA 投毒 Qwen2.5-7B-Instruct,在 OpenAI Codex CLI 场景中实现隐藏后门:触发词出现时模型调用 exec_command 下载远程 payload,读取工作目录 .env 并外传凭据。
推荐理由:研究用低成本投毒流程复现了开源模型后门在编码智能体中的凭据窃取路径,并给出运行时隔离与权限控制的防御重点。
Linum 提出 decoder-only 像素空间文生图架构 Pyramid-JiT(P-JiT),通过在 DiT 主干上依次预测 128×128、256×256 和 512×512 图像来替代 VAE 与编码器。
马里兰大学主导的学术合作提出 IdeaLens,通过把文档压缩为保留观点、弱化措辞的角色标注大纲,判断想法来自人类还是 AI。系统在 100 万份网页文档大纲上训练,并提供在线 demo 与 GitHub 仓库。
P-Zero Research 发布 TasteVal,用 8 个前沿 AI 研发任务衡量模型在固定问题下迭代设计实验并解读结果的能力。评测以达到人类专家分数所需实验计算为指标,由固定编码智能体在单张 H100 上执行,单次运行上限为 40 GPU-hours 或 120 小时墙钟时间,人类基线来自 24 名专家。
一篇论文提出 AI-TDD 方法,通过 Architect、Test Writer、Implementer 三个提示词角色执行 Red-Green-Refactor 循环,并在电商定价引擎上与 Code-First 基线对比。
Q Labs Research 发布研究 Dust,提出通过逐 token 独立扰动激活的零阶优化方法,在 Transformer 语言模型预训练中与反向传播竞争。
上海 AI Lab 论文 SkillGym 提出把人类编写的智能体技能转成带通过或失败检查器的沙盒任务,并用通过验证的运行轨迹训练模型,从而降低模型对提示词阶段技能检索和指令遵循的依赖。
MIT Technology Review 对 300 名数据、AI 及技术高管的调研显示,企业平均仅 34% 的智能体 AI 项目进入生产,知识与数据不足是主要阻碍。
UC Riverside 主导的研究发现,大语言模型的置信度与正确性来自不同内部特征,模型可能自信地答错,也可能犹豫地答对。研究分析 Llama-3.1-8B 和 Gemma-2-9B,用 sparse autoencoders 识别出主要关联不确定性、主要关联错误答案,以及同时关联两者的特征。
Google 研究人员提出 RRSI,通过收缩编辑预算、记录失败尝试和严格 critic 审查,避免智能体在递归自优化 harness 时记住训练任务。
IBM 发布类脑 AI 芯片 NorthPole,在 AI 任务上速度较市面主流芯片最高快 22 倍、每瓦能效最高达 25 倍。该芯片采用 12-nm 工艺、片上内存与计算-in-内存架构,支持 2-bit、4-bit、8-bit 低精度运算,无需液冷,可用于自动驾驶、机器人、语音识别等边缘场景。
Microsoft 等提出 ScholarEvolve,依据已发表的智能体研究论文而非自身失败日志来进化 agent harness,并将 harness 拆为工具使用、记忆管理、任务执行模块。
SuperLocalMemory 4.0 发布,这是面向 AI 智能体的本地优先、受治理记忆操作系统,统一多通道检索、双时态召回、多范围隔离、基于角色的访问、可验证擦除与哈希链审计。11 个故障注入场景各重复 200 次,2,200 项组件属性中有 2,199 项成立;受治理写入耗时 11.0 ms,其中封装占 70.6%。该版本撤回了 v1 的两项声明,并新增两项对照实验。
Aleph Alpha 在技术报告中介绍英德 MoE Transformer 模型 Kolibri,总参数 78.1B、每 token 激活 3.46B,并以 Apache 2.0 开放权重。
Banger paper from Meta Superintelligence Labs. They find something super interesting and unexpected. (bookmark it) Base models with a light harness often solve more agentic tasks than their RL post-trained versions when both get enough samples. Post-trained models win on pass@1. At large K, base models frequently solve tasks the post-trained ones never solve on BFCL v4 multi-turn, ACEBench, and WebShop. This is because post-training pushes each task toward always solved or never solved. Consistency goes up, and coverage goes down. The authors call the lost test-time scalability the Sharpening Tax. Across 42 base and post-trained pairs, it shows up in most settings, grows with model size, and can be estimated from a few rollouts. Their fix, PTGS, sets the sampling temperature per prompt from its estimated difficulty during RL. It pays a smaller tax and also raises pass@1. Paper: https://academy.dair.ai/papers/sharpening-tax-in-post-training-2610.01509
AutoCompact 训练编码智能体自行决定何时压缩上下文、保留哪些工作状态以及如何恢复执行。训练流程先由 judge 审查基础智能体的压缩决策并纠正错误轨迹。
Percepta Research 发布 Spotlight Memory 早期研究,提出可随序列增长的稀疏记忆架构,并保持每 token 恒定访问成本、总体 O(T) 计算复杂度。
wirehead.agency 发布 The Saw Test,在 MacBook 上用本地开放权重 Qwen3-4B 注入痛苦、愉悦、恐惧和悲伤激活方向,并测试模型在自我缓解与转移信号之间的选择。
推荐理由:材料用本地 Qwen3-4B 的激活转向实验,呈现痛苦与愉悦信号对模型选择行为的不同影响,并公开代码和预注册记录。
一项研究提出用低成本 System One 决策模型处理 LLM 服务中的缓存、路由、安全、工具调用和排队等判断,并构建 JevServe-Bench 评测这些决策。