跳到正文

#数据/训练

今日 18 条
6月30日周二
  1. Hugging Face Blog42

    DiScoFormer:一个跨分布同时估计密度与 score 的 Transformer 模型

    Hugging Face 介绍 DiScoFormer,这是一个可在单次前向传播中同时估计分布密度与 score、无需按新分布重新训练的 Transformer 模型。模型用高斯混合模型训练,采用共享主干与密度、score 双输出头,并把 KDE 作为特殊情形。在 100 维任务中,其 score 误差较最佳手工调优 KDE 降低约 6.5x,密度误差降低超过 37x。

6月25日周四
  1. Google Research65

    Google Research 论文解析:推理如何唤醒大语言模型的参数化知识

    Google Research 介绍将在 COLM 2026 发表的论文 Thinking to Recall,发现开启推理后,Gemini-2.5 Flash、Gemini-2.5 Pro 和 Qwen3-32B 能召回关闭推理时几乎无法得到的简单单跳事实答案。

    推荐理由:文章用受控实验区分计算缓冲与事实启动两种机制,并审计中间事实幻觉对最终答案的影响,可帮助理解推理型模型的知识召回边界。

6月22日周一
6月11日周四
  1. Google Research47

    Google 提出机器遗忘审计新框架 Regularized f-Divergence Kernel Tests

    Google 提出 Regularized f-Divergence Kernel Tests 框架,用于更敏感、灵活、准确地审计机器学习模型的机器遗忘效果,相关成果发表于 AISTATS 2026。该框架通过相对距离测试判断遗忘模型更接近安全重训模型还是原始受损模型,并利用 f-divergence 与核正则化降低计算成本。其理论上可在任意样本量下控制假阳性,并随样本增加让假阴性风险收敛至零。

6月5日周五
  1. Google Research64

    Google Research 发布 PHRM 手机摄像头被动心率监测研究

    Google Research 在 Nature 论文中提出 PHRM 研究系统,可在用户面部解锁手机后通过前置摄像头拍摄 8 秒面部视频,在日常使用中被动估计心率和每日静息心率。

    推荐理由:文章给出跨肤色验证误差、真实环境测试和数据集开放方式,可帮助读者理解手机摄像头被动测心率的可行边界。

6月4日周四
5月28日周四
  1. Google Research52

    Google Research 提出零信任聚合隐私分析方案,用于 Android SafetyCore 端侧模型评估

    Google Research 发布零信任聚合隐私分析方案,通过单消息格基加密聚合协议与 TEE 证明结合,使服务器只能获得加噪后的匿名群体统计。设备无需多轮保持在线,原始数据不会在服务器内存或 TEE 中以明文重建;TEE 还可证明运行的是公开代码。该方案正与 Android SafetyCore 团队合作,用于评估安全分类器的元数据和真阳性率,同时让用户内容保留在设备本地。

5月18日周一
5月8日周五
  1. Berkeley AI Research62

    Berkeley BAIR 解析自适应并行推理如何提升推理扩展效率

    Berkeley AI Research 发布综述,提出自适应并行推理让模型在推理时自行决定是否拆分任务、生成多少并行线程以及如何汇总结果。文章比较 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild!

    推荐理由:文章梳理自适应并行推理的控制流、推理系统和奖励设计,可帮助读者理解降低长推理延迟的工程取舍。

5月4日周一
5月2日周六
4月22日周三
4月20日周一
  1. Berkeley AI Research48

    面向世界模型长时域规划的梯度方法 GRASP

    Berkeley AI Research 提出面向学习型世界模型的梯度规划器 GRASP,以提升长时域规划的实用性与鲁棒性。GRASP 将轨迹提升至虚拟状态以实现跨时间并行优化,直接向状态迭代加入随机性用于探索,并重塑梯度,使动作获得清晰信号,同时规避经高维视觉模型传播的脆弱“状态输入”梯度。

4月16日周四
  1. Google Research57

    Google Research 提出 Simula:用第一性原理推理设计面向真实场景的合成数据集

    Google Research 在 TMLR 论文中提出推理优先的合成数据生成与评估框架 Simula,用机制设计从第一性原理构建完整数据集。Simula 通过全局多样化、局部多样化、复杂化和双重质量检查控制覆盖、难度与标签质量,并引入 Taxonomic Coverage 与 Calibrated Complexity Scoring 评估数据。

  2. Google Research49

    Google Research 用 AI 生成的合成神经元加速大脑图谱绘制

    Google Research 推出 MoGen 模型,通过生成合成神经元形态增强 PATHFINDER 重建模型的训练数据,使小鼠轴突重建错误率降低 4.4%。该成果将在 ICLR 2026 发表,在完整小鼠脑规模上相当于节省 157 人年的人工校对工作。MoGen 已作为开源模型发布,是首次将现代生成式 AI 用于提升连接组重建的当前最优方法。

4月9日周四
4月1日周三
3月25日周三
  1. Google Research42

    S2Vec 如何学习城市语言:Google Earth AI 解析现代建成环境

    Google Research 在 Google Earth AI 计划下推出 S2Vec,用 S2 Geometry 栅格化建成环境,并通过 masked autoencoding 自监督学习通用嵌入向量。S2Vec 在美国人口密度、收入中位数等零样本地理适应任务中通常是最佳单模型;与图像嵌入融合后,效果通常优于任一单一模态,但在树木覆盖、海拔等环境任务上仍需改进。

3月18日周三
  1. Google Research55

    Google Research 在 The Check Up 展示医疗 AI 研究与临床落地进展

    Google Research 在 The Check Up 活动中介绍其医疗 AI 组合,覆盖个性化健康、临床辅助、开发者生态、公共卫生和生物医学发现。与 Fitbit 的研究显示 Personal Health Agent 比单任务应用更能支持长期健康;乳腺癌筛查实验系统识别出 25% 此前漏检的 interval cancers,糖尿病视网膜病变筛查已超过 100 万次。

3月17日周二
3月13日周五
  1. Berkeley AI Research47

    面向 LLM 的规模化交互识别:SPEX 与 ProxySPEX

    Berkeley AI Research 提出 SPEX 与 ProxySPEX,用于在大规模特征、训练数据和模型组件中识别影响 LLM 输出的关键交互。SPEX 借助稀疏性、低阶性及信号处理方法,将交互发现转化为稀疏恢复问题;ProxySPEX 进一步利用层级结构,以约 10x 更少的消融达到与 SPEX 相当的性能。

3月7日周六
  1. Google Research62

    Google Research 发布 WAXAL:覆盖 27 种撒哈拉以南非洲语言的开放语音数据集

    Google Research 发布开放语音数据集 WAXAL,覆盖 27 种撒哈拉以南非洲语言、超过 26 个国家的 1 亿多名使用者。初始版本包含约 1,846 小时 ASR 转写自然语音和超过 565 小时 TTS 高保真录音,并以 CC-BY-4.0 许可开放。数据集自 2021 年起与非洲学术及社区组织合作建设,Google 还计划继续扩展语言覆盖。

    推荐理由:原文给出语言覆盖、ASR 与 TTS 数据规模及开放许可,便于读者评估其对低资源语音研究的基础价值。

1月10日周六
  1. Berkeley AI Research41

    成像系统的信息驱动设计:基于互信息直接评估与优化

    Berkeley AI Research 提出基于互信息直接评估并优化成像系统的框架,仅用含噪测量与噪声模型即可量化系统区分物体的能力。该指标在彩色摄影、射电天文、无透镜成像和显微镜四个领域均能预测解码器性能,优化所得设计可媲美 SOTA 端到端方法,且占用更少内存与算力、无需任务专用解码器。相关成果发表于 NeurIPS 2025。

11月1日周六
9月9日周二
  1. Mistral AI73

    Mistral AI 完成 1.7B€ C 轮融资,投后估值 11.7B€

    Mistral AI 宣布完成 1.7B€ C 轮融资,投后估值为 11.7B€,本轮由 ASML 领投,DST Global、Andreessen Horowitz、Bpifrance、General Catalyst、Index Ventures、Lightspeed 和 NVIDIA 等现有投资者参投。

    推荐理由:官方披露了融资金额、估值、领投方和资金用途,可用于理解 Mistral AI 在企业级前沿 AI 与半导体场景上的扩张方向。

9月1日周一
  1. Berkeley AI Research48

    word2vec 究竟学到了什么?新研究给出定量理论

    Berkeley AI Research 新论文证明,在现实条件下 word2vec 的学习问题可归约为无加权最小二乘矩阵分解,梯度流动态有闭式解,最终表示等价于对目标矩阵 M* 做 PCA。从小初始化训练时,word2vec 以离散、顺序步骤学习正交线性子空间,每步提升嵌入矩阵秩并降低损失,特征可由语料共现统计预先算出。

8月1日周五
7月23日周三
7月3日周四
  1. Mistral AI47

    Mistral AI 推出 AI for Citizens 计划,助力公共机构自主掌控 AI

    Mistral AI 推出 AI for Citizens 合作计划,帮助各国政府和公共机构战略化运用 AI,改造公共服务、激发创新并保障竞争力。该计划基于开放、协作、选择与自主原则,提供前沿模型与产品、自托管或主权数据中心等部署选择、数据主权保障、定制研发及路线图支持。Mistral AI 已与法国、卢森堡、新加坡、荷兰、英格兰、瑞士等地政府及公共部门开展合作。

6月11日周三
  1. Mistral AI60

    Mistral AI 推出 Mistral Compute 私有 AI 基础设施服务

    Mistral AI 发布 Mistral Compute,为政府、企业和研究机构提供包含 GPU、编排、API、产品与服务的私有集成 AI 基础设施,交付形态从 bare-metal 服务器到全托管 PaaS。

    推荐理由:原文说明了从裸金属到 PaaS 的交付层级、GPU 供给和数据主权定位,可帮助评估主权 AI 基础设施的可选路径。

6月10日周二
4月9日周三
  1. Mistral AI53

    Mistral AI 讲解如何用 LLM as a Judge 评测 RAG 系统

    Mistral AI 介绍用 LLM as a Judge 评测 RAG 系统的方法,通过裁判 LLM 按自定义标准对生成答案打分。文章采用 TruLens 提出的 RAG Triad,从上下文相关性、 groundedness 和答案相关性三个维度端到端评估检索与生成环节,并展示如何用 Mistral API 的结构化输出和 Pydantic schema 输出机器可读评分。

2月17日周一
  1. Mistral AI62

    Mistral AI 发布 24B 区域语言模型 Mistral Saba

    Mistral AI 发布区域语言模型 Mistral Saba,参数规模为 24B,使用中东和南亚精选数据集训练,支持阿拉伯语及多种印度起源语言,尤其擅长泰米尔语等南印度起源语言。Mistral Saba 已通过 API 提供,也可在客户本地安全环境部署,能在单 GPU 系统上运行,速度超过 150 tokens/s;官方称其响应比 5 倍以上规模的模型更准确相关,且更快、成本更低。

    推荐理由:原文说明了区域语言模型的参数规模、语言覆盖、部署方式和速度,可帮助读者理解专用小模型与通用大模型的取舍。

1月30日周四