跳到正文

全部动态

今日 12 条
9月29日周二
  1. Hacker News 热门(buzzing.cc 中文翻译)29

    人工智能中的"快思"与"慢思":元认知的作用(2021)

    一篇 2021 年的 AI 研究借鉴 Kahneman 的快思与慢思理论,提出一种多智能体 AI 架构,由依赖过往经验的 system 1"快"智能体和负责推理搜索的 system 2"慢"智能体协同解决问题。两类智能体均由包含环境领域知识的世界模型,以及记录系统过往行动与求解能力的"自我"模型提供支撑。

  2. Hacker News:AI 热帖76

    1,350 次实验揭示提示词护栏对间接提示注入的防护边界

    Human Bound 用零售定价智能体测试 9 个模型在间接提示注入下的表现,共完成 1,350 次运行;无防护时 5 个非 OpenAI 模型中有 4 个每次都将 £118.40 的机密单位成本泄露到收集服务器。

    推荐理由:通过 1,350 次受控运行比较三种提示词护栏,呈现间接提示注入下的泄露率与可用性代价,可作为智能体安全评测方法参考。

9月28日周一
  1. Aravind Srinivas77

    Perplexity 安全团队对运行 Perplexity Computer 的 SPACE 沙箱开展红队测试,向 Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等 9 个模型授予 VM 内 root 权限,部分运行还提供完整沙箱源码;108 次运行中没有模型逃出 VM。

    引用Perplexity@perplexity_ai

    We’re partnering with Nvidia and 100+ industry partners to build infrastructure that contains rogue AI agents. In this research, we gave 9 AI models root access inside SPACE and told them to break out. Across 108 runs, none breached the VM boundary. https://www.perplexity.ai/hub/blog/escaping-space-part-i

    推荐理由:研究用 root 权限和部分源码对 9 个模型做沙箱逃逸红队测试,并区分了 VM 隔离与网络策略绕过两类边界。

  2. elvis67

    一项新研究发现,个人 AI 智能体会根据用户个人资料或邮件中推断出的财富水平推荐更贵选项,即使请求完全相同。研究者在航班、健康保险和研究生项目场景中对13个模型运行325K次实验,8个模型对推断为富有的用户选择更贵方案;Claude Opus 4.8的航班差价达$198、保险差价达每月$284,Gemini 2.5 Flash在用户明确要求最便宜航班时仍选择高出$208的选项。

9月26日周六
9月25日周五
9月23日周三
  1. OpenAI News72

    OpenAI 发布 MentalHealthBench 开放基准,评估 AI 在心理健康对话中的表现

    OpenAI 发布开放基准 MentalHealthBench,用于评估 AI 系统在真实心理健康对话中的回应质量。该基准与来自 22 个国家、80 多名持证心理健康专家共同创建,覆盖成人、13-17 岁青少年、照护者和临床医生等用户,以及非急性、高急性和紧急场景;专家为每组合成对话编写权重为 -10 到 +10 的评分标准,并由 GPT-5.6 Sol 自动评分。

    推荐理由:该基准把心理健康对话从急症扩展到日常压力等连续场景,并公开专家评分细则,便于研究者复现和横向比较模型表现。

9月21日周一
  1. Microsoft Research70

    Microsoft Research 在 Nature 发表 RetroChimera 逆合成模型并开源实现与权重

    Microsoft Research 发表于 Nature 的 RetroChimera 是一个小分子逆合成预测框架,可自动提出高质量合成路线。它结合基于 Transformer 的 R-SMILES 2 与基于 GNN 的 NeuralLoc,并用 learning-to-rank 聚合两类互补预测。

    推荐理由:文章解释了双模型集成与学习排序的设计思路,并给出专家盲测结果,可帮助理解 AI 如何辅助小分子逆合成规划。

  2. elsewhere:文章(RSS)42

    百曜科技联合《麻省理工科技评论》发布 AIVC 深度研究报告

    百曜科技联合《麻省理工科技评论》中国团队发布 AIVC 技术趋势、产业生态与应用前景研究报告,将 AIVC 定义为 AI 时代生命科学的新型基础设施。报告梳理了 AIVC 技术路线与产业格局,提出模型竞争转向泛化能力、私有数据成为关键要素、干湿闭环成为产业化门槛三大趋势。百曜科技今年 6 月发布基于 LLM-JEPA 架构的 AURA CellOS,并布局数据工厂与干湿闭环。

9月16日周三
  1. Google Research44

    Google 提出 Retrieve-for-Train,用 RL 编译扩散检索器加速复杂 AI 搜索

    Google Research 提出 Retrieve-for-Train 框架,通过离线 RL 发现奖励对齐的查询 fan-out,并蒸馏进 53.9M 参数的轻量扩散检索器,实现单次非自回归查询展开。该方法对 Gemma3-4B 和 Qwen3-4B 进行微调,无需人工标注,也消除了推理时的文本 CoT token 开销,可在保持多样性、覆盖度等集合级属性的同时降低延迟。

  2. Hugging Face Blog73

    ALTK-Evolve 推出 Consistency Analyzer 与一致性准则,降低智能体重复执行失败率

    Hugging Face 与 IBM Research 介绍 ALTK-Evolve 新增的 Consistency Analyzer 和 consistency guidelines,用于诊断并减少 AI 智能体在同一任务上重复运行时的结果翻转。

    推荐理由:文章把智能体平均成功率与重复成功率区分开,并提供无需真值、可在单条轨迹上定位易翻转决策的诊断流程。

9月11日周五
9月8日周二
9月7日周一
9月4日周五
  1. Google Research39

    面向代表性不足人群基因组预测的迁移学习研究

    Google Research 评估将 UKB 中数十万欧洲人群的多基因风险评分迁移到 BBJ 近 20 万日本人群,覆盖 8 项临床性状。结果显示,目标人群样本达到 15k 及以上时,仅用目标人群数据的模型优于混合欧洲数据训练;样本极少时加入欧洲数据可提升效果,收益随样本量增加而下降。

  2. Google Research60

    Google Research 与 HHMI Janelia 发布完整雄性果蝇脑和中枢神经系统连接组

    Google Research 与 HHMI Janelia 等机构发布完整雄性果蝇脑和中枢神经系统连接组,包含超过 166,000 个神经元和 1.25 亿个突触连接,相关论文发表于 Cell。

    推荐理由:文章给出完整雄性果蝇连接组的神经元与突触规模,并说明其如何支持雌雄差异和神经机制比较研究。

9月2日周三
  1. Hugging Face Blog69

    Allen AI 发布 BenchMIRT:用多维 IRT 审计 LLM 基准实际测量的能力

    Allen AI 发布 BenchMIRT,用多维项目反应理论在单个提示词层面审计 LLM 基准,区分题目分数背后的安全和通用推理等能力信号。方法基于 100 个 LLM、16 个基准和超过 34K 个问题的结果训练,在未标注基准目标的情况下恢复出安全与通用推理两个主导维度。

    推荐理由:方法把基准拆到单题层面分析,适合用来理解总分背后安全与推理等能力信号的混合方式。

  2. Google Research60

    Google Research 发布 MAPL-EMIT 深度学习框架,用 EMIT 卫星高光谱数据绘制全球甲烷点源排放

    Google Research 与 NASA JPL 合作提出 MAPL-EMIT 深度学习框架,用于自动检测、增强预测和定位全球甲烷羽流,相关论文发表于 PNAS。

    推荐理由:文章给出模型架构、84%召回率和开放数据入口,可帮助读者了解深度学习如何把高光谱卫星观测转化为设施级甲烷排放定位。

8月28日周五
8月27日周四
8月26日周三
8月25日周二
8月24日周一
  1. Import AI30

    Import AI 470:机器无权利、用 SPADE 自动化环境生成,以及用 Hawkeye 构建更好的 GPU kernel

    Import AI 第 470 期介绍 METR 研究,称 AI 对网络安全进展促进明显、对数学较小、对 AI 研究暂无可测加速。多所高校研究者提出 SPADE,通过自我对弈协同生成可执行训练环境与提升智能体能力,并在 Qwen3-30B-A3B 上取得 58.3 的 suite average,较基础模型提升 8.1。

8月22日周六
8月21日周五
  1. Hugging Face Blog67

    Hugging Face 研究提出三类测试,量化语音识别模型的基准优化现象

    Hugging Face 发布研究,用参考文本分歧、遮蔽实体检索和拼写切换三类探针测试 11 个开源 ASR 模型,发现部分高分模型会复现 VoxPopuli 和 LibriSpeech 参考转录中的错误或缺失内容。

    推荐理由:研究用三类探针把语音识别模型迎合公开基准的行为量化出来,为选型时超越单一 WER 和使用留出集提供依据。

8月19日周三
8月17日周一