跳到正文

#评测/基准

今日 3 条
今天10月13日周二
10月12日周一
10月11日周日
10月10日周六
10月9日周五
  1. Hacker News:AI 热帖38

    AI 系统 Women, Peace and Security 基准排行榜

    一个排行榜展示主流 AI 模型在经专家验证的 Women, Peace and Security(WPS)基准上的表现,0.60 为通过阈值,0.75 及以上为强,低于 0.60 为不达标。分数由 3 名独立 AI 评委按提示词层级做宏平均得出,差距小于约 0.10–0.15 仅具方向性。该基准只衡量相对表现,并非部署适用性认证,完整 30 行数据集已在 Hugging Face 开放。

  2. Hacker News:AI 热帖64

    Exa 发布 ATLAS 基准,评测智能体在搜索密集任务中的表现

    Exa 预览 ATLAS 搜索智能体基准,包含 547 个来自真实匿名搜索需求的深度研究任务和经过验证的标准答案。初步结果显示,成本低于 $1/任务的运行均未达到 0.5 Row F1,最佳系统在 $8.92、18 分钟/任务时达到 0.66 Row F1。ATLAS 采用自动流水线生成并计划每 3–6 个月刷新,任务、标准答案和评分器将在未来几周发布。

10月8日周四
  1. Hacker News:AI 热帖44

    Artifact Arena:以创造衡量智能

    Artifact Arena 是一个开放式评测平台,要求前沿语言模型设计完整机器人,包括躯体、控制器与竞技策略,并在物理模拟器中通过 Last Bot Standing Game 对战排名。平台评测软硬件协同设计、3D 物理推理与世界建模、3D 设计与编程、竞技策略四项能力,并开放社区提交作品。

10月7日周三
  1. Rohan Paul59

    Parsewave 审查 Zapier AutomationBench 的 600 个公开任务,发现并修复 206 个评分器 bug,发布 AutomationBench Verified。

    引用shaped@shaped

    AutomationBench Verified is out. We went through all 600 public tasks in @Zapier's AutomationBench and checked every verifier. • Agents flagged 323 verifiers as suspicious, human review confirmed 206 real bugs, all 206 are fixed. • We replayed 1,235 Kimi K3 runs on the old and fixed verifiers and 344 of them (27.9%) got a different grade • Where verifiers were too strict, pass rate went from 18.8% to 43.8% • Where they were too lenient, it dropped from 60.2% to 49.7% Audit and dataset links below.

  2. Hacker News:AI 热帖76

    TasteVal 论文评测前沿 AI 系统的实验研究品味

    arXiv 论文提出 TasteVal 基准,用 8 个开放式前沿 AI 研发任务评测模型在固定问题下迭代设计实验并解读结果的能力。基准将实验研究品味定义为计算效率,模型担任 Researcher,固定 Coder agent 负责实现,预算为 40 H100 hour 或 120 wall-clock hour,并以 24 名人类专家的最佳尝试作为基线。

    推荐理由:论文把研究品味操作化为实验计算效率,并给出模型与人类专家的对比基线,可用于理解 AI 科研能力的评价口径。

10月6日周二
  1. Hacker News:AI 热帖72

    TasteVal 论文提出 AI 实验研究品味基准,Opus 5.5 超过人类专家基线

    P-Zero Research 发布 TasteVal,用 8 个前沿 AI 研发任务衡量模型在固定问题下迭代设计实验并解读结果的能力。评测以达到人类专家分数所需实验计算为指标,由固定编码智能体在单张 H100 上执行,单次运行上限为 40 GPU-hours 或 120 小时墙钟时间,人类基线来自 24 名专家。

  2. Hacker News:AI 热帖65

    13 个 LLM 回答相同 76 个带来源问题:无搜索准确率 44.5%,有搜索 96.0%

    LLM Quorum 让 13 个 LLM 用相同措辞回答 76 个均有主要来源的问题,无网络搜索时答对 440/988,准确率 44.5%;允许网络搜索时答对 948/988,准确率 96.0%,13 个模型全部提升。完整测试覆盖 76 个模型席位、1591 次付费调用,并记录过时、幻觉、拒答、截断和错误等结果;OpenRouter 付费 API 计量成本为 $31.74。

  3. Simon Willison37

    Qwen3.8 27B 英文单词加法能力基准测试

    本地 Qwen3.8-27B-Q4_K_M.gguf 模型在禁用推理的 5,070 例测试中,仅以英文单词输出加法结果的数值准确率为 23.57%,格式合规率达 96.17%。其准确率随数字位数增大从 1 至 3 位操作数的 97.04% 降至 10 至 13 位的 6.44%;启用中等推理后,169 例配对测试答对 167 例。

  4. GitHub Blog · AI & ML62

    GitHub 发布开放 AI 代码审查基准 ReviewBench

    GitHub 发布开放 AI 代码审查离线基准 ReviewBench,研究预览版已上线,可用于比较代码审查智能体并接入自有系统。基准基于 103.9M 个 GitHub pull request 的分布构建,包含 187 个公开仓库中的 219 个 pull request、覆盖 19 种语言,并提供多来源 golden set、严重度和类别标注。

    推荐理由:原文说明了基准语料、标注流程和接入方式,适合用来理解代码审查智能体应如何做可复现评测。

10月5日周一
  1. Hacker News:AI 热帖52

    TaxCalcBench 评测前沿模型能否完成 2025 纳税申报计算

    TaxCalcBench 发布 2025 v2 版税务计算基准,测试 38 个模型在 50 个覆盖 CA、IL、NY、VA 的案例中能否根据纳税人材料生成完整税表。新版输入改为 W-2、1099 等真实 PDF,覆盖联邦和州税以及更复杂财务情形;结果按严格全表正确、±$5 宽松正确、逐行正确率、每份申报成本和时间统计,结果于 10/01/2026 从仓库同步。

  2. Hacker News:AI 热帖24

    按引用量排名的 AI 研究者 Top 50 榜单

    一份按 Google Scholar 引用量统计的 AI 研究者 Top 50 榜单发布,覆盖机器学习、深度学习、计算机视觉等子领域,每月更新。Yoshua Bengio 以 1,164,407 次引用居首,Geoffrey Hinton、何恺明分列第二、三位。

10月4日周日
  1. Hugging Face Blog78

    Microsoft ThinkingBox 登陆 Hugging Face,用数据库状态评测 AI 智能体

    Microsoft 与 Hugging Face 发布 ThinkingBox 智能体沙箱及 ThinkingBox-Bench,基准包含 507 个有状态业务工作流,每个任务运行 20 次,并通过隔离 MCP 工具会话检查最终后端状态与副作用。

    推荐理由:ThinkingBox 用后端最终状态和副作用判定智能体任务成败,并通过 20 次重复运行区分单次能力与稳定可靠性。

10月3日周六
  1. Hacker News:AI 热帖40

    大语言模型推荐的后端编程语言排名

    一项基于大语言模型推荐的后端编程语言排名显示,Python 以 67.5%(610/904)的支持率位居第一,TypeScript 以 23.8%(215/904)排第二。Go、Ruby、Rust 分列第三至第五,支持率分别为 3.4%、1.2%、0.9%。统计覆盖全部模型层级与提示词级别,Python 在模型和提示词覆盖上均达 100%。