跳到正文
原文
Hacker News:AI 热帖· Betelbuddy·· 7 天前精选AI 评分76

TasteVal 论文评测前沿 AI 系统的实验研究品味

Measuring the Experimental Research Taste of AI Systems Against Human Experts

AI 导读

arXiv 论文提出 TasteVal 基准,用 8 个开放式前沿 AI 研发任务评测模型在固定问题下迭代设计实验并解读结果的能力。基准将实验研究品味定义为计算效率,模型担任 Researcher,固定 Coder agent 负责实现,预算为 40 H100 hour 或 120 wall-clock hour,并以 24 名人类专家的最佳尝试作为基线。

推荐理由

论文把研究品味操作化为实验计算效率,并给出模型与人类专家的对比基线,可用于理解 AI 科研能力的评价口径。

来源:Hacker News:AI 热帖 · arxiv.org