Hacker News:AI 热帖· Betelbuddy·· 7 天前精选AI 评分76
TasteVal 论文评测前沿 AI 系统的实验研究品味
Measuring the Experimental Research Taste of AI Systems Against Human Experts
AI 导读
arXiv 论文提出 TasteVal 基准,用 8 个开放式前沿 AI 研发任务评测模型在固定问题下迭代设计实验并解读结果的能力。基准将实验研究品味定义为计算效率,模型担任 Researcher,固定 Coder agent 负责实现,预算为 40 H100 hour 或 120 wall-clock hour,并以 24 名人类专家的最佳尝试作为基线。
推荐理由
论文把研究品味操作化为实验计算效率,并给出模型与人类专家的对比基线,可用于理解 AI 科研能力的评价口径。
来源:Hacker News:AI 热帖 · arxiv.org