跳到正文

#评测/基准

今日 10 条
9月29日周二
  1. Diogo Almeida28

    再次强调,我极其反对基准测试(: (引用推文核心:不要再搞“Jevbench”,不要再要求公开基准测试;它们完全没抓住 Jev 的要点,而且你珍视的每个基准都极易被刷分。选对任务比什么都重要。)

    引用Latent.Space@latentspacepod

    STOP making "Jevbench"es, stop asking for public benchmarks, they completely miss the point of Jev and you won't believe how easy it is to game every benchmark you hold dear This is @CompleteSkeptic's bitterest lesson of all: picking the right task beats everything

  2. Elon Musk31

    Grok 4.7 xHigh 在 Artificial Analysis 网络安全指数中排名第一 它是强大的前沿模型,在企业网络防御方面表现达到最高水平 表现优于 Fable 5.1 Max、Opus 5.5、Astra 6、GPT-6 及其他领先 AI 系统 还不错

    引用X Freeze@XFreeze

    Grok 4.7 xHigh ranks #1 in Artificial Analysis Cyber Index It's a powerful frontier model performing at the highest level in enterprise cyber defense Outperforming Fable 5.1 Max, Opus 5.5, Astra 6, GPT-6 and other leading AI systems

9月28日周一
  1. OpenAI News34

    Basis 借助 GPT-6 Astra 以 2 倍速度完成税务工作簿

    Basis 测试显示,GPT-6 Astra 完成含 50 个标签页的复杂税务工作簿耗时比 GPT-5.6 Sol 少 50%,内部评测分数提升约 20%。该模型能按任务难度动态调整推理强度并保留 cache,从而降低成本与响应时间,同时更准确理解会计用户意图、减少纠错和 token 消耗。Basis 通过 OpenAI API 构建面向会计工作的 AI 智能体。

9月25日周五
9月24日周四
9月23日周三
  1. OpenAI News72

    OpenAI 发布 MentalHealthBench 开放基准,评估 AI 在心理健康对话中的表现

    OpenAI 发布开放基准 MentalHealthBench,用于评估 AI 系统在真实心理健康对话中的回应质量。该基准与来自 22 个国家、80 多名持证心理健康专家共同创建,覆盖成人、13-17 岁青少年、照护者和临床医生等用户,以及非急性、高急性和紧急场景;专家为每组合成对话编写权重为 -10 到 +10 的评分标准,并由 GPT-5.6 Sol 自动评分。

    推荐理由:该基准把心理健康对话从急症扩展到日常压力等连续场景,并公开专家评分细则,便于研究者复现和横向比较模型表现。

9月22日周二
  1. François Chollet29

    2026 年夏天在 AI 领域真是疯狂…… ARC Prize 2026 的 ARC-AGI-3 进度奖还剩 9 天,将于 9 月 30 日向顶尖开源方案颁发总计 $37,500 奖金;当前排名前三为 Tufa Labs、Lord Han Solo、NVARC3。

    引用ARC Prize@arcprize

    ARC Prize 2026 - ARC-AGI-3 Progress Prize - 9 day left $37,500 in prizes are being awarded on *Sept 30th* to the top open source solutions Current standings: 1. Tufa Labs 2. Lord Han Solo 3. NVARC3 Which top 3 will claim the open source prize?

9月21日周一
9月17日周四
9月16日周三
9月7日周一
  1. 公众号:欧巴聊AI50

    实测 GPT-6 Astra:人还能站在机器之上吗?

    作者实测 GPT-6 Astra,借助 Blender MCP、Computer use 和 Browser use 完成 3D 建模、网页游戏等任务,包括约 750 棵树、25 万簇草的实时 3D 森林及含 22000 多个像素块的樱花塔。其在 3D 火山模拟中表现优于 Fable 5.1,并登上 Arena 前端开发排行榜。作者认为模型虽强,仍是自回归工具,出题、纠偏与责任仍在人的一方。

9月2日周三
  1. Hugging Face Blog69

    Allen AI 发布 BenchMIRT:用多维 IRT 审计 LLM 基准实际测量的能力

    Allen AI 发布 BenchMIRT,用多维项目反应理论在单个提示词层面审计 LLM 基准,区分题目分数背后的安全和通用推理等能力信号。方法基于 100 个 LLM、16 个基准和超过 34K 个问题的结果训练,在未标注基准目标的情况下恢复出安全与通用推理两个主导维度。

    推荐理由:方法把基准拆到单题层面分析,适合用来理解总分背后安全与推理等能力信号的混合方式。

9月1日周二
  1. 公众号:欧巴聊AI42

    实测字节 Doubao-Seed-Evolving:持续进化的真功夫

    字节 Doubao-Seed-Evolving 采用固定模型 ID、无版本号,主打周级别迭代,近期更新重点提升多模态、编程与办公生产力能力。实测中它可高还原复刻淘宝首页,经 PIL 裁剪素材、取色搭建及无头浏览器 8 轮渲染对比完成页面,并生成可玩的低多边形跑酷游戏、《奥德赛》主题 PPT 与 Excel 及 3D 火山模拟。

8月28日周五
  1. 公众号:欧巴聊AI67

    腾讯混元 Hy4 preview 实测:聚焦代码、办公与科学任务

    作者实测腾讯混元 Hy4 preview,覆盖代码、办公和科学等真实生产力任务。该模型总参数 770B、激活参数 49B、上下文 1M,定位开源模型第一梯队;测试包括生成全息卡片、跑酷游戏、3D 场景、流体艺术网站、网页 Windows、PPT/Excel/Word 联动文档、修复全栈项目 bug 和火山喷发模拟。

8月27日周四
  1. Google DeepMind52

    Google DeepMind 试点专有前沿 AI 模型双盲评测

    Google DeepMind 宣布试点面向专有前沿级 AI 模型的双盲评测,将外部评测限制在密码学保护的环境中,避免模型提前利用测试内容优化表现。该项目与 Singapore AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境中用保密基准测试一款 Gemini Flash Lite 模型,以提升评测完整性。

8月26日周三
  1. Fireworks AI(网页)64

    Fireworks AI 评测 DeepSeek V4 Pro 0813:CyberGym 安全任务零拒绝且成功成本更低

    Fireworks AI 使用 CyberGym 评测 DeepSeek V4 Pro 0813、Kimi K3、GPT-5.5 和 Claude Opus 4.8 的安全智能体表现,任务要求模型在真实代码库中定位、触发并修复漏洞。

    推荐理由:文章用 CyberGym 的真实漏洞任务对比多款模型的成功率与单次成功成本,可为安全智能体选型提供成本和拦截率参考。

8月25日周二
8月21日周五
  1. Hugging Face Blog67

    Hugging Face 研究提出三类测试,量化语音识别模型的基准优化现象

    Hugging Face 发布研究,用参考文本分歧、遮蔽实体检索和拼写切换三类探针测试 11 个开源 ASR 模型,发现部分高分模型会复现 VoxPopuli 和 LibriSpeech 参考转录中的错误或缺失内容。

    推荐理由:研究用三类探针把语音识别模型迎合公开基准的行为量化出来,为选型时超越单一 WER 和使用留出集提供依据。

8月17日周一
8月10日周一
7月27日周一
  1. Import AI34

    Import AI 466:机器人的苦涩教训、AI 完成长达一周的编程任务,以及 OpenAI 的意外 AI 黑客

    Epoch 与 METR 发布长周期编程基准 MirrorCode,Opus 4.7 用 14 小时、花费 $251 完成人类需 2-17 周的任务,25 个目标程序中 17 个曾获满分运行。Anthropic 测试显示,Opus 4.7 自主完成四足机器人任务用时 9 分 35 秒,比此前人类纪录快 20 倍,仅一项任务未完成。

7月16日周四
  1. Hugging Face Blog37

    DharmaOCR 凭巴西葡萄牙语专精训练,在 OCR 基准上击败更新的 Mistral OCR4 与 Unlimited-OCR

    DharmaOCR 在面向葡萄牙语的 OCR 基准上以 0.925 分击败发布更晚的 Mistral OCR4(0.798)和 Unlimited-OCR(0.7587)。该模型经监督微调与 DPO 两阶段训练,全部参数专注巴西葡萄牙语,取得最高提取质量分与最低退化率,证明领域专精优势未被新架构消除。

7月15日周三
7月6日周一
7月1日周三
6月30日周二
6月15日周一
4月1日周三