跳到正文

#评测/基准

今日 0 条
10月10日周六
10月6日周二
  1. Hugging Face Blog57

    TII 发布 Falcon-Emirati-7B:面向阿联酋方言与文化理解的大语言模型

    TII 基于 Falcon-H1-Arabic 的 7B 版本推出方言专用模型 Falcon-Emirati-7B,面向阿联酋阿拉伯语的词汇、语气和文化语境。训练数据结合阿联酋方言网页、关于阿联酋文化的现代标准阿拉伯语材料,以及按词汇表和风格规则约束生成的合成数据,并通过持续预训练、SFT 和偏好优化等阶段实验确定配方。

  2. GitHub Blog · AI & ML62

    GitHub 发布开放 AI 代码审查基准 ReviewBench

    GitHub 发布开放 AI 代码审查离线基准 ReviewBench,研究预览版已上线,可用于比较代码审查智能体并接入自有系统。基准基于 103.9M 个 GitHub pull request 的分布构建,包含 187 个公开仓库中的 219 个 pull request、覆盖 19 种语言,并提供多来源 golden set、严重度和类别标注。

    推荐理由:原文说明了基准语料、标注流程和接入方式,适合用来理解代码审查智能体应如何做可复现评测。

10月4日周日
  1. Hugging Face Blog78

    Microsoft ThinkingBox 登陆 Hugging Face,用数据库状态评测 AI 智能体

    Microsoft 与 Hugging Face 发布 ThinkingBox 智能体沙箱及 ThinkingBox-Bench,基准包含 507 个有状态业务工作流,每个任务运行 20 次,并通过隔离 MCP 工具会话检查最终后端状态与副作用。

    推荐理由:ThinkingBox 用后端最终状态和副作用判定智能体任务成败,并通过 20 次重复运行区分单次能力与稳定可靠性。

9月30日周三
9月29日周二
  1. Claude:Blog(网页)48

    Balyasny Asset Management 如何评估与治理 Claude Fable 5

    Balyasny Asset Management 基于数千个真实金融任务评估 Claude Fable 5,其在相关任务子集上得分 89.4%,高于此前生产模型的 86.1%,并已用于系统化与编码工作。该机构还自建 BAMAgent 平台,支持数千个 AI 智能体全天候运行,并通过数据边界、权限、日志和人工审核控制风险。

9月28日周一
  1. OpenAI News34

    Basis 借助 GPT-6 Astra 以 2 倍速度完成税务工作簿

    Basis 测试显示,GPT-6 Astra 完成含 50 个标签页的复杂税务工作簿耗时比 GPT-5.6 Sol 少 50%,内部评测分数提升约 20%。该模型能按任务难度动态调整推理强度并保留 cache,从而降低成本与响应时间,同时更准确理解会计用户意图、减少纠错和 token 消耗。Basis 通过 OpenAI API 构建面向会计工作的 AI 智能体。

9月25日周五
9月23日周三
  1. OpenAI News72

    OpenAI 发布 MentalHealthBench 开放基准,评估 AI 在心理健康对话中的表现

    OpenAI 发布开放基准 MentalHealthBench,用于评估 AI 系统在真实心理健康对话中的回应质量。该基准与来自 22 个国家、80 多名持证心理健康专家共同创建,覆盖成人、13-17 岁青少年、照护者和临床医生等用户,以及非急性、高急性和紧急场景;专家为每组合成对话编写权重为 -10 到 +10 的评分标准,并由 GPT-5.6 Sol 自动评分。

    推荐理由:该基准把心理健康对话从急症扩展到日常压力等连续场景,并公开专家评分细则,便于研究者复现和横向比较模型表现。

9月22日周二
9月16日周三
9月2日周三
  1. Hugging Face Blog69

    Allen AI 发布 BenchMIRT:用多维 IRT 审计 LLM 基准实际测量的能力

    Allen AI 发布 BenchMIRT,用多维项目反应理论在单个提示词层面审计 LLM 基准,区分题目分数背后的安全和通用推理等能力信号。方法基于 100 个 LLM、16 个基准和超过 34K 个问题的结果训练,在未标注基准目标的情况下恢复出安全与通用推理两个主导维度。

    推荐理由:方法把基准拆到单题层面分析,适合用来理解总分背后安全与推理等能力信号的混合方式。

8月28日周五
8月27日周四
  1. Google DeepMind52

    Google DeepMind 试点专有前沿 AI 模型双盲评测

    Google DeepMind 宣布试点面向专有前沿级 AI 模型的双盲评测,将外部评测限制在密码学保护的环境中,避免模型提前利用测试内容优化表现。该项目与 Singapore AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境中用保密基准测试一款 Gemini Flash Lite 模型,以提升评测完整性。

8月26日周三
  1. Fireworks AI(网页)64

    Fireworks AI 评测 DeepSeek V4 Pro 0813:CyberGym 安全任务零拒绝且成功成本更低

    Fireworks AI 使用 CyberGym 评测 DeepSeek V4 Pro 0813、Kimi K3、GPT-5.5 和 Claude Opus 4.8 的安全智能体表现,任务要求模型在真实代码库中定位、触发并修复漏洞。

    推荐理由:文章用 CyberGym 的真实漏洞任务对比多款模型的成功率与单次成功成本,可为安全智能体选型提供成本和拦截率参考。

8月25日周二
8月21日周五
  1. Hugging Face Blog67

    Hugging Face 研究提出三类测试,量化语音识别模型的基准优化现象

    Hugging Face 发布研究,用参考文本分歧、遮蔽实体检索和拼写切换三类探针测试 11 个开源 ASR 模型,发现部分高分模型会复现 VoxPopuli 和 LibriSpeech 参考转录中的错误或缺失内容。

    推荐理由:研究用三类探针把语音识别模型迎合公开基准的行为量化出来,为选型时超越单一 WER 和使用留出集提供依据。

7月16日周四
  1. Hugging Face Blog37

    DharmaOCR 凭巴西葡萄牙语专精训练,在 OCR 基准上击败更新的 Mistral OCR4 与 Unlimited-OCR

    DharmaOCR 在面向葡萄牙语的 OCR 基准上以 0.925 分击败发布更晚的 Mistral OCR4(0.798)和 Unlimited-OCR(0.7587)。该模型经监督微调与 DPO 两阶段训练,全部参数专注巴西葡萄牙语,取得最高提取质量分与最低退化率,证明领域专精优势未被新架构消除。

7月15日周三
7月1日周三
6月30日周二
4月1日周三