跳到正文

#评测/基准

今日 10 条
10月2日周五
  1. 公众号:小林coding72

    GPT-6.1 Sol 实测:编码与多模态生成效果逼近 GPT-6 Astra

    小林coding 实测新上线的 GPT-6.1 Sol,认为其在 DeepSWE v1.1 软件工程测试和多项生成场景中已接近 GPT-6 Astra。GPT-6.1 Sol 每百万 token 常规输入价格为 2 美元、输出为 10 美元,缓存输入为 0.1 美元;作者用 SVG、3D 建模、动效、视频、游戏和 Web 网页测试,称其整体可替代 GPT-6 Sol 作为日常主力。

10月1日周四
  1. Hacker News:AI 热帖53

    AICostBudget 发布 2026 年 9 月 AI API 定价指数

    AICostBudget 发布 2026 年 9 月 AI API 定价指数,截至 2026-09-29 覆盖 11 家服务商的 80 条公开定价记录。样本包含 67 条 token 定价记录、57 条缓存输入记录和 690 个结构化收费项;输入价格中位数为每 1M tokens $1.285,输出价格中位数为 $5.5,输出与输入价格比中位数为 5.0×。

9月30日周三
  1. The Decoder82

    Anthropic 称智谱开放权重 GLM-5.3 的漏洞利用能力接近 Claude Mythos Preview

    Anthropic 测试显示,开放权重的 GLM-5.3 在自动化漏洞利用开发上接近受限开放的 Claude Mythos Preview:ExploitBench 中 410 次尝试有 50 次生成可用 exploit,Mythos Preview 为 56 次;OSS-Fuzz 二进制利用任务中完全控制目标程序的比例分别为 4% 和 6%。

    推荐理由:文章把 Anthropic 与 CAISI 的漏洞利用测试、防护绕过成本和开放权重风险放在一起,便于理解前沿网络攻击能力的扩散速度。

  2. Hacker News:AI 热帖51

    Codex GPT-6 Sol 性能追踪页正在收集新基线

    MARGIN EVALS 的 Codex GPT-6 Sol 性能追踪页正从 2026 年 9 月 24 日起的运行中收集新的 GPT-6 Sol/high 基线,退化检测已暂停。页面每日在精选 SWE-Bench-Pro 子集上直接通过 Codex CLI 测试 GPT-6 Sol,不使用自定义智能体框架;当前通过率为 54%,过去 7 天为 59%,过去 30 天为 79%。

  3. Hacker News:AI 热帖45

    Pluralis:迈向面向 AI 风险的多文化、多模态、多语言评测基准

    研究团队推出 Pluralis v0.1,这是一个以文化优先视角构建的多模态、多地区、多语言 AI 风险数据集。该数据集覆盖 6 个亚太国家、8 种语言和 6,448 条 prompts,并配套 Judge-Pluralis 评测方法。测试显示,视觉语言模型存在图像误识别、忽略物品—情境—地域交互及拒绝不当等本地化失败模式。

  4. Hacker News:AI 热帖25

    GPT-6.1 Sol (Max) 智能、性能与价格分析

    该分析围绕 GPT-6.1 Sol (Max) 的智能、性能与价格展开,评估维度包含更新后的能力指数、智能指数对比、token 使用成本、上下文窗口,以及按每秒输出 token 计的速度。性能指标还涵盖首 token 延迟,并依据首 token 时间、推理模型思考时间和输出速度计算输出 500 token 的端到端响应时间。

  5. Hacker News:AI 热帖84

    CodeRabbit 评测 Claude Sonnet 5.5 代码审查:捕获更多问题且耗时约减半

    CodeRabbit 使用代码审查流水线实测 Claude Sonnet 5.5,在 13 个高难度已知缺陷案例中捕获 6/13,Sonnet 5 为 4/13, actionable precision 分别为 41.2% 和 40.0%,平均审查耗时 5:27 对 9:55。

    推荐理由:文章用同一代码审查流水线对比 Sonnet 5.5、Sonnet 5 与 Opus 5.5,并给出延迟、成本和漏检差异,可帮助团队选择日常 PR 审查模型。

9月29日周二
  1. Claude:Blog(网页)48

    Balyasny Asset Management 如何评估与治理 Claude Fable 5

    Balyasny Asset Management 基于数千个真实金融任务评估 Claude Fable 5,其在相关任务子集上得分 89.4%,高于此前生产模型的 86.1%,并已用于系统化与编码工作。该机构还自建 BAMAgent 平台,支持数千个 AI 智能体全天候运行,并通过数据边界、权限、日志和人工审核控制风险。

  2. Yuchen Jin41

    我们 @databricks 目前在 NVIDIA 的 SOL-ExecBench kernel 排行榜上排名第一,覆盖全部 4 个赛道。 我们把 GPT-6 Astra 和 Opus 5 放进一个自我爬坡(self-hillclimbing)循环中,这些智能体击败了顶尖的 GPU kernel 工程师。 总 token 花费:约 $70K,远低于 kernel 工程师的薪酬。 一个体会:在编写 GPU kernel 方面,GPT-6 Astra 和 Opus 5 仍然比 OSS 模型强得多。