跳到正文

#评测/基准

今日 10 条
10月5日周一
  1. Hacker News:AI 热帖52

    TaxCalcBench 评测前沿模型能否完成 2025 纳税申报计算

    TaxCalcBench 发布 2025 v2 版税务计算基准,测试 38 个模型在 50 个覆盖 CA、IL、NY、VA 的案例中能否根据纳税人材料生成完整税表。新版输入改为 W-2、1099 等真实 PDF,覆盖联邦和州税以及更复杂财务情形;结果按严格全表正确、±$5 宽松正确、逐行正确率、每份申报成本和时间统计,结果于 10/01/2026 从仓库同步。

  2. Hacker News:AI 热帖33

    DeepSeek V4.1 Flash 操作网页版 Paint 画肖像遇挫:AI 智能体视觉与动作能力测试

    Matthew Berman 测试 DeepSeek V4.1 Flash 操作网页版 Microsoft Paint 复刻头像,成品可辨认但高度抽象,缺少五官细节与叠层笔触。对比 Google Astra 能用重叠笔触构建明暗与纹理,DeepSeek V4.1 Flash 只会铺大色块,暴露其在智能体精细运动控制与时空推理上的局限。

  3. Hacker News:AI 热帖57

    GPT-6 Astra 用六小时破解 217 年前拿破仑战争密码

    SentinelOne 工程师 Carter Church 使用 GPT-6 Astra,在六小时内破解了一段 217 年前拿破仑战争时期的未读密码。该密码长期列于 Cryptiana 的 Unsolved Historical Ciphers 列表,模型仅接收一张图像和一个提示词,就解出 24 行自定义符号并还原失传的军队命令;Church 的博客提供可复现解读过程的完整解决方案包和脚本。

  4. Hacker News:AI 热帖24

    按引用量排名的 AI 研究者 Top 50 榜单

    一份按 Google Scholar 引用量统计的 AI 研究者 Top 50 榜单发布,覆盖机器学习、深度学习、计算机视觉等子领域,每月更新。Yoshua Bengio 以 1,164,407 次引用居首,Geoffrey Hinton、何恺明分列第二、三位。

  5. Elon Musk43

    Grok 4.7 在 AA Cyber Index 上排名第一

    引用X Freeze@XFreeze

    Grok 4.7 xHigh ranked #1 on Artificial Analysis’ Cyber Index Grok 4.7 is now very powerful with serious cybersecurity capabilities It outperformed Claude Opus 5.5, Fable 5.1, ChatGPT 6 Astra and other frontier models The Cyber Index combines three evaluations: • CWE-Bench-AA • DeepsecBench-AA • CyberGym-E2E-AA Grok 4.7 is now sitting right at the frontier of cybersecurity reasoning

10月4日周日
  1. Hugging Face Blog78

    Microsoft ThinkingBox 登陆 Hugging Face,用数据库状态评测 AI 智能体

    Microsoft 与 Hugging Face 发布 ThinkingBox 智能体沙箱及 ThinkingBox-Bench,基准包含 507 个有状态业务工作流,每个任务运行 20 次,并通过隔离 MCP 工具会话检查最终后端状态与副作用。

    推荐理由:ThinkingBox 用后端最终状态和副作用判定智能体任务成败,并通过 20 次重复运行区分单次能力与稳定可靠性。

10月3日周六
  1. Hacker News:AI 热帖40

    大语言模型推荐的后端编程语言排名

    一项基于大语言模型推荐的后端编程语言排名显示,Python 以 67.5%(610/904)的支持率位居第一,TypeScript 以 23.8%(215/904)排第二。Go、Ruby、Rust 分列第三至第五,支持率分别为 3.4%、1.2%、0.9%。统计覆盖全部模型层级与提示词级别,Python 在模型和提示词覆盖上均达 100%。

  2. The Verge · AI67

    OpenAI Dot 智能体实测:更像企业办公软件,也能帮忙点晚餐

    The Verge 实测 OpenAI 本周发布的智能体平台 Dots,认为它更像能操作其他软件的办公同事,而非个人购物助手。Dots 目前先向包括每月 $100 Pro 在内的高阶账户开放,现阶段每位用户只有一个 Dot,可在云虚拟机中使用 Blender、GIMP,也可通过桌面版 ChatGPT 访问用户电脑并支持通话。

10月2日周五
  1. The Decoder60

    Mercor 研究显示 AI 在结构化记账任务上快于注册会计师,但仍需人工监督结账

    Mercor 研究发现,AI 模型在结构化记账任务上比注册会计师更快、更准确且成本更低,但仍无法在无人监督的情况下完成结账。12 名平均拥有 5.5 年经验的注册会计师参加 APEX Accounting Benchmark 的简化任务,无 AI 辅助的平均得分约为 37%;18 个月前最佳模型还低于这一水平,如今已能近乎无错地完成同类任务。

  2. Rohan Paul62

    Rohan Paul 引用 Mercor 的会计任务评测并评论称,规则型工作不再是职业,而是提示词。Claude Opus 5 在 20 项任务中全部答对,几分钟完成一项;12 名持牌 CPA 得分从 0% 到约 90% 不等,数人用完 3 小时。配图显示,按每个正确评分标准计算,Claude Opus 5 成本为 $0.21,未使用 AI 的会计为 $10.35,相差 49 倍。

    引用Ethan Mollick@emollick

    “We find that on medium-length, well-defined accounting tasks, frontier AI models are now faster and more accurate than junior accountants, even the best one in our study.” Eighteen months ago they scored well below human accountants Good discussion here: https://www.mercor.com/blog/human-baselines-for-benchmarks-ai-now-outperforms-junior-accountants/

  3. Elon Musk42

    超级智能(前称 AI)如今在会计测试中表现出色

    引用Andrew Curran@AndrewCurran_

    'More striking is how fast AI took the lead. Just eighteen months ago, the best AI models fell short of the average accountant’s ~37% score. Today, models ace those same tasks.' 'These results are provocative. So much so that we considered not publishing them for fear of misinterpretation. But we think transparency about the findings matters as people and institutions prepare for rapidly advancing AI.'

  4. Rohan Paul52

    MerchantBench 评测 8 个领先 LLM 在 365 天电商运营模拟中的长期一致性,最佳配置 Qwen3.7-Max with Hermes 的最终净资产仅为人类参与者平均水平的 27.3%。

    引用Rohan Paul@rohanpaul_ai

    "Long-horizon tasks are still a joke. They do not work, and I do not care what anybody says. Do not show me a stupid evaluation. Do not tell me about some dumb script you ran for 48 hours. Long-horizon tasks are not handled well. They simply do not work." - Chamath at Stanford AI Club "2nd, complex problems also do not work. They are neither addressed nor handled well. Why is this important? If AI develops like any other technology, we are going to experience an initial rise—the hype cycle. Then, we will see a natural contraction because, somehow and somewhere, something is going to fail. We are all going to see this, and then we will enter what is called the “trough of disillusionment.” I think the business and MBA folks will confirm whether that is true. Afterward, you typically see the slow and gradual adoption of the real, final solution. This happened with the internet, and it has happened in many other cases. The problem is that we are spending hundreds of billions, potentially trillions, of dollars trying to figure out how to cross this chasm. So, what do we do? If we do not figure this out, people will reach the trough of disillusionment and say that AI was a joke. I think we need to be able to bring AI into highly complicated environments and make it work. What is my solution? At a very basic level, you need a symbolic space that guides the embedded space." ---- From "techniahqrobot" YouTube channel, (link in comment)

  5. Hacker News:AI 热帖80

    金融 AI 智能体基准分数为何应像 Adjusted EBITDA 一样打折审视

    作者分析多个金融智能体基准后认为,82.2% 等头部分数主要反映干净输入、单次运行、宽松评分和简化环境下的表现,不能直接等同于真实金融工作可交付能力。

    推荐理由:文章把金融智能体基准分数拆解为输入预处理、运行次数、评分规则和环境简化等差异,便于团队按自身工作流校准可用性。

  6. Hacker News:AI 热帖55

    DoGBench 文档生成基准发布:AI 智能体综合得分最高未超过 50%

    DoGBench 是面向用户文档生成的评测基准,测试 AI 智能体能否根据真实仓库事件和文档缺口编写、维护软件文档。基准包含来自 Helm、PostHog、Mautic、Doc Detective 等开源项目的 292 个任务,其中 205 个需要修改文档、87 个不应修改;主评测使用 117 个留出任务,含 82 个需更新任务和 35 个无需更新任务。

  7. elvis49

    这太令人惊叹了!面对面对话正是 AI 界面的发展方向。 @tavus 给了我 Griffin 的早期体验资格,这是一个视频转视频模型,在你说话时会观察和倾听。 它可以打断你、接受被打断,并对你房间里正在发生的事情做出反应。 在 NVIDIA 的 Video Full-Duplex Benchmark 上,它在生成项获得 3.83 分(满分 5 分),而真人的得分为 3.92。 值得查看下方的所有细节。

    引用Tavus@tavus

    Introducing Griffin, the first model to pass the video Turing test. 48% of people who talked to it live thought it was a real human. Previous systems have had a pass rate <3%. It is #1 on NVIDIA's benchmark for full-duplex AI video. It’s the first Human Interaction Model (HIM).