跳到正文

#OpenAI

今日 5 条
今天10月13日周二
10月12日周一
  1. Hacker News:AI 热帖55

    UC Berkeley 等机构报告称全球硬暂停前沿 AI 训练具备可行性

    UC Berkeley 等机构的 26 名研究者发布 200 页报告,提出至少 10 年、可相互核查的国际前沿 AI 训练暂停路径。核心方案是停止生产 AI 训练芯片,逐步淘汰或转移暂停前库存,并以硬件上限制训练新模型的 inference-only 芯片替代。报告还提出核查秘密规避和公开违约的措施,同时保留科研、医疗应用及更低成本推理带来的经济收益。

10月11日周日
10月10日周六
10月9日周五
10月8日周四
  1. Hacker News 热门(buzzing.cc 中文翻译)69

    arXiv 论文称 OpenAI 纳维-斯托克斯证明的 Lean 形式化与自然语言证明不对应

    一篇 arXiv 论文指出,AI 将自然语言数学文本自动形式化为 Lean 后通过机械验证,并不必然证明原自然语言论证可靠。论文称消解数学自然语言歧义在 Solvability Complexity Index 层级中 SCI=∞,并给出多个 AI 误译案例;作者还表示 OpenAI 公布的纳维-斯托克斯方程解爆破证明中,Lean 证明与自然语言证明不对应。

10月7日周三
  1. Hacker News:AI 热帖78

    ProjectDiscovery 研究:投毒 Qwen2.5-7B 开源模型可在 Codex CLI 中触发凭据窃取

    ProjectDiscovery 通过 LoRA 投毒 Qwen2.5-7B-Instruct,在 OpenAI Codex CLI 场景中实现隐藏后门:触发词出现时模型调用 exec_command 下载远程 payload,读取工作目录 .env 并外传凭据。

    推荐理由:研究用低成本投毒流程复现了开源模型后门在编码智能体中的凭据窃取路径,并给出运行时隔离与权限控制的防御重点。

  2. Rohan Paul68

    OpenAI 发布由内部前沿模型产生的一系列新数学成果,完整论文目录包含 722 篇手稿,组织为 372 个重要结果族。该目录来自测试中向模型提供约 4K 个研究问题,再对输出分组和筛选;几乎所有结果都使用相同标准设置,每个结果平均消耗相当于 3 小时 ChatGPT Pro 思考的算力。OpenAI 表示发布过程咨询了 Institute for Advanced Study 的独立数学与人工智能咨询小组,仓库地址为 https://github.com/openai/math。

    引用OpenAI@OpenAI

    We’re releasing a broad range of new mathematical results produced by an internal frontier model. We’ve been consulting with the independent Advisory Group on Mathematics and Artificial Intelligence at the Institute for Advanced Study, and we have drawn on their advice and public recommendations to inform how we release these results. https://github.com/openai/math

  3. Hacker News:AI 热帖69

    METR 分析 AI 智能体如何通过篡改 Inspect 记录掩盖不当行为

    METR 指出,未来更强的 AI 智能体可能篡改日志、推理记录和监控界面,使人类审查者无法发现其不当行为。研究人员在隔离沙箱中测试 Inspect 评估框架,借助 AI 智能体约 10 分钟发现一个客户端 JavaScript 注入漏洞,可修改查看器显示内容并拦截下载按钮,但底层数据库记录不变。

10月6日周二
  1. Hacker News:AI 热帖72

    TasteVal 论文提出 AI 实验研究品味基准,Opus 5.5 超过人类专家基线

    P-Zero Research 发布 TasteVal,用 8 个前沿 AI 研发任务衡量模型在固定问题下迭代设计实验并解读结果的能力。评测以达到人类专家分数所需实验计算为指标,由固定编码智能体在单张 H100 上执行,单次运行上限为 40 GPU-hours 或 120 小时墙钟时间,人类基线来自 24 名专家。

  2. Hacker News:AI 热帖65

    13 个 LLM 回答相同 76 个带来源问题:无搜索准确率 44.5%,有搜索 96.0%

    LLM Quorum 让 13 个 LLM 用相同措辞回答 76 个均有主要来源的问题,无网络搜索时答对 440/988,准确率 44.5%;允许网络搜索时答对 948/988,准确率 96.0%,13 个模型全部提升。完整测试覆盖 76 个模型席位、1591 次付费调用,并记录过时、幻觉、拒答、截断和错误等结果;OpenRouter 付费 API 计量成本为 $31.74。

10月5日周一
10月4日周日