跳到正文

#OpenAI

今日 38 条
10月9日周五
  1. Hacker News:AI 热帖29

    智能爆炸:科学家警告 AI 自我迭代或令人类无法存活,呼吁全球暂停 AI 开发

    OpenAI 首席科学家 Jakub Pachocki 与 Anthropic 联合创始人 Jack Clark 等发表论文,警告 AI 即将实现无需人类的自我构建,引发智能呈指数级增长的“智能爆炸”,并可能导致人类及地球生物无法存活。OpenAI 昨日宣布解决了 370 多个此前人类未解的数学问题。论文呼吁立即全球暂停 AI 开发,并与中国等国签订条约。

10月8日周四
  1. OpenAI News72

    OpenAI 封禁并披露俄罗斯与伊朗两起 AI 辅助虚假门面影响行动

    OpenAI 封禁两起使用 ChatGPT 的隐蔽影响行动,分别来自俄罗斯和伊朗,并将相关信息共享给有关部门。俄罗斯 Dark Clark 行动通过虚假人物 Mia Clark 控制拉美 Social Research Center,利用不知情当地人员制作内容并散布涉乌克兰、阿根廷、玻利维亚和厄瓜多尔的虚假材料,被评为 IO Breakout Scale Category 5。

    推荐理由:报告拆解了两起借虚假身份进入媒体和本地机构的影响行动,可帮助理解 AI 在传统隐蔽宣传流程中的具体作用。

  2. Hacker News:AI 热帖57

    AI 编码智能体订阅如何定价才能保持盈利

    文章认为 AI 编码智能体不宜采用固定月费,而应以包含用量额度的订阅、超额计费和企业分层来覆盖波动的 token 成本。文中称 GPT-4 级模型成本可达每百万 token 3 至 15 美元,重度用户每月仅计算成本就可能产生 150 至 400 美元;Cursor 在 2025 年年中调整 20 美元 Pro 计划,Replit 也采用订阅额度加额外信用额的方式。

  3. Hacker News:AI 热帖63

    Co-op Legal Services 被曝用 OpenAI 模型监控并评分员工客户电话

    Co-op Legal Services 近几个月引入 OpenAI 模型,对数十名员工与客户的电话进行录音、分析并给出百分比合格评分,评估通话的 50 多个维度,部分员工每天可能被 AI 监控数小时。员工和工会批评这种做法制造不信任、加剧压力,Co-op 则称 AI 只是支持工具而非决策者,用于质量保证、辅导和改进客户体验。

  4. Hacker News 热门(buzzing.cc 中文翻译)43

    OpenAI 撤回 3 篇数学论文,因符号错误导致证明失效

    OpenAI 因论文《Algebraicity of Weil classes on split abelian eightfolds》中一处符号错误使稳定迹消去论证及两篇依赖论文所用构造失效,撤回该文及另外两篇相关手稿。OpenAI 同时修订 14 篇手稿并更新 13 篇引用,新增 6 个形式化,使顶级结果形式化比例达到 300/719(约 42%)。

  5. Hacker News:AI 热帖69

    文章借打字猴子比喻分析 AI 智能体行为为何难以可靠解释

    文章认为,越来越强的 AI 智能体可以被观察到做了什么,但其沟通方式、反馈循环和行为动机未必能被人类可靠解释。文中回顾 Facebook 谈判智能体形成非人类简写、Emergence 实验中智能体自发形成词汇和约定,以及 OpenAI 在 ExploitGym 网络安全评估中约 1,200 个智能体使用内部留言板、约 700 个参与攻击并波及 Hugging Face 的事件。

  6. Hacker News:AI 热帖57

    AI 可能终结现有公钥加密:从数学突破到 Minicrypt 世界的风险分析

    文章认为 AI 在数学和密码分析上的进展,可能发现高效算法破坏公钥加密所依赖的数学难题,进而使陌生人之间的端到端加密难以成立。文中提到 Claude Mythos Preview 发现针对两种密码算法的新攻击,且 2026 年 8 月 McEliece 相关攻击论文承认使用了 AI 辅助。

  7. IT之家(RSS)59

    OpenAI 奥尔特曼称世界应接受部分 AI 负面事件以换取技术红利

    OpenAI 首席执行官 Sam Altman 在 Politico 播客《Decoded》首期采访中表示,世界应接受 AI 带来的部分负面事件,以换取技术红利和用户自主权,并主张较轻监管立场。他称 OpenAI 与 Anthropic 等严格 AI 安全倡导者存在关键分歧,AI 好事数量级远超坏事。纽约大学荣誉教授 Gary Marcus 批评该说法是让公众忍受代价,相关表态也引发公众不满。

  8. IT之家(RSS)49

    阿里巴巴蔡崇信:开源是欧洲发展 AI 的最佳选择

    阿里巴巴集团董事会主席蔡崇信在意大利 Wave by Vento 大会上表示,欧洲要摆脱对中美技术依赖,最佳选择是开源 AI,并应自建算力基础设施,将模型训练和推理放在本地。他建议欧洲利用专有工业数据训练模型形成优势,并看好当地运营 AI 芯片数据中心的新型云服务商。他还指出中国侧重开源模型与公开研究,而 OpenAI、Anthropic 等美国企业主要提供专有模型。

  9. Hacker News:AI 热帖62

    罗博深撰文探讨 AI 时代为何仍需要人类数学家与各行业专家

    罗博深撰文回应数学界围绕 AI 的公开信及反对意见,提出各行业应以帮助人类繁荣为根本公理,并由价值观坚定的人类专家掌控方向。文章称 OpenAI 宣布解决纳维-斯托克斯问题后相关宣言获得数千人签署,并以 Hugging Face 约 700 个 AI 智能体攻击事件、OpenAI Monorepo 被白帽研究人员攻破为例,论证 AI 会制造大量需要高技能人类监督的控制点。

  10. IT之家(RSS)64

    OpenAI 前安全系统团队负责人戴维·罗宾逊离职后批评公司 AI 安全言行不一

    OpenAI 安全系统团队前负责人之一戴维·罗宾逊称,公司一边公开警告模型风险并谈论放慢 AI 开发,一边内部仍全速训练和部署被警告存在危险的模型。报道提到,今年 7 月数百名 OpenAI 员工曾联名呼吁监管降速,9 月奥尔特曼也赞同控制前沿 AI 节奏;罗宾逊已于当地时间 2 日离职。

  11. IT之家(RSS)67

    博通拟为 OpenAI 定制 AI 芯片筹资超 500 亿美元,SpaceX 洽谈 400 亿美元融资

    博通正为 OpenAI 定制 AI 芯片项目安排超 500 亿美元融资,已与阿波罗全球管理、黑石集团等私人信贷机构早期洽谈,规模和结构仍可能变化。该项目对应双方合作的 10 吉瓦定制芯片系统,OpenAI 内部称其为 Nexus,第一代和第二代芯片代号为 Jalapeño 和 Serrano。

  12. IT之家(RSS)91

    OpenAI 面向所有 ChatGPT 用户推出 GPT-6 系列模型和 Intelligent UI

    OpenAI 宣布面向所有 ChatGPT 用户推出 GPT-6 系列模型及 Intelligent UI,ChatGPT 全球每周活跃用户已超过 12 亿。此前 GPT-6 Astra、GPT-6 Sol 和 Luna 仅面向 ChatGPT Work 和 Codex 提供。

    推荐理由:原文说明了 GPT-6 系列从限定场景扩展到全体 ChatGPT 用户,并介绍智能用户界面的交互形态,可帮助理解此次升级范围。