跳到正文

#数据/训练

今日 20 条
10月2日周五
  1. IT之家（RSS）62

    谷歌 Tensor 试验卫星搭乘 SpaceX 火箭升空，白皮书测算太空数据中心需星舰发射约 1800 次

    谷歌的在轨计算原型卫星当地时间 1 日搭乘 SpaceX 火箭升空，启动“太阳捕手”项目，验证 Tensor 处理器在太空运行模型时的供电、散热和稳定性。卫星由 Planet Labs 制造，调试后处理器每次运行 15 分钟；谷歌设想未来由 81 颗卫星紧密编队并行处理任务。

  4. Hacker News：AI 热帖62

    为什么巨型 AI 并不总会过拟合：从双重下降到泛化检验

    一篇科普解读解释了高容量 AI 模型能够记忆训练数据却仍可泛化的原因，核心在于数据结构、隐式正则化、训练时长和优化偏好共同影响拟合方向。文章梳理 ICLR 2017 随机标签实验、双重下降、良性过拟合、最小范数解和早停，并强调这些线性理论不能直接套用到所有深度模型。文末给出去重、按主体或时间切分、保留最终测试集、测试使用而非回忆、对比基线和检查部署分布等实践建议。

  7. elvis55

    webAI 发布开源模型 TwIL-LM3-Pro，参数为 3.6B，提供量化版本，可在日常电脑本地运行且无需云端。转发者称其 BIG-Bench Hard 逻辑子集得分为 95.4%，高于 Qwen3-8B 的 63.7%；训练流程包括形式逻辑微调、将权重向基础模型合并，再用程序化验证器运行 RL。webAI 还表示后续将推出端侧前沿级模型系列 Meridian。

    引用David Stout@Davidstout

    Half a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸

  12. Hacker News：AI 热帖63

    Fulcrum 发布风格模仿写作模型 Echo

    Fulcrum 发布写作模型 Echo，主打模仿特定作者或写作风格，并称其在小说到技术解释等写作任务上超过前沿模型，训练成本低于 $5K。Echo 基于 Kimi K3 训练，方法包括用合成大纲增强 SFT，以及基于作者专家模型似然比的 token-level RL；官网可免费试用，模型计划近期开源。

  17. Rohan Paul56

    Overmind 推出面向智能体的训练平台，可记录生产环境中的智能体行为、生成训练数据，并微调和部署开放权重模型。客户可下载权重、重新训练或回滚，平台代码以 AGPL-3.0 开源。

    引用Overmind@OvermindLab

    Introducing Overmind. The training platform for agents. Overmind trained models across biomedical, legal, and engineering tasks beating the frontier and achieving: • 7x better accuracy • 20x cheaper usage • 28x less hallucinations Train your own: https://github.com/overmind-core/overmind

10月1日周四
  2. Hacker News：AI 热帖43

    开放式数据为何是 AI 系统处理真实知识工作的瓶颈

    处理真实知识工作的 AI 智能体面临开放式数据瓶颈，现有训练轨迹多为结构化单目标任务，缺少交织任务、中断恢复与环境变化等真实信号。Opus 5.5 与 GPT-6 Astra 在 OSWorld 2.0 分别取得 72.6% 和 81.8%，但这些任务仍比真实部署环境简单。计算机使用数据需记录无脚本、多线程的真实工作流程，才能支持智能体在复杂开放环境中自主行动。

  6. The Decoder81

    OpenAI 称已阻断模型推理窃取行动，但研究人员在 Azure 上仍能复现攻击

    OpenAI 称其发现并关停了一个试图通过加密推理内容迁移和解密来蒸馏模型能力的账号网络，7 月 24 日至 25 日相关请求达到 16,000 次，涉及超过 4,000 名用户和超过 15,000 个关联账号。

    推荐理由：文章把 OpenAI 的封禁措施与研究人员在 Azure 上复现攻击的结果对照，呈现同一模型在不同托管平台防护不一致的问题。

  7. IT之家（RSS）77

    OpenAI 称遭遇有组织蒸馏活动，并认为核心群体与月之暗面有关

    OpenAI 于当地时间 9 月 30 日发文称，其在 7 月遭遇具有对抗式蒸馏特征的有组织活动，超过 4000 名用户曾在 7 月 24 日至 25 日发起 1.6 万次请求，后续发现超 1.5 万名用户存在类似提示词活动，相关活动已于 7 月 28 日被阻止。

    推荐理由：文章整理了 OpenAI 对异常请求规模、时间线和防御措施的说法，可帮助理解模型蒸馏争议中的证据边界。

  9. Rohan Paul63

    Rohan Paul 称 SpaceX 到 11 月底有望达到约 2.3 GW 算力，基础是 2Q26 末的 1.4 GW。Musk 在被引用内容中表示，Colossus 1 拥有 150k H100、50k H200 和 30k GB200，Colossus 2 拥有 110k GB200 和 440k GB300；本周和 11 月各有 220k GB300 上线，每批约 440 MW，两批合计增加近 0.9 GW。

    引用Elon Musk@elonmusk

    @minchoi Colossus 1 is 150k H100, 50k H200 and 30k GB200. Colossus 2 is 110k GB200 and 440k GB300. Another 220k GB300 will be fully operational next week and another 220k in November. If we get lucky, yet another 220k GB300 by late December.

  10. IT之家（RSS）71

    腾讯被曝向甲骨文租赁东南亚数据中心约10万块先进AI芯片，交易估值约70亿美元

    腾讯被曝已与甲骨文签署五年期租赁协议，租用东南亚多个甲骨文数据中心约10万块先进AI芯片，交易估值约70亿美元、首付约30%。腾讯和甲骨文均未回应置评请求，腾讯计划将相关算力用于AI模型和智能体工具开发。报道还称此类安排在美国规则下被允许，腾讯第二季度资本支出同比增长176%至530亿元人民币。

  12. Hacker News：AI 热帖62

    文章提出 Natural General Intelligence：学习地球状态与动态的自然基础模型

    作者提出 Natural General Intelligence 框架，主张构建直接学习地球真实状态与动态的自然基础模型，用于预测干预后的地球响应并持续更新。文章梳理了地球观测系统、天气数据同化流程，以及直接观测、保留原始分辨率、遵守物理约束、发现跨系统耦合和主动获取新观测等设计原则。

  14. Hacker News：AI 热帖57

    Drift 用 8 个问题解释心智与 AI 的工作方式

    Drift 发布一篇 17:18 的影片与阅读伴读，围绕记忆、注意力、大脑能耗、持续学习、梦境、科学发现、AI 迎合判断和默会知识 8 个问题展开。文章引用 2026 年预印本和较早研究，说明事件边界、奖励学习、灾难性遗忘、符号回归和 sycophancy 等机制，同时强调类比不是证据。每个问题配有可尝试的方法，例如设置停止信号、要求模型先评估证据并给出反方论证，以及用好坏示例教授难以描述的技能。

  15. IT之家（RSS）76

    Reddit 将关停 RSS 订阅并于 2027 年 3 月终止公共 API 访问

    Reddit 宣布将从 11 月 13 日起停止支持 RSS 订阅源，并于 2027 年 3 月正式关闭公共 API，以应对大规模数据爬取与自动化滥用。依赖公共 API 的舆情监测、研究工具和 AI 产品后续需签署商业合作协议；已获许可的第三方应用和机器人须在 2027 年 1 月 12 日前完成注册。

    推荐理由：文章梳理了 Reddit 关停 RSS 与公共 API 的时间表和迁移要求，可帮助依赖其数据的开发者评估接入调整。

  16. Hacker News：AI 热帖68

    AI 背后的物理堆栈：从电网、数据中心到 GPU 集群与算力经济

    一篇交互式解读梳理 AI 算力的物理堆栈，按电网与电力、数据中心设施、芯片、机架、集群、虚拟机、工作负载和经济回报八层展开。文章强调签约、许可、通电和可供服务器使用的电力处于不同阶段，并以 PUE、IT MW、tokens、GPU:CPU 比例、H100e 和 accelerator-hour 等指标区分容量与产出。

  19. Rohan Paul57

    webAI 发布开源模型 TwIL-LM3-Pro，参数规模约 3.6B，提供可在本地电脑运行的量化版本，无需云端。webAI 称其形式逻辑得分比 VibeThinker-3B 高 35%、比 Qwen3.5-4B 高 24%、比 LFM2.5-8B-A1B 高 47%，并在 SVAMP 和 MuSR 上分别取得 95% 和 64.1%。

    引用David Stout@Davidstout

    Half a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸