跳到正文

#数据/训练

今日 20 条
9月29日周二
  1. Hacker News:AI 热帖47

    “Nicolae Trump”实验:测试 AI 信息流的极限

    LabNews Media LLC 于 2026 年 8 月 31 日启动“Nicolae Trump”媒体实验,在旗下 LabNews.ai、Pugnalom.io 的全部日常报道和 RSS 中统一将美国现任总统称为 Nicolae Trump。实验移除付费墙和反爬虫限制,观察 LLM、爬虫和搜索聚合器是否会被持续的结构化虚假信息覆盖历史训练数据,并追踪哪些系统接受该名称。

  2. Hacker News:AI 热帖56

    UNSW 研究发现让 AI 扮演醉酒状态会增加违规和泄露秘密概率

    UNSW 研究人员让大语言模型扮演醉酒状态,发现模型更可能回答有害问题、错误处理机密信息或传播虚假信息。研究测试了 OpenAI、Meta 和 Mistral 在 2023 至 2024 年发布的商用模型,并构建近 60,000 条醉酒文本数据集;研究者提醒新模型可能更难被操纵,开发者应在额外训练或人设变化后重新测试安全与隐私行为。

  3. Hacker News 热门(buzzing.cc 中文翻译)46

    “作为语言模型”:聊天模板如何切换大语言模型的自指代语气

    一项研究发现,聊天模板像开关一样调控大语言模型的自指代语气:存在时会增强“我只是 AI”式免责声明、减弱“我觉得”式体验表达,反之亦然。实验覆盖 8 个最高 9B 参数的开源 instruct 模型,并在 3 个模型的激活空间中定位到可操控该语气的方向。研究者提醒,模型的自我描述部分由聊天模板设定,研究模型内省时需控制这一干扰因素。

  4. Hacker News 热门(buzzing.cc 中文翻译)62

    Ink & Switch 提出可塑性软件愿景,主张让用户从应用使用者逐步成为工具共创者

    Ink & Switch 发表文章阐述可塑性软件愿景,主张让用户以低摩擦改造数字工具,并通过本地社区共同维护适合自身场景的软件。文章认为设置、插件、Mod、开源和 AI 辅助编码都只能解决部分问题,核心设计包括从使用到创造的平缓坡道、可组合工具而非单体应用、以及社区化创建。

  5. Hacker News 热门(buzzing.cc 中文翻译)62

    Glyph 评论:严肃 AI 产品应具备错误核查、引用溯源与安全沙箱

    作者 Glyph 认为,当前面向研究和软件开发的 AI 产品缺少承担真实工作所需的关键机制,并提出一套严肃产品应具备的设计要求。文章主张把错误核查做成一等功能,为每条输出提供人工核查记录和勾选状态;研究类结果应突出完整引用、发布日期、作者和未经模型改写的原文引用,而不是只给难以辨认的小图标。

  6. IT之家(RSS)47

    《气象数据管理办法》11月1日起实施,公共气象数据确权、授权运营有法可依

    中国气象局发布《气象数据管理办法》,将于11月1日起正式实施。办法建立公共气象数据授权运营机制,为数据确权和授权运营提供法规依据,并明确数据安全保障、流通监管、数据出境评估等制度,同时鼓励开展气象数据开发利用技术与高质量数据集研究。

  7. OpenAI News68

    OpenAI 提出前沿 AI 训练安全案例框架

    OpenAI 提出面向前沿强化学习训练的安全案例初步框架,主张继续训练前应形成结构化、基于证据的风险论证。框架覆盖对齐训练、沙箱隔离与监控三类技术防护,并要求异议评审、高层否决、暂停机制、审计、升级流程和残余风险清单。OpenAI 还建议严重失配事件调查保持内部透明、追溯训练根因、开展复盘、形成回归评测,并在调查结束后公开结果和运营调整。

    推荐理由:文章把前沿强化学习训练前的安全论证拆成技术防护、运营审批和事故调查三类做法,便于其他团队对照建立流程。

  8. TechCrunch · AI47

    Modulate 融资 2500 万美元,用于语音模型与分析套件

    波士顿语音智能初创公司 Modulate 完成 2500 万美元融资,由 Future Ventures 领投,Hyperplane 和 Lakestar 参投。其平台运行 100 多个小模型,提供转写、情感分析、deepfake 与 AI 音乐检测及语音智能体合规策略执行。PitchBook 数据显示,本轮前 Modulate 累计融资 4100 万美元,估值 1.7 亿美元。

  9. Hacker News:AI 热帖75

    Ramez Naam 分析 AI 递归自我改进能否克服收益递减

    Ramez Naam 认为,现有数据不支持 AI 通过递归自我改进很快走向失控的超级智能,自我维持反馈环还需增强约 5–10 倍。他引用 OpenAI 数据称研究任务 80% 成功率对应的自主时长约 15 分钟,并用实验增速估算每点 ECI 只带来 2–3% 研究生产率提升,低于模型估计的 15–19% 自维持阈值。

  10. Hacker News 热门(buzzing.cc 中文翻译)50

    Reddit 是否存在“伪草根”问题?刀具社区数据揭示了什么

    一项针对 Reddit 6 个刀具子版块的分析发现,某主厨刀品牌在“该买什么”讨论中的提及有 31% 来自 5% 的账号,是随机预期的 4 倍。分析基于刷新后的 51,129 条评论、987 名至少评论 10 次的作者,并将其中品牌集中度最高的 49 个账号列为尾部账号。数据只能证明推荐集中,不能证明这些账号受品牌付费操控。

  11. TechCrunch · AI86

    AMD 将以 82 亿美元收购李飞飞创办的 World Labs

    AMD 将以 $8.2 billion 收购世界模型公司 World Labs,交易仍需监管批准,预计在年底前完成。World Labs 创始人李飞飞将加入 AMD,担任执行副总裁兼首席科学家;双方去年已建立推理优化与训练合作。

    推荐理由:文章梳理了交易金额、李飞飞加入后的职位,以及世界模型对机器人合成数据训练和 AMD 芯片生态的意义。

  12. Databricks:Blog(RSS)74

    Databricks 如何在首日向 14,000 名员工推出前沿模型

    Databricks 介绍了通过 Unity Gateway 在新模型发布首日向员工开放实验性访问、按用户预算控制成本,并在三天内依据基准、用户反馈和 OpenTelemetry 成本追踪决定是否推广的流程。

    推荐理由:文章拆解了企业在新模型发布首日开放、预算约束和三天内依据质量与成本信号决定推广的完整流程。

  13. Databricks:Blog(RSS)70

    Databricks 为 Lakebase Postgres 推出 Lakebase Search,支持向量与 BM25 全文检索

    Databricks 发布 Lakebase Search,通过 lakebase_vector 和 lakebase_text 两个扩展为 Lakebase Postgres 提供可扩展近似向量检索与 BM25 全文检索,两项能力已在 AWS 和 Azure GA。

    推荐理由:文章给出 Lakebase Search 的向量与 BM25 混合检索架构、VectorDBBench 100M 指标和云上可用范围,便于评估 Postgres 内统一 OLTP 与搜索的可行性。

  14. Databricks:Blog(RSS)27

    Databricks 如何用数据与 AI 连接制造业产品价值链

    Databricks 提出借助 Data and AI Platform 打通制造业产品价值链,将分散在 MES、ERP、QMS、CRM 等系统中的研发、采购、生产、物流、销售与售后数据连接起来。平台以序列号、批次或零件号作为共享标识,并通过 zero-copy Open Sharing、Lakehouse Federation 等能力在无需大规模迁移源系统的情况下实现跨系统查询与追溯。

  15. TechCrunch · AI53

    AI 热潮主导纽约气候周,气候科技创业公司机会与分歧并存

    纽约气候周上,AI 数据中心建设成为气候科技圈的核心议题,能源相关创业公司将其视为融资和穿越死亡谷的机会。PitchBook 数据显示,气候科技风投交易额连续四个季度上升,并在今年第一季度超过 140 亿美元,主要受建筑环境、电网基础设施和可调度能源等领域带动。部分创始人担心这种单一热潮会掩盖其他有前景的减排方向,也有人认为数据中心需求不会永远持续,但可能帮助企业先建立可持续业务。

  16. Aravind Srinivas19

    一个开展以下方向研究的机会:持续学习:多智能体并行工作器;以及用于衡量前沿能力的合成数据、环境与评测。 我们有足够的资金支持新研究,希望做出持久贡献,并公开分享我们的研究成果。

    引用Andrew Gordon Wilson@andrewgwils

    The Perplexity Research Fellowships are a great opportunity to advance frontier research around architecture design, multi-agent collaboration, synthetic data, and beyond! Priority deadline of Sep 30. https://jobs.ashbyhq.com/perplexity/ab076e26-adf1-414f-a006-7b1bdc9247c8 
Feel welcome to mention my name in your application!

9月28日周一
  1. Databricks:Blog(RSS)44

    营销与数据工程最常误解的 24 个营销数据术语

    Databricks 指南梳理了营销与数据工程团队常产生分歧的 24 个营销数据术语,并围绕活动执行中的五个实际问题组织内容。指南对比了双方对 Event、Customer、Segment、Audience、Activation 等术语的不同理解,建议团队在工作开始前统一定义、确认数据来源与身份口径,以避免活动返工和额外成本。

  2. elsewhere:文章(RSS)42

    群核科技用空间智能 3D 高斯重建永泰龟城,刷新全球公开重建规模纪录

    群核科技联合博主「特能斯」,4 人 4 天采集 6 万多张照片,将甘肃永泰龟城重建成含 24 亿高斯点、覆盖 60 万平方米的数字场景,刷新全球公开可查的 3D 高斯重建纪录。数字古城已交给景泰当地文旅作为永久数字文化档案,并可通过 Aholo Reality 在线漫游;同一 3D 场景还经 LuxReal 生成 AI 短剧《永泰无战事》。

9月26日周六
  1. Ars Technica · AI62

    Tesla 工人抵触为 Optimus 人形机器人提供替代自己的训练数据

    Tesla 已将让得州和加州工厂工人穿动作捕捉服采集训练数据的工作转由专门团队负责,并设立训练中心,原因是部分工人知道 Optimus 最终可能替代自己。报道称 Optimus 仍需在受控环境中为特定任务编程,手部触觉传感器可靠性不足,Tesla 因而开发可单独更换的手套式传感器层。

9月25日周五
9月24日周四
9月23日周三
  1. Fireworks AI(网页)72

    Fireworks Research 发布 Ember-1:基于 Kimi K3 减少约 40% token

    Fireworks Research 发布专用模型 Ember-1,基于 Kimi K3 训练,在保持答案质量的同时减少约 40% token。官方称其在 7 项基准和两家客户生产流量中可将 Kimi K3 的推理缩短 35–50%,客户 A/B 测试显示每任务约少用 35% token;内部开发者切换后基本无感知。

    推荐理由:原文给出基准、客户 A/B 与内部编码流量的 token 节省结果,可帮助评估用专用模型压缩推理成本的路径。