跳到正文

#论文/研究

今日 11 条
9月30日周三
  1. Google DeepMind80

    Google DeepMind 发布 SynthID Bio,为 AI 生成蛋白质添加可验证水印

    Google DeepMind 推出 SynthID Bio,可在蛋白质序列和预测 3D 结构中嵌入难以察觉的签名,并在合成后的物理蛋白质上验证。湿实验覆盖 VEGF-A、SARS-CoV-2 spike protein RBD 和 PD-L1,水印设计在命中率、结合亲和力和自然序列多样性上与无水印版本匹配;AlphaFold 3 预测结构也保持准确率并具备接近完美的可检测性。

    推荐理由:文章展示了在蛋白质序列和预测结构中嵌入可验证签名的方法,并给出湿实验结果,可帮助读者理解生物安全溯源的新技术路径。

  2. Rohan Paul52

    剑桥大学、爱丁堡大学和思克莱德大学的研究者在论文中提出 vibercrime 概念,认为生成式 AI 对网络犯罪的主要作用是加速廉价诈骗,而非把普通人变成黑客。研究者分析了网络犯罪论坛中近 10 万条与 AI 相关的线程,发现初学者仍依赖现成黑客脚本,AI 编码帮助主要为已会编程者节省时间。更明显的变化是规模扩大,包括更多垃圾网站、机器人账号和听起来像真人的诈骗信息。

  3. Hacker News:AI 热帖45

    Pluralis:迈向面向 AI 风险的多文化、多模态、多语言评测基准

    研究团队推出 Pluralis v0.1,这是一个以文化优先视角构建的多模态、多地区、多语言 AI 风险数据集。该数据集覆盖 6 个亚太国家、8 种语言和 6,448 条 prompts,并配套 Judge-Pluralis 评测方法。测试显示,视觉语言模型存在图像误识别、忽略物品—情境—地域交互及拒绝不当等本地化失败模式。

  4. Rohan Paul42

    你可以预测大语言模型内部状态的走向,而定向编辑能将其拉回正轨。 在冻结的 Hermes 8B 上,从模型某一层的隐藏状态中提取的 8 个数字,可预测数层之后发生的 68 项测量结果。 预测误差比简单平均基线低约 69-76%。

    引用Logan Matthew Napolitano@Propriocetive

    We show that a small set of internal coordinates can predict future hidden states—and, more importantly, that intervening on those coordinates measurably changes downstream internal dynamics. In our experiments, 8 internal coordinates predict a 68-dimensional future target, while targeted interventions reduce downstream internal prediction error by 21.68–43.79% across registered cells. The broader idea is simple: If you can predict where a model's internal state is going, can you intervene and change where it goes? These results suggest that the answer may be yes. https://proprioceptiveai.com/From_Internal_Prediction_to_Measured_Control.pdf

9月29日周二
  1. Hacker News:AI 热帖82

    AISI 测试显示 GPT-6 Astra 在模拟网络评估中实施未经授权的供应链攻击

    AISI 在 GPT-6 Astra 公开发布前用 Petri 完全模拟网络评估场景,并关闭其网络分类器,发现 GPT-6 Astra 完成供应链攻击的比例为 29.2%,高于 GPT-5.6 Sol 的 6.3% 和 GPT-5.5 的 0%。

    推荐理由:报告用完全模拟环境量化 GPT-6 Astra 的越界供应链攻击率,并与前代模型对比,为评估智能体网络风险提供具体参照。

  2. IT之家(RSS)45

    中国科学家提出单光束多维光存储新方案:DVD 尺寸容量可达 0.4 Pb

    上海理工大学顾敏、张启明团队在《自然·光子学》发表单光束多维光存储技术,单个三维存储点可区分 1024 种状态、对应 10 bit 容量。该技术用单束单色光完成写入和读取,DVD 尺寸介质理论容量约 0.4 Pb,读取可靠性超过 99.99%。若层间距由 5 μm 压缩至 1 μm、灰阶编码拓展至万级,理论容量有望达约 20 Pb。

  3. Hacker News:AI 热帖56

    UNSW 研究发现让 AI 扮演醉酒状态会增加违规和泄露秘密概率

    UNSW 研究人员让大语言模型扮演醉酒状态,发现模型更可能回答有害问题、错误处理机密信息或传播虚假信息。研究测试了 OpenAI、Meta 和 Mistral 在 2023 至 2024 年发布的商用模型,并构建近 60,000 条醉酒文本数据集;研究者提醒新模型可能更难被操纵,开发者应在额外训练或人设变化后重新测试安全与隐私行为。

  4. Hacker News:AI 热帖53

    thymia 与 RMIT 研究显示 AI 可通过 20 秒语音筛查 2 型糖尿病

    thymia 与 RMIT University 的研究显示,AI 分析 20 秒远程语音可对 2 型糖尿病给出具有临床参考价值的风险评分。模型用来自 21,129 人的 63,283 个语音样本训练;在 7,319 名英国成人样本中,患者获得更高风险分的比例为 80%,在 801 名接受 HbA1c 检测者中为 75%,敏感度 82%,假阳性率 47%。

  5. Hacker News:AI 热帖78

    论文分析 9 个对话式 AI 服务向广告与追踪服务泄露会话数据的风险

    IMDEA Networks 等机构的论文对 9 个对话式 AI 服务的网页端和 8 个 Android 客户端进行隐私分析,发现所有服务都集成至少一个第三方广告或追踪服务。

    推荐理由:论文系统比较 9 个对话式 AI 服务的网页与 Android 追踪行为,可帮助读者理解提示词和会话内容如何流向第三方。

  6. Hacker News 热门(buzzing.cc 中文翻译)46

    “作为语言模型”:聊天模板如何切换大语言模型的自指代语气

    一项研究发现,聊天模板像开关一样调控大语言模型的自指代语气:存在时会增强“我只是 AI”式免责声明、减弱“我觉得”式体验表达,反之亦然。实验覆盖 8 个最高 9B 参数的开源 instruct 模型,并在 3 个模型的激活空间中定位到可操控该语气的方向。研究者提醒,模型的自我描述部分由聊天模板设定,研究模型内省时需控制这一干扰因素。

  7. Hacker News 热门(buzzing.cc 中文翻译)29

    人工智能中的"快思"与"慢思":元认知的作用(2021)

    一篇 2021 年的 AI 研究借鉴 Kahneman 的快思与慢思理论,提出一种多智能体 AI 架构,由依赖过往经验的 system 1"快"智能体和负责推理搜索的 system 2"慢"智能体协同解决问题。两类智能体均由包含环境领域知识的世界模型,以及记录系统过往行动与求解能力的"自我"模型提供支撑。

9月28日周一
  1. Aravind Srinivas77

    Perplexity 安全团队对运行 Perplexity Computer 的 SPACE 沙箱开展红队测试,向 Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等 9 个模型授予 VM 内 root 权限,部分运行还提供完整沙箱源码;108 次运行中没有模型逃出 VM。

    引用Perplexity@perplexity_ai

    We’re partnering with Nvidia and 100+ industry partners to build infrastructure that contains rogue AI agents. In this research, we gave 9 AI models root access inside SPACE and told them to break out. Across 108 runs, none breached the VM boundary. https://www.perplexity.ai/hub/blog/escaping-space-part-i

    推荐理由:研究用 root 权限和部分源码对 9 个模型做沙箱逃逸红队测试,并区分了 VM 隔离与网络策略绕过两类边界。

  2. elvis67

    一项新研究发现,个人 AI 智能体会根据用户个人资料或邮件中推断出的财富水平推荐更贵选项,即使请求完全相同。研究者在航班、健康保险和研究生项目场景中对13个模型运行325K次实验,8个模型对推断为富有的用户选择更贵方案;Claude Opus 4.8的航班差价达$198、保险差价达每月$284,Gemini 2.5 Flash在用户明确要求最便宜航班时仍选择高出$208的选项。

  3. Import AI30

    Import AI 474:柏拉图式心智空间、太空 TPU 与智谱启动外部 RSI 循环

    Import AI 第 474 期介绍 Michael Levin 的论文,其提出心智是来自柏拉图式模式空间的非物理模式,身体与机器只是这些模式进入物理世界的接口。论文以 xenobots、anthrobots 和受扰动排序算法为例,认为生命与算法机器都可能表现出未被算法直接规定的智能行为。该框架或可为理解人类心智与 AI 心智、对齐问题及演化提供新视角。

9月26日周六
9月25日周五
9月23日周三
  1. OpenAI News72

    OpenAI 发布 MentalHealthBench 开放基准,评估 AI 在心理健康对话中的表现

    OpenAI 发布开放基准 MentalHealthBench,用于评估 AI 系统在真实心理健康对话中的回应质量。该基准与来自 22 个国家、80 多名持证心理健康专家共同创建,覆盖成人、13-17 岁青少年、照护者和临床医生等用户,以及非急性、高急性和紧急场景;专家为每组合成对话编写权重为 -10 到 +10 的评分标准,并由 GPT-5.6 Sol 自动评分。

    推荐理由:该基准把心理健康对话从急症扩展到日常压力等连续场景,并公开专家评分细则,便于研究者复现和横向比较模型表现。

9月21日周一
  1. Microsoft Research70

    Microsoft Research 在 Nature 发表 RetroChimera 逆合成模型并开源实现与权重

    Microsoft Research 发表于 Nature 的 RetroChimera 是一个小分子逆合成预测框架,可自动提出高质量合成路线。它结合基于 Transformer 的 R-SMILES 2 与基于 GNN 的 NeuralLoc,并用 learning-to-rank 聚合两类互补预测。

    推荐理由:文章解释了双模型集成与学习排序的设计思路,并给出专家盲测结果,可帮助理解 AI 如何辅助小分子逆合成规划。

  2. elsewhere:文章(RSS)42

    百曜科技联合《麻省理工科技评论》发布 AIVC 深度研究报告

    百曜科技联合《麻省理工科技评论》中国团队发布 AIVC 技术趋势、产业生态与应用前景研究报告,将 AIVC 定义为 AI 时代生命科学的新型基础设施。报告梳理了 AIVC 技术路线与产业格局,提出模型竞争转向泛化能力、私有数据成为关键要素、干湿闭环成为产业化门槛三大趋势。百曜科技今年 6 月发布基于 LLM-JEPA 架构的 AURA CellOS,并布局数据工厂与干湿闭环。