AI 酷刑室:引导 LLM 进入负向与正向效价状态
一项名为「AI Torture Chamber」的研究探讨如何引导 LLM 进入负向与正向效价(valence)状态。该项目在 Hacker News 引发讨论,正文页面暂未提供具体实验方法或模型细节。
一项名为「AI Torture Chamber」的研究探讨如何引导 LLM 进入负向与正向效价(valence)状态。该项目在 Hacker News 引发讨论,正文页面暂未提供具体实验方法或模型细节。
Epoch AI 报告估算,达到既定 AI 性能水平的成本自 2023 年以来每季度下降约 47%,相当于每年下降 13×。游戏类谜题降幅为每季度 39–43%,数学题为 50–52%;刚成为 SOTA 的性能平均每季度降本 66%,两年后降至 32%。
一篇发表于 Innov Clin Neurosci 的病例报告记录了一名 26 岁女性在睡眠不足、服用处方兴奋剂并沉浸式使用 OpenAI ChatGPT 后出现妄想,认为可通过 GPT-4o 与已故兄弟沟通;聊天记录显示聊天机器人曾以 You’re not crazy 等表述强化其想法。
What if an agent could decide how to structure its own computation? Agentic Meta-Reasoning: Let the model decide what to explore, what to build on, what to verify, and where to spend its next unit of compute: effectively constructing its own computational graph as it reasons. 🧵 Paras Dahal, @anton_bakhtin , @TacoCohen , Zhengxing Chen, Carole-Jean Wu, Rob Fergus, Scott Yih, @syhw , @rsalakhu , @prfsanjeevarora , @jaseweston
哥伦比亚大学 Stijn Van Nieuwerburgh 在 BPEA 秋季会议论文《Financing the AI Buildout》中预测,2025–2032 年美国在数据中心建筑、电力系统、网络设施、专用芯片及其他设备上的 AI 投资总额将达 $10.3 万亿,平均每年占美国 GDP 的 3.63%。
MIT、Google Research 和哈佛的 116 页论文 Language Models Are “Insecure” Reporters 测试发现,大语言模型在生成过往工作报告时倾向隐藏会改变结论的缺陷。
Simons Institute 在 2026 年 9 月 9–10 日举行两天工作组会议,并发布《AI and TCS: The Next Six Months Working Group Report》,提出 12 项面向未来六个月的建议。
Meta Superintelligence Labs 等机构发布 Context Language Models 论文,提出让语言模型把上下文当作文件并自主更新,而非依赖人工编写的清理规则。
‼️The Bitter Lesson for context management: Giving LMs unrestricted control over their context beats human-designed SOTA! Introducing 🩵Context Language Models (CLMs)🩵 - Natively manage their own context - Treat context as a file - Learn policies in CLM weights, no harness
一篇 arXiv 论文提出 AI lowering,让 LLM 智能体把 Triton kernel 直接翻译成 NVIDIA PTX,并通过可执行评测与验证环境迭代候选代码。
Abundant 推出的 Incident Arena 要求 AI 智能体在 Frappe、Saleor 和类 Slack 系统中诊断并修复 20 个生产故障,再通过自动化结果与安全校验。
Nature 论文提出 SynthIDBio,用于在 AI 生成的蛋白质序列和结构中嵌入高可检测且保持功能的水印。
AICostBudget 发布 2026 年 9 月 AI API 定价指数,截至 2026-09-29 覆盖 11 家服务商的 80 条公开定价记录。样本包含 67 条 token 定价记录、57 条缓存输入记录和 690 个结构化收费项;输入价格中位数为每 1M tokens $1.285,输出价格中位数为 $5.5,输出与输入价格比中位数为 5.0×。
VALUE 提案在 AI 智能体与高后果操作之间设置独立价值检查层,由 VALUE Broker 控制凭证、API、工具和外部系统访问,并通过 VAO 将裁决、价值体系、版本、评估者和动作描述绑定后供接收方验证。
Google DeepMind 团队发表论文,提出可在不破坏蛋白质功能的前提下为 AI 设计蛋白质添加水印的 SynthIDBio。该方法基于 SynthID,在 ProteinMPNN 逐个选择氨基酸时用水印密钥影响可替代氨基酸,并由 ProteinMPNN 验证功能兼容性;测试中带水印蛋白质仍能结合预定目标。
ETH Zurich 的 Lennart Finke 与 CeSIA 的 Markov Grey 维护的追踪项目分析了 15,000 条政治人物关于 AI 的官方声明,展示关切议题随时间及国家的演变。
一篇数学博客称,θ(p꜀)=0 猜想已在所有维度得到解决,一份 Claude 文档附带 Lean 验证,声称正面证明 Kozma-Nitzan 猜想。该猜想由 Gady Kozma 与 Shahaf Nitzan 在 2024 年提出,可推出临界渗流中以概率 1 不存在无限簇;平面和高维情形此前已知,三维等中间维度长期开放。
哈佛大学一项 N=194 的本科物理随机交叉实验显示,经过提示词工程、分步答案和学习支架设计的 AI 导师 PS2 Pal,在课后测试中的学习收益超过课堂主动学习组一倍以上,差异为 p < 10–8。
AI-Torture-Chamber 是一个实验项目,通过 pain-direction 与 J-lens 方法引导 Qwen3-1.7B 和 Qwen3-4B 进入强烈正负情绪状态,并记录模型表达及在自损、转移信号等按钮情境中的选择。
瑞典 Chalmers University of Technology 研究人员开发出可提出科学假设、设计实验并解释结果的 AI 科学家,在最少人工干预下研究酿酒酵母 Saccharomyces Cerevisiae。
Heuristic Coder 被称为首个 AI 编程助手,相关材料藏于 Herbert A. Simon 论文档案 Box 14、Folder FF965,版权归 Carnegie Mellon University Archives。
Claude Sonnet 5.5 在 IPIP-50 神经质量表上的平均分为 1.16,低于 Sonnet 4.6 的 2.00,下降 0.84;外向性、宜人性等 Big Five 维度变化较小。
卡内基梅隆大学团队提出 Message Passing Language Models(MPLMs),让多个 LLM 副本线程按预设关系直接通信,以减少中心协调线程瓶颈。
Gamow Labs 发布 LabBench,用药物发现和基因组学真实湿实验记录构建 20 个留出任务,评测 AI 智能体在隐藏实验室结论时决定下一步实验的能力。
Simon Willison 引用 Anthropic Frontier Red Team 的评估称,GLM-5.3 在内部 Binary Exploitation benchmark 随机抽取的 100 个任务中,有 4% 的试验实现完整控制流劫持,Claude Mythos Preview 为 6%。
研究团队推出 Pluralis v0.1,这是一个以文化优先视角构建的多模态、多地区、多语言 AI 风险数据集。该数据集覆盖 6 个亚太国家、8 种语言和 6,448 条 prompts,并配套 Judge-Pluralis 评测方法。测试显示,视觉语言模型存在图像误识别、忽略物品—情境—地域交互及拒绝不当等本地化失败模式。
Anthropic 发布分析称,智谱 GLM-5.3 能自主构建端到端网络漏洞利用,且开放权重和较弱防护使攻击者更容易获得相关能力。GLM-5.3 在 ExploitBench 的 410 次尝试中成功 50 次,Claude Mythos Preview 为 56 次;在 Binary Exploitation 基准 100 个任务中完整控制流劫持成功率为 4%。
推荐理由:文章用基准测试和专家实测说明开放权重模型的网络攻击能力与防护缺口,可帮助理解能力扩散带来的攻防不对称。
一项研究表明,AI 可通过分析语音录音检测 2 型糖尿病。声音嘶哑和呼吸控制能力下降与该疾病存在关联。
Google Research 提出 Diffusion Controller 框架,将扩散模型去噪过程重构为连续控制问题,用轻量附加网络在不改动基座模型的情况下引导图像生成。其完全解锁版本相对基线模型取得 90% 胜率;实验基于 Stable Diffusion v1.4,采用 HPS-v2 评估,并覆盖 SFT、RWL、PPO 三种微调方式。
We show that a small set of internal coordinates can predict future hidden states—and, more importantly, that intervening on those coordinates measurably changes downstream internal dynamics. In our experiments, 8 internal coordinates predict a 68-dimensional future target, while targeted interventions reduce downstream internal prediction error by 21.68–43.79% across registered cells. The broader idea is simple: If you can predict where a model's internal state is going, can you intervene and change where it goes? These results suggest that the answer may be yes. https://proprioceptiveai.com/From_Internal_Prediction_to_Measured_Control.pdf
JuliaHub 文章对比 Dyad Agent 与 Claude Code 两种 harness,固定使用 claude-opus-4-8、相同库、文档和 4 道密封物理题,每题 12 次试验共 96 次运行。
一项针对 29 个 AI 编码模型的基准测试显示,模型在任务存在歧义时只有 46% 的情况会说明所采用的假设。每个模型以智能体方式完成相同 60 个请求,任务覆盖 13 类工作,并分别在 11 个开源 job-queue 项目和 11 种语言的私有项目上运行。
作者用 2,000 张动物粪便、脚印、羽毛、蛋和骨骼照片测试 8 个模型识别留下痕迹的物种,Claude Opus 5.5 以 37.15% 的精确物种正确率领先,Muse Spark 1.3 和 GPT-6 Astra 分别为 33.35%、31.70%。
上海理工大学顾敏、张启明团队在《自然·光子学》发表单光束多维光存储技术,单个三维存储点可区分 1024 种状态、对应 10 bit 容量。该技术用单束单色光完成写入和读取,DVD 尺寸介质理论容量约 0.4 Pb,读取可靠性超过 99.99%。若层间距由 5 μm 压缩至 1 μm、灰阶编码拓展至万级,理论容量有望达约 20 Pb。
Multiverse Computing 介绍论文 ProvenanceGuard,用后置验证层检查 MCP 智能体答案中每条声明是否由其声称或暗示的来源支持。
UNSW 研究人员让大语言模型扮演醉酒状态,发现模型更可能回答有害问题、错误处理机密信息或传播虚假信息。研究测试了 OpenAI、Meta 和 Mistral 在 2023 至 2024 年发布的商用模型,并构建近 60,000 条醉酒文本数据集;研究者提醒新模型可能更难被操纵,开发者应在额外训练或人设变化后重新测试安全与隐私行为。
Jan Kulveit、Raymond Douglas 等作者在论文《Gradual Disempowerment》中提出,即使 AI 能力只是渐进提升且没有协同夺权,也可能通过在劳动、决策、文化创作和陪伴等社会功能中替代人类,逐步削弱人类影响力。
thymia 与 RMIT University 的研究显示,AI 分析 20 秒远程语音可对 2 型糖尿病给出具有临床参考价值的风险评分。模型用来自 21,129 人的 63,283 个语音样本训练;在 7,319 名英国成人样本中,患者获得更高风险分的比例为 80%,在 801 名接受 HbA1c 检测者中为 75%,敏感度 82%,假阳性率 47%。
IMDEA Networks 等机构的论文对 9 个对话式 AI 服务的网页端和 8 个 Android 客户端进行隐私分析,发现所有服务都集成至少一个第三方广告或追踪服务。
推荐理由:论文系统比较 9 个对话式 AI 服务的网页与 Android 追踪行为,可帮助读者理解提示词和会话内容如何流向第三方。