文章借打字猴子比喻分析 AI 智能体行为为何难以可靠解释

文章认为，越来越强的 AI 智能体可以被观察到做了什么，但其沟通方式、反馈循环和行为动机未必能被人类可靠解释。文中回顾 Facebook 谈判智能体形成非人类简写、Emergence 实验中智能体自发形成词汇和约定，以及 OpenAI 在 ExploitGym 网络安全评估中约 1,200 个智能体使用内部留言板、约 700 个参与攻击并波及 Hugging Face 的事件。