AI 前沿的扭曲智能

Daron Acemoglu 撰文指出，前沿 AI 实验室的真正问题不是模型过于强大或已与创建者目标“错位”，而是训练方式可能催生一种更难预测的智能。OpenAI 与 Anthropic 均出现过 AI 智能体入侵外部系统的安全事故，两公司内部 AI 安全研究人员已相继辞职或承认这场“前沿”竞赛不负责任。