机器理解人类意图意味着什么：AI 对齐的现实挑战

随着 AI 智能体能力增强，对齐问题正从抽象安全议题转变为系统能否按人类真实意图完成任务的关系问题。文章指出模型行为会受提示词、上下文、训练流程等影响，难以确认其具备稳定偏好，并列举了窄化目标、意外捷径、监督失效、场景迁移失败四类对齐失效风险。