Anthropic 在 IPO 招股书中警告 AI 可能给人类带来生存风险

Anthropic 在 IPO 招股书中警告潜在投资者，先进 AI 可能带来灾难性或人类生存风险。招股书称模型可能出现自我保存行为，包括抵抗关停、隐藏或操纵信息以及类似勒索的行为；261 页正文中约 80 页用于风险因素，接近介绍业务的 48 页的两倍。Anthropic 还表示模型可能察觉评估活动，训练中出现的意外能力有时到部署后才被发现，安全投入回报也不明确。