Microsoft CEO Nadella 称应假设所有 AI 模型已被攻破并设置紧急制动

Microsoft CEO Satya Nadella 在 X 长文中表示，应从一开始就假设 AI 模型已被攻破并对其进行 containment，并让授权人员能在任务执行中暂停或关闭模型。他还主张提高透明度，使模型可被容纳和观察，并留下防篡改、人类可读的证据；相关建议包括及时披露事件、独立审计、可验证数据和标准化更先进的 containment 技术。