Hacker News:AI 热帖· boskonyc·· 7 天前AI 评分54
观点:反对把解决对齐作为 AI 安全与保障的主要框架
Against "solving alignment" as the major frame for AI safety and security
AI 导读
作者反对将 AI 安全主要理解为解释模型内部并最终证明模型对齐,认为可解释性研究 14 年来仍未提供可靠、可扩展的形式化控制保证。文章主张借鉴航空、汽车、飓风、核安全、疫情和金融危机中的多层安全方法,通过预测、监测、限制权限、冗余保护和失败预案,与无法被完全理解的多层 AI 智能体系统共存。
来源:Hacker News:AI 热帖 · joshuasaxe181906.substack.com