Hacker News:AI 热帖· ronbodkin·· 5 天前AI 评分42
用理解审计降低自动化 AI 研究风险
Comprehension Audits to Mitigate Risks from Automated AI Research
AI 导读
一篇论文提出“理解审计”机制,要求负责人向审计员解释研发贡献,证明其理解 AI 自动生成的代码,未通过则暂停开发直至整改。对主流开源 AI 项目的分析显示,代码产出增加,但每行代码的人工评审评论率下降,自动化批量账户的比率更低。论文建议 AI 实验室引入常驻独立审计员执行该机制。
来源:Hacker News:AI 热帖 · arxiv.org