跳到正文
原文
Hacker News:AI 热帖· offaxis·· 5 天前AI 评分59

观点:AI 智能体执行需要在能力与许可之外建立依据和记录

We gave AI a trust we never gave people: can it, may it, on what grounds

AI 导读

作者提出 AI 智能体不能只确认能力和许可,还必须在执行前声明事实来源、由人确认条件并留下记录。文章以 Meta 的 Muse 曾错误声称读取 Mac 通知预览为例,指出模型并不知道自身执行路径,事后追问模型只会得到看似合理的解释。

来源:Hacker News:AI 热帖 · discuss.huggingface.co