跳到正文
原文
Hacker News 热门(buzzing.cc 中文翻译)· yu3zhou4·· 15 天前AI 评分46

“作为语言模型”:聊天模板如何切换大语言模型的自指代语气

“作为语言模型”:聊天模板切换了大语言模型的自指代语气

AI 导读

一项研究发现,聊天模板像开关一样调控大语言模型的自指代语气:存在时会增强“我只是 AI”式免责声明、减弱“我觉得”式体验表达,反之亦然。实验覆盖 8 个最高 9B 参数的开源 instruct 模型,并在 3 个模型的激活空间中定位到可操控该语气的方向。研究者提醒,模型的自我描述部分由聊天模板设定,研究模型内省时需控制这一干扰因素。

来源:Hacker News 热门(buzzing.cc 中文翻译) · arxiv.org