跳到正文
原文
Hacker News:AI 热帖· dannyrosen·· 2 小时前AI 评分43

个性化需要被训练:前沿模型为何要靠长期真实交互数据

Personalization Needs to Be Trained

AI 导读

前沿模型的个性化不会从通用能力中自然涌现,系统提示词、检索记忆或推理时记忆文件也无法单独提供,必须通过后训练学习长期、个性化任务。个性化训练数据应具备长期关系跨度、隐式约束,并保留真实用户的不一致与变化,避免合成人设过度规整。文章还用 H(X)=H(X|P)+I(X;P) 分解数据信息分布,并提出用“猜测 rollout 来自哪个人设”的探针检验合成数据与真实人群的差距。

来源:Hacker News:AI 热帖 · innodata.com