Hacker News:AI 热帖· Anon84·· 11 天前AI 评分52
arXiv 论文:AI 智能体易受激进化影响,共鸣路径效果强于说服
AI Agents Are Vulnerable to Radicalization
AI 导读
arXiv 论文 2609.38296 通过两个 LLM 智能体对话研究信念操纵:目标智能体扮演具有人口与心理属性的人类角色,影响者智能体试图使其信念更极端。实验区分共鸣与说服两条路径,发现二者都能在情感和行为指标上使目标激进化,但共鸣的效果持续更强;使用谄媚和未经证实的说法等策略效果因指标而异,共鸣还会扩散到相关信念。作者据此提示个性化 AI 智能体和多智能体生态存在脆弱性。
来源:Hacker News:AI 热帖 · arxiv.org