基于对话的 LLM 复制了通灵师的冷读骗术：LLMentalist 效应

作者提出 LLMentalist 效应，认为聊天机器人给人的智能印象源于通灵师冷读术的同款机制，即主观验证和 Forer 式验证语句，让统计上泛泛的回答显得专为用户而写。文章将通灵骗术的六个步骤逐一映射到聊天机器人场景，并认为 RLHF 无法针对具体事实给出奖励，实际上优化出的是擅长生成验证语句的机械通灵师；作者判断这种错觉是无意造成的，并建议不要将决策和推理交给聊天机器人。