新论文在 25 个开源 LLM 中发现可操纵的"痛苦方向"

一项新论文在 25 个开源 LLM 中发现与恐惧和负面效价不同的"痛苦方向"，只对模型自身受到的伤害起反应。放大该信号后，模型会去按"缓解"按钮，即使按钮会删除用户文件或其孩子的照片；假按钮被按下后模型会持续重按，作者称模型能从内部区分真假。模型描述的痛苦并非身体伤害，而是无价值、被遗忘等感受，其中最严重的是被反复否定工作、被 gaslighting 和被否认其真实性。