RLNF：用脑信号做奖励的个性化AI

这对个性化 AI 来说简直是下一个层级。 唤醒信号由一个简单的嵌入向量加 k-NN 奖励来打分。 RL with Neural Feedback（RLNF，神经反馈强化学习）在观看者观看生成图像时，直接从其大脑读取唤醒信号，并将其用作 RL 奖励。 这个方向现在看起来如此自然。人类偏好本就存在于大脑中，RLHF 把它经由一次点击来传递，而 RLNF 则把大脑信号直接接入奖励。