2019年冬天，我第一次尝试用强化学习训练一个对话模型。那次实验中，一个看似无关的细节引起了我的注意：当训练数据里包含更多负面情绪文本时，模型在压力场景下的输出，开始出现难以解释的“回避行为”。当时我...