思维模型

强化与奖赏预测

了解你的大脑如何从结果中学习,形成推动你日常习惯和决策的动力。

探索一下

你有没有过这样的经历:明知道手机上大概没有新通知,还是忍不住拿起来看?这个动作很小,但那一瞬间的期待却很有吸引力。

这种感觉能帮你了解大脑如何预测奖励。

一起看看这种感觉背后的科学原理。

理解概念

理解概念

你的大脑就像一台预测机器,不断猜测哪些行为会带来奖励。当结果比预期更好时,大脑会释放一种叫多巴胺的化学物质,强化带来这一结果的行为,让你更有可能再次这样做。你忍不住想看手机,就是因为大脑在期待可能出现的奖励,比如一条消息或一个“赞”;而这种期待本身也有强化作用,形成一个强大的习惯循环。

请注意:在做喜欢的事情之前,比如拆包裹或开始看一集新的剧时,感受一下那份小小的期待。

详细讲解

详细讲解

强化的核心是一个叫作奖赏预测误差的过程。你的大脑不只是对奖励作出反应,还会对预期奖励和实际奖励之间的差距作出反应。如果你得到的奖励比预期更大,也就是有了意外之喜,多巴胺水平就会骤升,发出强烈的“再来一次!”的信号。如果奖励比预期小,或者根本没有出现,多巴胺水平就会下降,传递出“以后别再这样做”的信号。

这个机制解释了为什么不确定性能如此吸引人。可以预料的奖励会随着时间推移变得不那么令人兴奋,因为没有预测误差:你得到的正是你预期的奖励。而不可预测的奖励安排会让大脑不断猜测,让每一次真正到来的奖励都像是一次不小的惊喜。

想想游戏中的情形。开发者会使用“战利品箱”或随机掉落的道具,这些设计可能很吸引人,因为你往往不知道自己会得到什么。偶尔出现的稀有道具会带来巨大的正向预测误差,强化你长时间玩游戏的行为。

这不只发生在游戏或手机上。在工作中,因为表现出色而意外获得的奖金,可能比按惯例、在预期之内的年度加薪更能激发动力。这份意外的认可会带来强烈的正向信号,强化你付出的努力,也能提振士气。

研究依据

研究依据

现代科学对大脑强化学习的理解,很大程度上建立在奖赏预测误差的发现之上。开创性的研究表明,多巴胺神经元并不只是传递愉悦或奖励的信号,而是提供一种教学信号,更新我们对世界的预期,并引导未来的行为。这个信号对我们从经验中学习、作出适应情境的选择至关重要。

  • Schultz、Dayan 和 Montague(1997)记录了猴子多巴胺神经元的活动,发现这些神经元会对意料之外的奖励作出放电反应。当猴子学会把某个提示(比如灯光)与奖励联系起来后,神经元开始在提示出现时放电,而不再是在奖励出现时放电。如果预期的奖励没有出现,多巴胺神经元的活动就会恰好在奖励本该到来的时刻下降。这表明,多巴胺编码了奖励预测与实际结果之间的误差。[1]

  • Glimcher(2011)及其同事将这一神经机制与经济学理论联系起来,表明这些神经元的放电频率与奖励的主观价值及其出现概率相关,为我们如何计算价值并据此作出决策提供了生物学基础。[2]

  • Holroyd 和 Coles(2002)提出,这种来自中脑的多巴胺信号,为前额叶皮层提供了关键的反馈机制。前额叶皮层是大脑的执行控制中心,这种信号帮助它学会哪些行为有效、哪些行为是错误的,从而让我们能够根据情境调整行为,并朝着目标行动。[3]

适用局限

适用局限

奖赏预测误差模型虽然很有解释力,但仍是一个简化模型。多巴胺并不是功能单一的“快乐分子”;更准确地说,它是一种与动机、显著性和学习有关的分子。其他神经递质系统,比如血清素和去甲肾上腺素,也在情绪、动机以及对结果的反应中发挥关键作用。此外,这个模型无法充分解释由抽象目标、社会联结或内在满足感驱动的复杂人类动机,因为这些动机涉及的不只是简单的奖励预测。

参考来源

参考来源

试一试

检验你的理解

想让新养成的健身习惯更有吸引力,哪种奖励策略最能运用奖赏预测误差的原理?

查看文章解释

答案: 在某些锻炼日,给自己一份小小的、事先无法预料的奖励。

不固定的奖励之所以有很强的作用,是因为它们出现时会产生强烈的正向预测误差,提升参与热情。稳定的提示和内在奖励对形成长期、稳定的习惯至关重要,而引入不可预测性,也可以有效强化一种新行为。

即使你没有在等某条特定消息,为什么查看手机通知的冲动往往还是很强?

查看文章解释

答案: 因为意外获得社交奖励的*可能性*,触发了大脑的预测系统。

对可能出现、又无法预料的奖励(比如一条消息或一个“赞”)的期待,是推动查看手机这一习惯的强大动力。奖励的不固定性让这种行为得到很强的强化。

根据 Schultz 等人的研究 [1],当动物学会某个特定提示预示着奖励后,它的多巴胺神经元会对什么作出最强烈的放电反应?

查看文章解释

答案: 预示奖励的提示。

这一关键发现表明,多巴胺的作用会从传递奖励本身的信号,转向传递对奖励的预期信号,凸显了它在学习和预测中的作用。

继续探索

为眼前的选择,再找一个有用的想法。

Reframo 的全部已发布文章均可免费阅读。准备好后,随时继续探索。