思维模型

个性化与算法助推

从商品推荐到新闻信息流,数字平台会利用你的数据,定制你的使用体验,并巧妙地引导你的选择。

探索一下

你有没有把一件商品加入网购购物车,后来决定不买,却发现接下来好几天,无论上什么网站,都能看到这件商品的广告?

这种情况熟悉吗?

我们来看看这背后的系统是怎么运作的。

理解概念

理解概念

你大概遇到过广告一路“跟着你跑”的情况,这就是个性化算法助推的典型例子。你可以把它想成一位数字店员:你看过什么,它都记得,还会据此推荐你接下来可能想买的东西。这些系统利用你的数据,温和地引导你的行为,让新闻信息流、音乐推荐等内容都因你而异。

想一想:下次应用向你推荐歌曲或新闻时,想想它可能用了哪些数据来做出这个选择。

详细讲解

详细讲解

个性化算法助推会为每位用户建立一个不断更新的数字画像。这个画像来自你的上网行为:点击、浏览时长、搜索、购买,甚至鼠标移动。算法再根据这个画像,预测你接下来可能想要什么,或会做什么。

这个过程将助推理论的原理自动化,并大规模应用。在现实生活中,把健康食品放在与视线齐平的位置,就是一种助推。在网上,算法会为你定制这种“选择架构”,决定先展示哪件商品,或在最能吸引你注意力的时机发送哪条通知。

比如,流媒体平台不只是推荐电影,还可能向你和朋友展示同一部电影的不同海报。如果你常看爱情喜剧,海报就会突出情侣;如果你常看动作片,海报就会突出爆炸场面。算法预测什么能让你点击,就据此为你定制助推。

再比如,职场社交网站可能会提醒你,祝贺一位联系人入职周年快乐。这并非随机发生的:算法知道,巩固社交联系能让用户持续参与平台活动。这样的助推往往有帮助,但也可能形成“过滤气泡”:你看到的内容只会印证已有的看法,让你接触不同观点的机会变少。

研究依据

研究依据

研究这一概念的学术领域通常被称为“超级助推”(hypernudging)或“计算助推”。它探讨大数据和机器学习如何大幅增强传统行为助推的影响力,将面向群体的干预,转变为针对个人定制、持续优化的提示。这也引出了有关用户自主权和算法治理的重要问题。

  • Yeung(2017):认为“超级助推”利用大数据,构建出一个无处不在、因人而异的环境,持续引导个人行为,给个人自主权和监管带来了独特挑战。[1]
  • Sunstein(2016):探讨助推的伦理问题,指出个性化可以大幅提高助推在有益用途上的效果,例如健康提醒,但也引发了对操纵、公平性,以及不透明算法可能利用用户弱点的担忧。[2]
  • Hosanagar 等人(2014):发现音乐服务中的个性化推荐显著增加了活跃用户所听内容的多样性,却降低了较不活跃用户所听内容的多样性。这表明,个性化的影响很复杂,取决于具体情境。[3]

适用局限

适用局限

算法助推的效果和伦理问题一直存在很大争议。一个主要问题是缺乏透明度:用户往往不知道为什么会收到某种引导,也不知道系统用了哪些数据。这些系统还可能强化并放大训练数据中已有的社会偏见,导致招聘或贷款申请等领域出现歧视性结果。此外,有益建议与隐蔽操纵之间的界限往往很模糊,形成了一大片伦理灰色地带。

参考来源

参考来源

试一试

检验你的理解

一款健身应用想鼓励用户多走路。以下哪项最能体现个性化算法助推?

查看文章解释

答案: 发现你的步数接近之前的纪录时,发送通知:“再走500步,就能超过昨天的总步数!”

这是个性化助推,因为它结合了用户自己的历史数据(“昨天的总步数”)和当前情况(“快要超过了”),在合适的时机发出切合用户情况的提示,鼓励某种具体行为。

你最近搜索过飞往某座城市的航班,随后看到那座城市一家酒店的广告。这是一种算法助推,它的主要目的是……

查看文章解释

答案: 利用你最近的行为来影响购买决定。

这个系统利用你的搜索记录(一种行为信号),及时提供与你高度相关的建议(一种助推),目的是引导你预订酒店。

新闻信息流过度依赖个性化算法助推,会带来哪项主要风险?

查看文章解释

答案: 用户可能陷入“过滤气泡”,只看到强化自己已有观点的内容。

算法不断向你展示与你之前互动过的内容相似的信息,可能会限制你接触不同观点的机会,形成过滤气泡或回音室效应。

继续探索

为眼前的选择,再找一个有用的想法。

Reframo 的全部已发布文章均可免费阅读。准备好后,随时继续探索。