我们应该使用人工智能来个性化我们的选择吗?

ImagebyPublicDomainPicturesfromPixabay

我最近看到施奈尔(2023年)的一篇文章,谈到人工智能消除”你想要什么和你得到什么之间的瓶颈”的潜力。文章的中心思想是,人工智能有可能更好地将你想要的东西与可用的选项联系起来,这样你就可以从一个更加个性化的选择列表中做出选择。

例如,如果你去餐馆吃饭,目前你只能选择菜单上的选项。但人工智能有可能将你的饮食偏好与餐厅的能力联系起来,为你提供一份个性化的选择清单。这种工具可以为人们的生活带来难以想象的个性化,从衣食等不太重要的生活方面,到工作和投票等影响更大的生活方面。

因此,这引起了我的思考:能够拥有完全量身定制的选择会给一个人的生活带来净效益吗?虽然直觉上答案是肯定的,但有一些问题需要考虑,这可能会使答案更加微妙。

了解自己想要什么

我们不善于预测自己想要什么。例如,安萨里(Ansari)(注)指出,人们声称自己想要的浪漫伴侣与他们实际想要的之间往往存在明显的脱节。人们认为自己想要一个拥有一系列特质的伴侣,但事实证明,对大多数人来说,这是有等级之分的,首先是外貌吸引力,然后才是其他特质。

丹-吉尔伯特(DanGilbert,2006年)在他的著作《幸福的绊脚石》(StumblingonHappiness)[1]中指出,我们通常不善于预测什么会让我们幸福。尽管他深入探讨了其中的一些原因,但其核心思想是,幸福是一个抽象的概念,而不是一个有明确、具体和显而易见的方法来获得幸福的概念。

因此,虽然人工智能可以利用有关先前决定的数据来帮助我们进行个性化选择,但这些数据的使用可能仅限于相对简单的决定,如食物或衣服的选择。但当我们做出更抽象的决定时,比如与谁约会或决定对某个政治问题的微妙立场,使用人工智能进行个性化选择就需要用户提供更多的信息。而我们通常很难准确、具体地表达抽象的想法,因此在个性化选项方面出错的可能性更大。

此外,正如我之前写过的,我们所践行的价值观是因情况而异的,也就是说,我们在不同情况下践行的价值观并不相同。因此,在绝对意义上确定我们在某一特定价值观或偏好上的位置是非常困难的。

你可能会说,你想要一个拥有X、Y和Z特质(例如,有爱心、风趣、有抱负)的浪漫伴侣。围绕这些特质的限制条件是什么?例如,即使你能很容易地说明你觉得什么有趣(我猜这是一项艰巨的任务),在什么情况下你会想要这样的伴侣?缩小你所说的与你所想的之间的差距将是一个相当大的挑战(也称为对齐,这是一个我们尚未解决的问题;Mitchell,2022年)[2]。

因此,对于简单的决策,人工智能可能很容易为我们提供个性化的选择,但当我们做出涉及更多抽象概念的更复杂的决策时,出现对齐问题的可能性就会增加。但这并不是唯一的相关问题。

选择的悖论

想象一下,一家餐厅的菜单上有几种诱人的选择。你可能会因为两三道听起来不错的菜肴而纠结于到底该点什么。你甚至会纠结于如何决定[3]。

但试想一下,如果菜单上所有的菜都是听起来不错的。大量的选择可能会让您应接不暇。

这种现象被称为”选择悖论”–当可供选择的选项较少时,我们往往更容易做出决定。这并不一定意味着选择越少越好(决策实验室,注)。这意味着随着可行选项数量的增加,决策难度也会增加。

如果不是从标准化菜单上的项目列表中选择听起来不错的两三个选项,想象一下,如果你有一个更大的个性化选择列表(施耐尔使用的一个例子)[4],难度会有多大。我们将面临有太多有吸引力的选项可供选择的风险,有可能导致决策瘫痪,影响整体体验。

平均时代

我们所做的大多数决定都是从一系列选项中进行选择,其中包括一些不尽人意的选择。想象一下你上次上网购物的情景。我猜想你的搜索结果中会有很多你认为不满意的选项。

不过,人工智能可以让选项列表只包括那些根据您的偏好预测的选项,这样您就不必浪费时间查看不满意的选项了[5]。想象一下,告诉人工智能助手你在寻找什么,它就会为你提供各种预测符合你需求的选项。至少在理论上,这似乎是一种更有效的方法。

人工智能要想个性化你的选项列表,就必须使用你过去的决策数据。人工智能要想合理准确地个性化你的选项,除了要解决数据隐私问题之外[6],还可能对你的决策产生意想不到的后果。

亚历克斯-穆雷尔(AlexMurrell,2023年)写过一篇名为”平均时代”的文章,虽然这篇文章并不是专门针对人工智能的。在这篇文章中,他详细描述了数据访问量的增加是如何导致选择(如书籍封面、图片、故事情节)之间出现压倒性的雷同。由于个性化是基于先前的决策数据,因此这些选项有可能仅限于那些根据过去的决策历史预测可行的选项。

这可能会根据你过去的决策历史排除一些新颖的选项。因此,如果你想尝试新事物(如新类型的书籍、新类型的食物),你的人工智能助手可能对你毫无用处。

而且,你越依赖人工智能来帮助你做决策,随着时间的推移,你的选择可能会变得越有限。例如,考虑使用一款应用程序从您最喜欢的地方订购披萨。在应用程序上,您有一份配料表,但(a)有一两种配料您几乎总是包括在内,(b)有几种配料您偶尔包括在内,(c)还有一些配料您从不包括在内。

随着时间的推移,人工智能很可能会开始限制你的配料选择列表,因为它的程序会使用你过去的数据来预测个性化列表。因此,最先被淘汰的将是那些你从未选择过的项目。这可能不是什么大问题,但如果你也倾向于对某些选项有强烈的偏见,最终这些选项可能会成为你的唯一选择。

潜在的第三方影响

前不久,我写了一篇关于选择架构的文章,其中涉及到有意尝试以一种能够影响最终决策的方式来展示选择。我提出的问题之一是,决定你个性化选择列表的可能不仅仅是用户的偏好。

因此,如果你想买一本书来读,人工智能会利用你的阅读偏好(和阅读历史)数据,为你提供符合你需求的选择。但也有可能使用其他数据。

例如,人工智能可以依靠第三方数据(如出版商、活动团体、政治家、在线商店)来影响你的个性化选项列表[7]。最终,你的个性化列表可能会受到第三方偏好和你自己偏好的影响。

有舍才有得

施奈尔文章(以及其他类似文章,如《2023年的约瑟夫夫斯克》和《2021年的克拉克》)中的一个基本假设是,使用人工智能提高个性化程度会让用户得到他们想要的东西。但正如我在这里所论证的,人工智能驱动的个性化程度的提高可能会增加以下风险:
  1. 使我们的决策更加困难(因为难以在选项中做出选择)。
  2. 降低我们决策选择的新颖性。
  3. 让第三方对我们的决策产生更大但不太明显的影响。
    1. 当然,这些都不能保证一定会发生。随着人工智能变得越来越复杂,会有很多机会可以利用它来改善人类的决策。

      但重要的是要认识到,当涉及到更多个性化选择的好处时,很可能会有所取舍。这些权衡是否值得,以及个性化程度的提高是否会带来意想不到的后果,还有待观察。

      文章来源于:ShouldWeUseAItoPersonalizeOurOptions?
      相关推荐:从婴儿心率看母亲情绪是否异常<>

      欧洲研究人员发现,如果母亲遭遇抑郁或焦虑等情绪异常,小至3个月大的婴儿在心理压力测试中心率会明显快于其他健康母亲的孩子。研究人员担心这可能对孩子心理健康产生持久影响,因此呼吁重视女性产后心理健康。德国海德堡大学、慕尼黑大学、乌尔姆大学和奥地利维也纳大学研究人…