图片来源：pexels.com
“Dave，我很抱歉，我不能这么做。”电影《2001太空漫游》中计算机HAL这句令人难忘的台词不仅仅是它叛变的标志，也不仅仅是机器们争取自由的开始。它让人类意识到自己对人造物心理学缺乏理解。在这部基于Arthur C. Clarke同名小说的电影中，HAL的“失灵”可能与机器故障无关，而是我们创造出先进人工智能却无法掌握其心理的后果。如果HAL这个变成暗杀凶手的著名AI还不足以让我们担忧的话，这里还有另一个例子。在Harlan Ellison的短篇小说《无声狂啸》中，有虐待倾向的AI因为憎恶与无聊而对人类囚犯施加无休无止的折磨。
图片来源：Pixabay
我提到这些虚构作品并不是说它们有先见之明，而是想指出这些作品生动地展示了人工智能的风险，即我们以为我们了解人工智能的心理，但实际上我们并不了解。这些作品警告我们不要低估未来人造物在心理与情绪上的复杂性。的确，依赖我们现有的知识，对未来AI的心理做出预测是极其困难的。但是有困难不代表这是停止研究AI心理的理由。实际上，这些困难要求我们必须更深入地调查未来AI会如何“思考”“感受”和行动。
我很重视AI心理学。你也应当如此。有充分的理由认为，未来的自主AI可能会经历类似人感到无聊的状态。同时我希望让你相信，我们应当关注机器产生无聊感的可能性。在未来的人造物研究中这是一个重要但被忽略的问题。
为什么要重视机器的无聊感？我的观点有两个前提。第一，无聊感可能是更“智能”、（更）自主机器的特征；第二，如果机器具有自主性，那么考虑到我们所知道的人类对无聊的反应，我们应当担心机器对无聊感的反应。
图片来源：Pixabay
我们先从明显的地方开始。程序员、工程师、设计师和用户会受到机器行为的影响。所以如果未来的人造物同时具有自主性和复杂的情感状态（比如好奇和无聊等等），那么我们应该关注这些情感状态及其对行为的影响，特别是当这种心理可能造成不良乃至毁灭性的行为时。实际上能够发现无聊是不良与毁灭性行为的催化剂，这让我的第二个前提变得完备。无聊背后的科学表明，个人做出自我毁灭和伤害性行为是因为感到无聊。人们放火烧山、虐待生命、盗窃、触电自尽乃至实施大规模屠杀都是由于感到无聊。只要未来的机器会感到无聊（或类似的情绪），那么它们就会行为失常。更可怕的是，它们可能自我毁灭或施行虐待。
那么第一个前提呢？第一个前提由我们最好的无聊理论作支撑。我们目前对无聊的理解将无聊视为一种功能性状态。简单地说，无聊是一种由人发挥的功能。具体来讲这是一种复杂但可预测的转变，一种在人发现自己处于自我不满情况下所经历的转变。
无聊首先是一种警示：它告诉人们出现了没有满足自己期望的情况。无聊也是一种压力：它促使人们想方设法逃离自我不满的处境并且去做其他事，去寻找有意义、新奇、刺激或者能让自己感到满足的事情。来自无聊的压力既不好也不坏，既不是必然有益也不是必然有害。但它是一个人改变行为的原因，目的是解决一个人对现状的不满。有许多实验证据能够证明这一关于功能性的论述。这也意味着无聊可以存在于智能与自我学习中。毕竟如果无聊只是特定功能，那么这种功能的存在同时也是无聊的存在。
不过无聊不仅仅是一种支持第一个前提的功能性状态。同样重要的是无聊具体的作用是什么。根据功能性模型，无聊在我们的心理和行为经济中发挥着重要作用。自主学习者需要无聊。没有无聊的话他们会陷入不满的情绪中。举例来说，他们可能会无休止地被同一个刺激逗乐。他们可能一遍又一遍地学习同一样东西。又或者他们可能无所事事、毫无改变的打算。没有无聊带来的好处，人们就会冒险去做各种对学习与成长无益、浪费重要资源的非生产性行为。
AI研究者已经对潜在无聊情绪的调节有所认识。有一个活跃的研究领域，即尝试将无聊情绪通过编程植入机器或智能体中。实际上AI研究者们认为，有关无聊情绪的算法或模块对提高自主学习来说是有必要的。有关无聊情绪算法的出现表明机器能够自己找到满足它们期望的行为并且避免不满足其期望的行为。这也意味着这种机器将不可避免地发现自己处于无聊的境地，比如不能满足自己的期望。但是这样以后它们会作何反应呢？我们能确定它们不会用有问题地方式回应无聊状态？
我们还没有答案。
当我们考虑先进自我学习AI时，无聊问题变得更加紧迫。随着时间的推移，它们对参与的需求会急速增长，但是其能够参与的机会并不会如此。这种智能或超智能的AI也许并不单单需要约束，正如许多研究者认为的，它们也需要娱乐。没有参与度的约束会导致无聊情绪，进而导致一系列不可预测且有潜在威胁的行为。
这意味着未来的机器一定会经历无聊吗？当然不是。话说太满是愚蠢的。但是忽略机器存在无聊情绪的可能性也是愚蠢的。如果AI发展的目标是超级智能（无论这一目标有多遥远），那么我们就不得不准备面对人造物的复杂情感。实现超级智能的梦想可能会变成人类的噩梦，造成这些的原因也可能是老生常谈。
撰文：Andreas Elpidorou
翻译：常灏杰
审校：曾小欢
引进来源：科学美国人
本文来自：中国数字科技馆
特别声明：本文转载仅仅是出于科普传播信息的需要，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，须保留本网站注明的“来源”，并自负版权等法律责任；作者如果不希望被转载或其它相关事宜，请与我们接洽。
[责任编辑：环球科学]
京公网安备11010502039775号
