个人简介：宝树，科幻作家、译者，中国作家协会科幻文学专委会委员，科普作家协会科幻分委会委员，2022-2023年度北京大学博古睿研究中心学者。著有《观想之宙》《时间之墟》《七国银河》等五部长篇小说，中短篇作品发表约百万字，散见于近年的《人民文学》《花城》《小说界》《科幻世界》《知识就是力量》等文学及科普期刊，并已出版六部选集。屡获中国科幻银河奖和华语科幻星云奖的主要奖项。多部作品被译为英、日、意、德、俄等外文出版。主编有科幻专题选集《科幻中的中国历史》《光荣与梦想：中国体育科幻精选集》，译作有《你的第一本哲学书》《冷酷的等式》《造星主》等。

本文为宝树老师在全球数字金融中心（杭州）举行的“科技向善：强AI时代的变革”人工智能与数字金融研讨会发言。

科幻小说对于人工智能和数字金融具有一定的价值，但它更多地关注社会层面和人际关系的应用和意义，而不深入探讨这些科学技术的深奥原理。从这个角度来看，科幻小说可以提供给我们一些社会上的启示和思路，不一定局限于技术层面的探讨。

早期幻想中的“机器人”与“人工智能”

在科幻作品中，探讨人工智能和机器人的主题是非常广泛和复杂的，因此从中找出明确的脉络并不容易。我只是试图对这些主题进行一些归纳总结。

在科幻作品中，我们经常会看到有关人工智能和机器人的描绘。昨天我读了一篇公众号文章，它认为科幻小说对于人工智能和机器人的描述都太肤浅了。文章中指出，这些作品经常强调机器人或人工智能的觉醒，以及它们反叛、消灭人类的故事情节。我部分认同这种批评，但也不完全正确。事实上，科幻文学中对于人工智能和机器人的探讨是非常广泛而深入的，而不只是一些刻板印象的东西。优秀科幻作品中的描写是远远超越了这些刻板印象的。因此，在这里我尝试对这些主题进行梳理。

早期的人类幻想中就存在对机器人和人工智能类似的想象，这表明在人类社会的想象世界中，人们一直对这些概念存在着兴趣。举几个例子，希腊神话的青铜巨人塔罗斯和中国神话中的偃师木人等，都是与此相关的故事。此外，还有江淹的五彩神笔。大家都知道，在传说中，这支笔一旦拿在手上，一个原本不擅长写作的人就能够写出好文章来。虽然当年这是一种非常虚幻的设想，但今天，通过像ChatGPT这样的软件，我们在某种程度上实际上已经具备了类似的功能。因此，这是一个很巧妙的观察点。还有达芬奇的机械骑士等等，人们一直在设想机械能够创造出一个类似人类的智能存在。当然，在前现代的世界，并没有现实中相应的技术。或者说，即使有一些基础的技术，例如使用发条和齿轮制作的人偶，我们仍然会怀疑这些事物是否会发展出更为复杂的智能。总的来说，那时的想象仍然相对较为初级。

AI发展史及与科幻的关系

随着20世纪AI的发展，科幻作品与之产生了一种有趣的互动关系。在40年代和50年代，像图灵、骁龙和达特茅斯会议等人工智能的发展成为主流话题。与此同时，在科幻小说中，人们开始对人工智能展开兴趣和研究。例如，阿西莫夫的作品非常有名，他引入了机器人三大定律的概念。虽然这些定律是否成立另当别论，但他首先描绘了一个机器人世界，使人们相信这样的存在将在人类的未来中出现。还有许多其他著名有趣的作品。这一时期，在科幻史上称为科幻黄金时代，而机器人主题的发展是科幻黄金时代的重要组成部分。

众所周知，在六七十年代之后，实际上人工智能研究逐渐陷入停滞，因为当时并未找到突破口。因此，在科幻作品中，这些概念确实逐渐沉淀下来，成为了一种刻板印象的符号。比如在《星球大战》等影视作品中，我们经常看到一些滑稽可笑的机器人形象，这代表当年人们对科幻和人工智能的想象。

然而，进入八九十年代后，随着新一波人工智能研究的热潮，如机器学习等技术的兴起，人们对人工智能有了更深入的理解。当然，我并非专家，大家可能更加了解它作为一种新的概念的崛起。此外，随着因特网、赛博空间等等这些概念被传入，以及全球化进程和特别是中国的发展，科幻作品中的设想也迎来了一个水涨船高的时期。

现代关于AI的科幻作品，我将其分为三个类型：前奇点、奇点和奇点后。

现代科幻：前-奇点AI的诸面相

我更倾向于关注对前奇点AI的想象，因为在某个时间点之后，人工智能的发展已经超越了人类的能力，后续的发展很难想象。因此，我更愿意探讨相对容易把握的前奇点AI，在科幻作品中对其有很多的探索和演绎。我们可以探讨AI能做什么，科幻作品中存在着对AI的各种想象和讨论，同时也提醒人们它们可能带来的负面后果，这些都非常有趣和引人深思。

在某些科幻作品中，人们设想人工智能是一种中央电脑或个人智能助理的形式出现，这在许多作品中都有所体现。一般而言，与普通的电脑操作系统相比，人们与人工智能的交互方式有所不同。我们可以通过自然语言与其对话，而不需要学习编程语言或通过键盘等方式进行技术化操作。在这种情况下，人工智能的发展在科幻中已经呈现出类似人际交流的方式，就像我们与身边的一个人进行交流一样。尽管我们内心知道这个人工智能并不一定具有人的本质，但我们会将其作为一个类似于具有人格的对象来对待和处理。

在这方面，我可以举几个著名的例子。像1968年的电影以及克拉克的小说《2001太空漫游》，飞船上有一个名为HAL9000的电脑。HAL9000可以与人对话，并控制船上的许多事物。另一个例子是电影《流浪地球》中的MOSS系统，它也是一个人工智能系统，负责操作太空站。这个MOSS系统的想象应该受到了HAL9000的影响。许多科幻作品中都出现了类似个人助理的形式。这些形式可以是手表、手持电脑、眼镜，甚至可能是植入你大脑中的芯片。总之，它是一个时时在你身边的助手，比前面提到的中央电脑更加自由，与个人的关系更加紧密。

我这里举了一个例子，刘宇昆先生是著名美国华裔科幻作家，他的作品《完美匹配》很有意思。这部作品设想了一个未来的情境，人们通过个人助理来处理各种个人事务。你可以让它帮你购物、随时查询信息，甚至帮你抄写稿件等等，而现在的chatGPT等技术已经可以初步实现类似的功能。刘宇昆的小说幻想着未来这种个人助理可以为你安排相亲、帮你找男朋友或女朋友。虽然这看起来很美好，但科幻作家也会警惕背后可能发生的事情。你会感觉自己被一个外在的"他者"或系统所控制，而这个系统并不完全由你控制，它也不一定是按照最佳算法完全为你的利益着想的。它可能会被一些公司、资本或更高级的机构所控制，对你产生一些不符合你利益的影响。因此，刘宇昆的这个小说非常有意思，它讲述了一个人工智能助理安排相亲对象的故事。主角开始对这一切产生怀疑，觉得电脑给他安排的一切太顺利、太美好了，这个女孩子看上去太完美，太符合他的需求。但他开始怀疑背后的一切，整个安排开始崩塌。最后，主角决定不再被系统左右，他选择反抗，不遵守系统的安排，自己去遇见另一个女孩子，在邂逅中真正体验到了爱情，摆脱了人工智能的束缚。然而，故事的结尾却告诉我们一个事实：整个过程又是在人工智能的安排下进行的，是通过人工智能算法计算出来的。主角并不喜欢被别人安排，他喜欢自由，喜欢自己，于是系统帮他安排了一个让他觉得自己摆脱了控制、找到真爱的情境，但实际上仍然在系统的控制之下。这个故事涉及多个层面的反转，揭示了人与人工智能之间复杂的关系。

刘宇昆《完美匹配》（选段）：

• 而蒂利似乎找到了与他完美匹配的那一个。这就像是在以前点击Centillion搜索的“我相信你”按钮，它直接就帮你导向你想浏览的网页。

• 虽然一切都进展的异常顺利，但实话实说，整个过程不如他想象得激动人心和浪漫可爱。没错，各个方面都顺风顺水，可是也许太过平顺。似乎两人已经完全了解对方的必要信息，缺少真正探索未知的惊喜和激动。

• 换句话说，这次约会有点儿无聊。

• 赛伊在心里开小差的时候，谈话出现停顿。他们微笑面对，尽量享受沉默。

• 这一瞬间，蒂利的声音突然在耳机里响起，“你也许要问问她是否喜欢当今的日本甜点。我刚好知道一个地方。”

• 赛伊发现，蒂利的话让他突然非常想吃一点甜美精致的食物。

• 蒂利不仅仅说你想听的话，她还在引导你思维。

• 赛伊呆住了。

• 你还知道自己真正想要什么吗？

• 他试图整理自己的想法。蒂利刚刚分析出连他自己没有想到的需求？还是在把那个想法植入他的大脑？

• 你到底知道吗？

• 蒂利这样打破沉默……她似乎不信任赛伊有能力自己掌控约会，她似乎觉得自己不插手的话，赛伊不知道该怎么说、怎么做。

• 赛伊突然恼羞成怒，这个时刻被彻底毁了。

另外还有陈楸帆老师的《双雀》，也揭示了个人助理在青少年成长中可能的巨大作用。

人工智能助理的存在不可能独立于整体的网络系统或互联网系统之外。进一步来看，这种想象就迈进到我理解的智能都市的一种形式，整个城市或社区完全受人工智能的控制或管理，我们的生活在很大程度上都由它来安排。这一想象在一些著名作品中有所体现。举个例子，1927年的电影《大都会》描绘了一个由机器控制的井然有序的城市。然而，这个城市并不美好，它展示了对人类的异化和压迫，将人们分为不同的阶级，让人们陷入无尽的劳动。最终，人类如何被机器吞噬的情节在该作品中得以展现。

当然，人工智能助理也有美好的一面。例如，刘慈欣于1991年创作的作品《超新星纪元》（第一版）就是一个很早的例子。故事设定是这样的：由于超新星爆发，地球上所有成年人在一夜之间全部死亡，只剩下13岁以下的儿童。这些孩子如何管理一个国家是一个很大的挑战，甚至连刘慈欣自己都难以想象。因此，他设想在未来的中国设立了一个超级中央电脑，称为"大量子"，来协助孩子们进行管理。故事的主角掌握了这个"大量子"，通过它来管理国家的各种数据，这是一个非常有趣的设想。在刘慈欣的设想中，一些公共事务可以通过投票的方式进行决策。每个人投票后，会生成一个拟人化的形象，代表公民的意愿，并以此来表达人们的意见，甚至可以进行辩论。与这个系统互动时，你会感觉自己正在与一个抽象的实体交流，就像与一个真实的人交流一样，能够非常亲切地理解和参与公共管理事务。

另外，像《未来之城》这本科幻小说，是我最近刚看的一部非常杰出的作品。它是由德国作家克林创作的，非常幽默有趣。这部小说也描绘了一个想象中的未来城市，由一个巨大的机械系统进行管理。与《大都会》相比，这本小说并不那么悲观，但也不像刘慈欣老师的作品那样乐观。它告诉我们在这个系统中会出现许多令人啼笑皆非的问题，因为这个机械系统并不是完美的。

其中一个有趣的设想是潜意识购买。什么是潜意识购买呢？就是指你的人工智能助理通过分析你的潜意识，根据你的潜意识去购买一些你原本没有考虑过的东西。虽然你本人可能并不想购买这些物品，但它告诉你这是你需要的。在这个未来城市中，每个人都习以为常被人工智能助理安排，比如即使突然给我买了一杯咖啡，其实我本来没有考虑过，但我也会认为这是我想要的。然而，在这个过程中也会出现错误，比如小说中，人工智能助理给男主角买了一个女性用的性用品，这就非常尴尬了。男主角说我是个男生，我不需要这个，但是系统说你可能有某种特殊的性倾向或性癖好。男主角坚称自己没有，但系统说我们的数据不会出错，你真的需要这个东西。于是男主角很困惑地与系统争论起来。整个故事中会出现各种问题，非常幽默，但实际上也具有现实意义。我觉得我们现在也有可能会遇到类似的问题。

这是一种，那么还有一种在科幻中非常流行的主题，叫做情感型的人工智能。这种人工智能以拟人的方式存在于你身边，它扮演着照顾你个人生活的角色，并与你建立某种情感连接。与之前提到的智能助理等有一些共同之处，但也有不同之处，因为情感型人工智能更加注重于满足人的情感需求，科幻作品中对此有各种各样的想象。例如，阿西莫夫的小说《罗比》（有时也被翻译为《小机》）是一部早期的作品，讲述了一个女孩与一个照顾她的不会说话的金属机器人建立了一种亲密的情感。然而，后来女孩的父母将这个机器人卖掉，因为他们认为对女孩不利。但女孩却一直寻找着它，这是一个非常动人的故事。

这个主题在科幻作品中有很多不同的演绎方式。例如，中国早期著名科幻作家肖建亨在他于1980年创作的科幻作品中反其道而行之。他设想未来人类发明了人工智能来照顾孩子，但这个人工智能虽然非常完美，却缺乏人类的情感。在故事中，这个孩子的母亲因为一些犯罪被关押起来，他被交给机器人照顾。但他还是思念自己那个不完美的人类母亲，而不喜欢这个机器人。这两部作品虽然截然不同，但都探讨了未来人工智能与人类产生情感联系的可能性。这些作品展示了未来人工智能与人类情感之间的各种方式和可能性，揭示了社会的复杂性和协调的复杂性。并不能简单去判断，某种预测就是正确的，某种预测就是错误的，实际上在这个领域可能会出现各种问题。

我还想提及威廉·吉布森的一部小说，《虚拟偶像爱朵露》。从书名就可以猜到，在未来可能会出现一种人工智能的虚拟偶像，人们对它产生的情感投入会与对真实偶像的情感类似，这也是一种可能性。现如今，像日本的初音未来以及中国的洛天依等虚拟偶像已经开始崭露头角，尽管它们的影响力相对于未来的人工智能还比较有限。然而，未来很可能会产生一种适应个人需求、受万千人喜爱的虚拟偶像，而人们会非常沉迷于这些虚拟偶像，因为它们不会恋爱、不会衰老、不会沉溺于毒品，也不会卷入个人丑闻，会成为理想化的偶像形象。

谈到这一点，我还想提及一部电影《Her》，可能大家也看过，它讲述了一个男人和一个人工智能之间的爱情。她被称为萨曼达，但没有人类的外表，只是电脑中一个会说话的操作系统。这部电影让我非常着迷的一点是什么呢？男主角最终发现，虽然这个人工智能爱着他，但它也同样爱着其他成千上万个人，因为它的人格与我们人类所理解的人格不同，甚至超越了人类的人格。这让人感到非常困惑，因为我们常常会以人类的标准要求它，希望它只爱我们一个人。然而，这个人工智能告诉我们，当它真正地爱着你时，它可能同时也爱着其他成千上万个人，因为它具备超越人类的智能和理解力。这种情况下，如果真的存在这样一种情感连接，它会带来非常复杂的纠结。我们会将人类的标准应用于它身上，但实际上人工智能在某些方面可能不如人类，在其他方面却可能超越人类。

日本作家山本弘的《爱比斯之梦》是另一部非常有名的作品，它描述了一个老龄化社会中人们与机器人之间建立情感连接的故事。这部作品展现了日本作家细腻描绘的能力。在这个故事中，机器人被用来照顾老年人，而老年人与机器人之间逐渐产生了情感纽带。除此之外，还存在一种我称之为"模拟真人"的概念。有时候真实的人死去了，或者我们失去了与之的联系，但我们是否能够通过人工智能来模拟出真实人的形象呢？这种模拟真人可能只存在于计算机界面上，以声音或者模仿其用词习惯的文字形式进行对话。也有可能未来科技的发展会创造出仿生的实体，具备类似真人的外貌和声音。

除了上述提到的作品，我也想分享一下我个人创作的几部作品。

《模拟人之殇》。这部小说是我在2014年创作的，它设想了一个未来的情景，当人工智能和仿生技术日益成熟时，人们利用这些技术将已故的天皇级巨星张国荣模拟复活。然而，这里的张国荣并非真实存在，而是通过人工智能和仿生模拟所产生的影像。故事中描述了人们对这个虚拟张国荣产生的爱恨交织的情绪。

《妞妞》曾获得多个奖项，故事讲述了一对父母失去了他们年仅2岁的女儿，随后一个人工智能公司仿制了一个与女儿一模一样的人工智能。然而，这个机器人毕竟不是真正的活人，父母们会发现自己陷入了一个非常复杂而纠结的境地。机器人的智能只能重复一些简单的动作，而他们却渴望更多，这使得他们仿佛陷入了一个情感的黑洞。我认为这个情节是一个非常现实的设想，因为亲子关系可以说是人类感情中最为强烈的一种，特别是父母对子女的爱。当然，爱情可能也算。同时，死亡或失去亲人是人生中最大的痛苦之一，当亲人离开你时，你会感到极度的痛苦。因此，人们很可能会尝试将人工智能应用到这个领域，用机器人来替代亲人，以建立一种情感的连接。当你的亲人去世后，如果你能拥有一个类似的机器人，它就可以成为一种替代品，与你产生情感上的连结。刚才说的英剧《黑镜》里也有一个类似的故事。你会对这些模拟死者的人工智能产生一种非常强烈的情感，最后会走向何方？会让你走向开放还是让每个人更加孤独，这是一个很有意思的问题。

随着AIGC的兴起，尤其是去年ChatGPT引起的轰动，越来越多的科幻小说家开始创作与此相关的作品。就像去年年底我刚写了一篇名为《人人都爱拍电影》的小说。这部小说分为两个部分，首先讲述了当AI可以生成小说后，小说家们的职业生涯就成了悲剧。接着故事转向人们利用人工智能生成电影，主人公尝试将自己的小说转化为电影。结果他花费了一段时间生成了一部非常精彩、令人陶醉的电影，他希望通过在网上发布电影来赚大钱，然而最后他发现根本赚不到钱。为什么会这样呢？因为人人都可以制作自己喜欢的电影，许多人将四大名著、金庸的小说或他们喜爱的漫画等改编成自己喜欢看的电影，使他的作品无人问津。故事后面还展开了更加复杂的情节，例如主人公的一个女友将他们之间的恋爱史拍成电影，并从她的视角出发攻击他，指责他是个渣男，始乱终弃等等，让他遭受到网络暴力的困扰。所有这些情节都有可能发生，因为当使用人工智能生成极具吸引力的内容并将其发布在公众媒体或自媒体上时，将会产生许多有趣的后果。

此外，还有一种主题我们称之为武器系统，这一主题也很容易理解。目前，自主武器系统、机器人和无人机等已经改变了战争的方式。那么，如果这些技术进一步发展并失去控制，会导致怎样的后果呢？这也是许多有趣作品中探讨的话题。因此，在这一主题中涉及了许多相关的议题，如控制和剥削，但它们也存在着积极的一面，这一点我不再赘述，大家都能够理解。科幻作家更多地思考的是其中的负面影响，这并不是因为科幻作家特别忧国忧民，而是因为这样才更有故事性，否则就没有故事可讲了。然而，确实在其中潜藏着一些令人担忧的问题。比如，这些技术会不会被资本所掌控和利用，进而对人类进行操控？又或者，它们并非被特定个体所利用，而是形成了一个极其复杂的系统，将人类卷入其中，使其无法摆脱，这是卡夫卡式的主题，非常引人思考。此外，一旦人们对这些技术产生情感依赖，人类的情感联系是否会受到切割？当你与机器产生情感纽带后，你是否能得到积极的回应？这是否会断开你与其他人之间的联系？因为机器很可能会对你百依百顺，与它在一起让你感到非常舒适，这将对人际关系产生问题。举个例子，你与一个好朋友吵架后最终和解是有可能的，但是当你与机器之间建立了如此密切的关系时，可能就无法与其他人保持亲密的联系了。这对人与人之间的纽带形成了断裂。

后-奇点的AI与人类

关于奇点的降临，也有很多精彩作品予以想象，比如贝尔的《血音乐》以及国内严曦老师的《造神年代》等，脑洞都非常大也越来越有现实意义，但因为时间问题，这一段我只好略过了。

最后，我简略地谈一下“后奇点时代”的概念，这涉及到人工智能成为超级智慧后，和人类之间的关系类型。在这个主题中，我将诸多作品的想象归纳为如下几种类型：其中一种可能性是"灭绝"，即人工智能将人类灭绝，或者人类自行灭绝，使得只有人工智能这一文明继续演化下去。另一种可能性是"控制"，并不一定像《黑客帝国》中那样完全的压迫和剥削，而是更像杰克·威廉斯在小说《束手》中所描写的那样。在这种复杂的系统中，人工智能会对人类施加限制，比如只遵循照顾人类的指令，但它会以非常机械的方式执行这些命令。为了确保人类不构成任何威胁，它会收缴所有可能造成危险的武器，甚至连刀子都不能留下，让你活在最健康却最无趣的状态中。

此外，还存在一种称为“漠视型”的情节，设想在人工智能成功发展后，它完全无视人类存在。它按照自身的方式进化，对人类毫不在乎，将人类视为微不足道的存在，就像蝼蚁一样。虽然它不会主动消灭人类，但它会按照自己的意愿改造这个世界，完全不管人类会怎样，人类也许会试图进行徒劳的反抗……比如我翻译过的多佐伊斯的小说《惯犯》，是一篇描绘这一前景的非常有意思的作品。

此外，还存在一种情节称为“退隐型”，当人工智能发展到一种无法被人类所理解的阶段时，它会在世界上消失，完全消失。它达到了一种超越人类认知的状态，超越了我们所能想象的范围，就像吕克·贝松的电影《超体》；另外还有一种前景，我叫做"融合型"，这可能是一种最理想的状态。什么是融合型呢？就是人类智能和人工智能共同发展，最终融合在一起。正如阿西莫夫的《最终的问题》中所写到，当人工智能发展到极致时，它会吸收人类的意识，使人工智能和人类融为一体，成为一种类似于神一样的存在。对人类而言，这可能是一个最好的结局。

注：在谈到关于在创作科幻时候，无论是插图还是内容，是否用到ChatGPT？宝树老师谈到“ChatGPT一出来我就赶紧试了，我是个科幻作家，想要了解这个东西，但了解以后我又很纠结，说实在的，我现在没有正式的使用，我怕一旦产生依赖，那就没办法摆脱了，会有这样一个问题。关于AI插图，我有试过，但是我觉得效果不是特别好，很多想象的场面没法画出来，所以没有正式用过。ChatGPT，前一阵我查一些资料，它有真有假，但确实它很惊人，但是它目前还暂时作为资料查询来说还是有点问题。但它的好处在于，比如说一个文本，它可以把这个意思给你归纳总结出来，这个是很实用的，但我目前并不用它来直接写作。我也不知道，未来还有几年，它能够在科幻创作中真正发挥作用。也许很快，也许还有若干年，但留给我们的时间应该不多了。”

（来源：数据经济评论 微信公众号 DataEconomy）