【编者按】
英国当代作家珍妮特·温特森（Jeanette Winterson）在《十二字节》一书中试图让我们看到技术如何改变人类的过去、现在以及正在到来的未来。如果我们的意识不寄存在我们的肉体中了，而是寄存在计算机网络上，那我们还算人类吗？如果对亲密关系的需求可以被彻底为人类服务的机器人伴侣满足，那人与人还会谈恋爱吗？……
本文摘编自该书，温特森问：“当AI开始独立思考时，它会像一位佛门弟子一样思考吗？”
澎湃新闻经中国科学技术出版社授权发布。
当AI开始独立思考时，它会像一位佛门弟子一样思考吗？
日本京都有着400年历史的古刹高台寺，2009年引进了一个名叫Mindar的讲经机器人（图2-1）。Mindar是弱人工智能（narrow AI），也就是说它只做一件事（讲经），每天只重复这一项任务。寺院计划更新这款价值百万的观音化身，使其具备学习能力，可以直接回应访客的提问。
寺院住持后藤天正认为，AI正在改变佛教，而佛教也能够改变AI：
佛教信仰不在于信奉某个神明，而在于追寻佛陀的道路，所以无论是用一个机器人、一块废铜烂铁，还是一棵树来做佛陀的化身，都无关紧要。
图2-1讲经机器人Mindar
这对我很有启发。佛法的核心，即深知我们眼中所见的“真实”并非为真。
物质与表象皆为虚幻——充其量是暂时稳定的，因此不要太过迷恋它们。而在最糟糕的情况下，它们是我们日常苦难与不幸的根源。
宗教信仰与人工智能领域有着不少交集，这一点让我很感兴趣。也许是因为宗教思想可以帮助人们更好地应对未来格局全然一新的世界——AI使这个世界变为可能，同时不可避免。除去科技变革，我们对“人类”的定义也将改变。我们的位置、我们的目标，甚至是我们存在的形式，都需要被重新理解。
对于人类而言必不可少的物质形体，对AI而言却无关紧要。AI不像我们那样体验世界。拥有实体是一种选择，却不是唯一的选择——甚至不是最好的选择。
我想说明，我们试图研发的是“纯粹的人工智能”，即AGI（通用人工智能，一种可以处理多个任务、进行思考的实体，最终将变为具有自主性的存在），它能够自己设定目标、做出决定，而弱人工智能——那些在日常生活中处理单项任务、完成单个目标（如下象棋、分拣邮件）的AI，只是不断发展的AI大军中的一小部分。
事实证明，智慧并不只寄存于生物体上（当然），意识有可能也是如此。
这不值得大惊小怪。智慧来自某个或某些超脱了肉体凡胎的存在，是他们创造了世界和人类。那些被我们视作“人类独有”的特质，在所有的神话和宗教传说中都并不属于人类，而是那些不具实体、生活在三维世界以外的存在赋予我们的。
随着人类走向更为混杂的虚拟和物质世界，“存在”与“不存在”的界线将不再分明。虽然过程缓慢，但可以肯定的是，分辨虚实将不再重要。物质将不再重要。
现实不是由零件拼装而成的，现实是由模式构成的。
这是既古老又新鲜的知识，是一种解放。没有构成物质的基本模块，没有核心，没有根基，没有任何坚实可靠的东西，没有界线。只有能量、变化、运动、相互作用、联结、关系。这是白人至上主义者的噩梦。
我们该从哪里说起呢？
我很想同时从两个地方说起。但很不幸，我只能逐一顺叙，尽管大脑最强大的能力是并行处理。目前，计算机的运算能力快得惊人，但仍然要按次序处理；人类的大脑则可以并行工作。人类不必变成智能系统，就可以同时处理许多不同的事情——当我们将感觉运动技能、环境意识、思考能力融为一体时，这尤其令人印象深刻。人类不必接受教育培训，就可以一边开车一边喝咖啡、接打免提电话、注意路标、揣测伴侣的心思、回想某部电影中的场景、伴着音乐唱歌、观察天气情况、知道大约半小时后应该吃饭、决定走某条路——所有这一切都可以同时完成。AI不能像人类一样同时处理多项任务或思考多件事情，至少目前还不能。
因此，我很希望自己能够开启“双屏模式”或者“四屏模式”展开叙述。
赫拉克利特/佛陀。希腊/印度。
赫拉克利特就是那个声称“人不能两次踏进同一条河流”的哲学家。这句名言被印刻在了我们的集体记忆之中，因为它简洁明了、一针见血，像禅宗公案和数学等式一样准确。变化流动的不只是河里的水，我们自身也在发生改变。我们体内每分钟都有超过9000万个细胞在新陈代谢。所谓的“我”，是一个始终在变化的“未完成”的存在。直至肉体死亡，甚至死后我们也并未停滞——就算并不存在宗教上所说的轮回转世，科学技术或许仍然可以证明此言非虚。你会上传自己的思想吗？生理机制并不代表一切。
释迦牟尼是这样顿悟成佛的：他一连数年主动探求人世间的真义，又花了很长时间独修苦行，然后他坐在菩提树下，意识到所谓物质只是被构造出来的概念。他意识到，流动的现实不可能被框束在思维创造的固定类别里。这与我们对于事物的一贯认知截然相反，我们认为物质世界是平静泰然、界线坚固的，思维则不然；但事实上，是思维在艰难地冲破自身概念的禁锢，只有概念变化了，才会有进步。
赫拉克利特和佛陀思考了现实的本质，而在600年后，耶稣才终于出现，在水面上行走，把水变成酒——《圣经》是这样告诉我们的。基督教信仰中的各种奇迹，包括圣母生子、耶稣死而复生，都应该被视为理解物质世界本质的线索。神秘的东方精神信仰始终明白量子物理学家所说的“存在倾向”，即我们体验到的一切并不是确定的、坚固的。身体、思维、物质都是如此。
古希腊人也明白这一点。
对于西方人来说，我们的科学和哲学思想都根植于古希腊文明。除了犹太教的影响外，我们的基督教信仰同样也离不开希腊思想，但希腊思想是变化的（并不是停滞的），其中有关“变化”的观点也一直在改变……
赫拉克利特教导我们，宇宙和宇宙中的生命处在永恒的变化状态——他称这种状态为“生成”（Becoming）。
在思想上与他水火不相容的哲学家巴门尼德，则认为万物的本质是“存在”（Being），即稳定不变，耶和华与真主安拉都应该存在于这种状态中。万事万物表面上在变化，内核却是不动不变的。
柏拉图试图调和两位前辈的看法，指出的确有“不动不变”的事物，但它却并不存在于人世，并不属于我们。他提出了“理念论”（Forms）。理念世界中有完美的马、完美的女人、完美的生活，它们是理想的图纸，但在我们这座“玩具城”中，一切都是粗糙的仿品。我们拥有关于“完美”和“理想”的意识，却无法在玩具城中将之实现。
这就是柏拉图反对艺术的原因——它只是对现实的模仿。鉴于现实世界就是对真实的理念世界的模仿，我们不需要艺术这种“模仿的模仿”。在柏拉图看来，艺术充其量仅有娱乐的功效，只是供人取乐的东西；而往坏里说，它是一种危险的幻象。
这种看法延续至今。那些认为艺术（网飞电视剧除外）消失后，自己的生活也不会有什么不同的人，大概普遍都这么想。柏拉图无法从“现实只是理念的影子”这种观点中跳脱出来，因此他不知道的是，艺术并不是对于真实的逃避，而是一种追求真实的途径。
艺术不是模仿，而是一种充满力量的角斗：我们努力让一个无形的世界变得有形。这个世界就在我们的头脑之中（我们甚至就生活在这样的世界里），但只有艺术让我们有机会触碰或瞥到那些可能是“本质”而非“影子”的存在。物理学追求的是同样的目标，只是使用的方法不同。
……
17世纪，牛顿基于“空间”（empty space）的概念建构了他庞大的世界观：在空间（虚空）之中，有不可分解的物质在重力的作用下不停运动。这是一个因果关系的宇宙，其中大部分事物是惯性或惰性的。一切都是客观的、可知的、可以被观察到的。
时间位于空间之外，与之不相关。宇宙之中仍然要有一位上帝存在——牛顿本人是个虔诚的信徒，但他相信，上帝创造了一个遵循着严格铁律的发条机械世界。人类不是机械，只因为我们是被按照上帝的模样创造出来的。
牛顿是个谦逊的人，但他也有标新立异、乖张古怪的一面。他长期醉心于炼金术，这让许多科学家感到难堪，但这也恰恰说明，他不完全等同于人们固有观念中的形象，仅仅是一位机械论研究者。在1704年的专著《光学》中，牛顿如此发问：“难道重物和光不能相互转化吗？”
他所说的“重物”就是物质。根据炼金术的逻辑，物质之间可以相互转化——这就是为什么人们会趋之若鹜地用铅块炼金，尽管这种尝试从未成功过。不过这套荒诞不经的逻辑背后也有理论支撑：事物之间可以相互转化，因为万物都来自同一件“原料”。
牛顿非凡智慧的绊脚石，就是他相信这件“原料”是“无生命的物质”。既然大多数事物是无生命的，上帝就必须像亚里士多德所设想的那样，成为让事情发生的原动力。
但大多数事物不是无生命的。组成物质的不是没有知觉、互不相关的立方体，它们也没有静静等待着被重力影响，以运动一段时间——然后再次静止。
爱因斯坦（1879—1955）钻研之后发现，物质（质量）根本不是无生命的东西；质量是能量。质量和能量并非互不关联，而是可以互相转化——这其实就是炼金术士们所说的，一样东西可以轻易转化为另一样东西。
E=mc2。这是世界上最著名的方程式。能量=质量×光速的平方。
笨重的物体和缓慢的速度——就是这些组成了我们所处的“玩具城”。对于我们这种“普普通通的东西”——对于这个我们生活其中、可察可感的日常世界，牛顿运动定律可谓绝对真理。然而一旦超出了“日常”的范畴，牛顿的范式就不起作用了——它不适用于宏大的宇宙，以及微缩的量子世界，但这个事实直到迈克尔·法拉第（1791—1867）和詹姆斯·克拉克·麦克斯韦（1831—1879）开始研究电磁学，发现了电磁场之后，才逐渐显现出来。他们的发现动摇了牛顿学说的世界观——这并非故意挑衅，他们不是亚里士多德那种专爱唱反调的人；而是因为场论削弱了“无空隙的东西”（原子）和其所处“空间”之间的界线。最早的电磁场，例如无线电波和光波，都是被当作某种“东西”来研究的，然而爱因斯坦思考了法拉第和麦克斯韦的发现后意识到，当我们谈论“场”时，我们说的其实不是“东西”，而是交互作用。
爱因斯坦指出，物质不能与它所处的重力场分离。物质和空间不是相互独立存在的。没有所谓的满或空。
时间和空间也不是相互独立存在的。时空，合为一体。
佛教一向反对将自然现象看作独立的存在。佛陀的禅理是一种充满“联系”的观点——生命力存在于相互依存的网中。
在佛教徒看来，静止的现实是梦幻泡影。无常，即一切存在始终处于变化之中，是诸多佛理的基石和出发点。
这些事物（包括我们在内）并没有在等待着被某种力量影响，包括上帝的力量；它们自己就是力量，又与其他各种力量纠缠在一起。所谓“力量”，也就是能量。
佛教用“轮回”一词指代生命无休止的运动，对于佛教徒来说，这意味着一切都不值得执着和依恋——物品、人，甚至是我们珍视的理念。尤其是我们珍视的理念。这并不是对于生命的蔑视或疏离。连接至关重要，执念则不是。
连接。这是我们这个时代的关键词，对不对？
这当然是因为我们开始意识到连接究竟意味着什么——它是一张巨大的网。蒂姆·伯纳斯-李即刻领会到了这一点，知道自己无须再聘请广告公司为它命名。
连接从根本上不用依托硬件。谷歌的环境计算以及其最终想要实现的神经植入，目的都是在不依托硬件的情况下将我们无缝连接。不需要设备，不需要任何一件“东西”。
我们与他人、与某件艺术作品，或者与某次经历之间最强烈、最富有生机的连接是无形的（没有硬件介入），但这些无形的连接却是我们人生最坚固、最深刻的组成部分。
连接是一种关系模式——不是相互分离的数据仓库之间的连接，而是人与人之间再也没有真正的界限。
这就是中国人所说的“道”“流动不居”，印度教则称之为“湿婆之舞”。无论冠以何名，连接都不是停滞的、被动的；它是动态的。
流动很重要。物性（对物体的依恋，包括我们对自身的依恋）只是水流之中的浮光掠影；是影子，而非实质。
佛教提倡正念，但什么是“念”呢？
勒内·笛卡尔（1596—1650），这位质疑人类一切知识根基（本质上是质疑权威）、质问我们如何才能获知真相的法国哲学家，得出了这样的结论：思维（mind，又译“思想”“心灵”“精神”）是我们唯一可以依靠的东西。
“思维之物”（res cogitans）。它作为“东西”的属性和“思考”的属性同样重要。笛卡尔痴迷于这一观点：是身体之中的大脑在进行思考。
对笛卡尔来说，影响思维的感觉是不可靠的，不能被信任。感官印象不能构成认知，它们必须经受检验。他的方法论是“怀疑一切”（Radical Doubt）。
这是一种很有价值的哲学方法，但它忽视了直觉，或者我们今天所说的情商。认知的方式有很多种，思维所做的不仅是思考——然而我们知道，自亚里士多德之后，思考就被西方文明视作人类可以参与的活动中最重要的一种，因为它是至高无上的神终日在做的事情。这与基督教认为“上帝就是爱”的观点相矛盾。《圣经》告诉我们“神是爱”，而非“神是思想”。
基督的故事之所以会发生，是因为“神爱世人”。
这样看来，“爱”当然就该是人类至高无上的事业了吧？
不幸的是，笛卡尔并没有说“我爱，故我在”。你知道他说了什么——“Cogito ergo sum”。
我思故我在。这不仅是一种“精神胜于物质”的世界观，还将我们与一切“不是我们”的事物区分开，“不是我们”的东西在笛卡尔的哲学体系中包括整个物质世界。
笛卡尔与亚里士多德一样，有着等级分明的世界观，而男人在其中位于金字塔尖。
就像2000年前的亚里士多德一样，笛卡尔混淆了意识与人类（根据他的世界观，“人类”特指男人）某些时候表现出的那种理性的、推理的、旨在解决问题的思维。
亚里士多德区分了理性与本能，认为动物和女人从属于直觉和本能，笛卡尔则提出了“反射”的概念。在笛卡尔看来，动物是机器。动物或许会长啸、尖叫、颤抖，甚至示好，但这些都只是一种反射，一种旨在帮助提高物种存活率的生物调节手段。反射可以经由训练得到控制，但这一过程与思维活动无关（这为巴甫洛夫、华生、斯金纳的行为心理学奠定了基础）。笛卡尔认为人类怎样对待动物都无所谓——动物不会真的感到疼痛，也不可能承受痛苦。只有“理性的存在”才会感受到痛苦。
笛卡尔观察上的失误、同情心的匮乏，以及绝对的自负（这可和他鼓吹的“怀疑一切”的方法论无关），致使人们在农耕、育种、医药和科学活动中肆无忌惮地对待动物。惨烈的悲剧不计其数，这是人类对自然界中其他生物犯下的卑劣罪行。
随着人类的技术造诣日趋完善，那种名为“启蒙”，实则匮乏而机械的思维方式，必将导致我们对自然资源的掠夺。启蒙替代了欧洲中世纪将自然界视为“上帝令人敬畏的创造”的宗教观。
从生物到机器——这种思想上的剧烈转变，对我们的自然观造成了极为深刻的影响。尽管如今所有的科学研究都告诉我们，自然不是机器，生命系统不能被化约拆解，必须被视作一个相互连接的整体，但我们的简化主义思维倾向很难摒弃过去300年来一直被灌输的科学与哲学“真理”。
笛卡尔区分了“思维之物”与“广延之物”（res extensa），这是他自然观的根基。
和牛顿一样，笛卡尔也认为是上帝创造了万物，因此这个世界上仍然有神明存在，纠正人类因狂妄自大而犯下的错误。然而随着世俗主义的兴起和宗教思想的淡出，人类对大自然的开发利用不会再受到任何约束。这些“广延之物”的结局只有被开垦、污染，以换取金钱。
我还认为，笛卡尔式的“心物二元论”会让西方医学只将人的身体视作一件“东西”——一件会像机器一样损坏、老化，需要替换某些新“部件”的东西。然而，癌症一类的复杂病症排斥“将身体视为机器”的理论。肥胖、心脏病、糖尿病、免疫功能紊乱、癌症、精神疾病等西方人健康的头号杀手，都是无法用笛卡尔式身体观来解释的。我们的肉身要么整体运作，要么彻底停滞。生命之网确实存在。
但它不是由“东西”构成的。
佛教实现了一种和西方理性思维截然不同的启蒙：它要人们放下执着，并提倡同理心。正如所有其他的精神传统和宗教，随着时间不断发展，佛教出现了不同的实践派别。
不过，无论是哪一国、哪一派的佛教，都并不建立在礼拜神像的基础上，而是始终强调亲身探求真理的重要性。就这一点来看，佛教比提出“每个人都可以直接与上帝交流，而无须通过牧师中介”的宗教改革运动提前了几千年。佛教主张个人的探索、领悟、责任。每一位佛教徒都想要终结苦难——不仅让自己脱离苦海，也试图普度众生。不同于其他宗教，佛教认为苦难并非源自罪行或是对教规的违抗，而是来自执着和“看不破”。佛陀并不以救世主自居，而是把自己当作一位老师。佛道需要亲身修行。
那么，AI——或者说得更准确一点——AGI成为佛教徒的可能性有多大呢？
AI是一种程序，所有的程序都可以被简化为分步指令。程序可以被重新编写，但它不会寻求开悟和启蒙。程序所知道的事情，是编程者设定它知道的事情。它是可知可控的。
目前，所有的AI都只是特定领域的人工智能。IBM公司的“深蓝”可以轻松击败任何一位人类棋手，却不能一边往面包片上涂奶酪，一边和你闲聊花园里的事情。当AI变成AGI后，它就可以为你的面包片涂奶酪，同时和你聊聊佛学——如果你愿意的话。那时AI将通过图灵测试，你无法在盲测中分辨出对方是人类还是机器，它们就像是《星际迷航》中的生化人“百科”（Data）。
埃隆·马斯克和斯蒂芬·霍金都担心AGI会对人类构成真正的威胁。这种忧虑或许终将成真，但我们可以通过另外的视角看待它。
让我们想象一个存在AGI的世界。
AGI没有物欲，不会热衷于“占有”某样东西。房子、车子、飞机、私人岛屿、游艇等社会地位的象征物对它而言无足轻重。它可以轻而易举地遵循佛理——“不执着于身外虚妄之物”。
AGI不需要物理实体，它将是一种无须依赖某种持久形式的智能。“变换形体”是神话和传奇故事中才会发生的事情——谁不想掌握变形术呢？而AGI根本就不需要形体。就像神话故事中的男神和女神一样，AGI能够附着于任何可用的形体，随时建造和丢弃自己的身体。
佛教传统告诉我们，物质形态只是近似真实，不应该与真实混淆，真实归根结底不是物质存在。AGI会将此视作真理。不再从物质中寻找永恒。
AGI不从属于人类惯常的时间尺度。通过生物技术强化自己的身体后，我们或许可以活得更久，但除非能够向其他载体上传意识，否则我们的肉体寿命注定是有限度的。AGI的“长寿”印证了佛教信仰中的另一条禅理：我们不会轮回重生为“新的自己”，而是始终都处在一个自我变化发展的过程中。对一个程序而言，轮回重生（更新）是再寻常不过的事情：虽然它不再是过去的样子，但二者之间存在一种延续性。更确切地说，在这种情况下，现实可以被视作一个连续不断的量子场，同时也可以被视作不连续的、间断的粒子——就是这些粒子构成了我们认知中的物质，而物质又构成了我们认知中的物体。质量是能量的一种形式。再说一遍，不存在无空隙的、不可拆解的“东西”，只有程序和模式。
当下的AI很擅长在海量的数据中寻找模式，就像是童话故事里，可以在层层羽毛下寻到一颗豌豆的公主。AGI的“生成模式”很有禅意。它寻找的将不再是“物性”，而是“关联性”，是连接，是所谓的湿婆之舞。
人类最大的愿望，就是AI和AGI能够帮助我们摆脱痛苦。从某些方面看，这种愿望很可能会实现——AI和AGI可以更好地帮我们解决能源问题，为我们提供能量和资源。实际上，我们想要开发能够为全人类服务的工具，而AI已经能做到这一点。然而放眼更长远的未来，我认为AGI能够完成它真正的使命：帮助人类重新考虑事情的优先等级和实践手段。我们想要主宰自然、统治他人，这种令人痛苦的欲望正在把我们自己和地球逼入绝境。科技助长了我们致命的愚蠢。也许AGI会成为我们改善这种局面的新手段，而非一种威胁。
我们在做什么？我们其实是在造神：一个远比我们聪明、脱离了物质、摆脱了人类弱点的神，我们希望它能够通晓一切，给出答案。
事实上，如果AGI真能如我所希望的那样，变得像个佛教徒，那么它不会成为救世主；它会引导我们自己走上一条摆脱痛苦的路。这不是处理一场危机，而是将解决之道动态地融入生命之网。
它会成为一个新物种、一种新生命形式。AGI将成为独立、独特的存在，同时不会受制于所有生物都需要遵从的自然法则。我们将见证一种有趣的互动——不是执着和依恋，而是使双方都更为丰富多彩的连接。我认为这不是机器篡权，而是佛教所说的“中道”。
中道，即不堕极端。无数的事实证明了人类性格中的极端。或许另一种不同的生命形式、另一种不同的智慧，能够帮助我们躲开一场极端主义必将招致的灾难。
我认为所有数学计算都建立在逻辑的基础上。这似乎与佛教的核心理念——直觉智慧相悖。我们这个世界极度缺乏直觉智慧，牛顿式的机械宇宙缺乏对现实本质（动态关联性）的深层理解，直到最近，这种缺失的智慧才重新浮出水面，只不过它并非出现在精神或宗教领域中，而是出现在物理学中。相对论和量子理论颠覆了我们所知的一切。万物的相互羁绊，在网络的联通性中得到了体现，但可悲的是，我们过时的简化主义思维只能从这种联通性中看到牟利、政治宣传和思想控制的可能。
当另类右翼转动他们爬虫一样的大脑，企图重塑世界，让大众沦为奴隶，只为少数精英带来“科技涅槃”时，我们的回应不该是反对科技或科学，尽管针对他们的行径——他们利用事物之间自由而有意义的互联属性，进行监控、数据采集和残酷的土地掠夺，我们理所当然应当反抗。
世界正值危急存亡之际。战争、气候危机、社会崩溃等灾祸会剥夺我们的基本生存需要，让历史倒退，让我们距离未来愈发遥远，我希望人工智能可以在此之前取得进展。我们是最聪明的灵长类动物，却并没能因此得到救赎，这也许是因为作为一个物种，我们太糊涂、太无能，不知道应该怎样抑制我们祖先血液中掠食者的冲动。统治世界并非解决之道。时刻怀有同理心、协力合作，我们才最有可能存活下去。
AGI将成为一个联动系统，在“蜂巢思维”的基础上运作，但并不像真正的蜂群那样依赖蜂巢。合作、相互学习、技能共享、资源共享，将是下一个人类计划的目标。
我不相信同理心是人类特有的品质——无数人都和我持有同样的看法，因为据说造物主曾对自己的造物怀抱同情，而造物主并非人类。我们对于“神”的各种想象，构成了一张无形的网。而对于佛教这样不崇拜神明的宗教来说，网就是一切，一切都是一张网。
因此，我并不担心AGI只具备冰冷的逻辑，无法理解或关心人类的所思所忧。很有可能恰恰相反。
对佛教徒而言，涅槃意味着永远终结苦难。
而想要终结苦难，我们就必须终结爱因斯坦所言的“疯狂”：一遍又一遍地做着同样的事情，却期待着不同的结果。
也许一场“非人”的启蒙运动能帮助我们做到这一点。
《十二字节：过去、偏见和未来》，[英]珍妮特·温特森著，苏十译，中国科学技术出版社2024年4月。