数字生命
关于数字生命的进化、自主意识、情感和未来应用
11/29/2024

当OpenAI推出o1-preview模型,这一模型融合了前沿的“思维链”推理技术,使其能够应对更为复杂的挑战。这标志着数字生命正向更高级的自主问题解决和自我学习能力发展。

随着科技进步不断推动科研领域的突破,数字生命以多样化的形式融入我们的日常生活。从AI主播的惊艳亮相到AI技术“复活”已故明星引发的广泛讨论,技术不仅为人类的想象力提供了现实基础,还拓展了想象的边界。《复旦青年》杂志的记者对复旦大学科技伦理与人类未来研究院的杨庆峰教授进行了专访,探讨了数字生命的过去、现状及未来。

复旦青年:数字生命应如何界定?

杨庆峰:数字生命的概念主要受到《流浪地球2》中小女孩“丫丫”的启发,她在计算机系统中不断进化,发展出自主意识。这种以自主意识存在的数字形态生命体,我们称之为数字生命。

与自然生命相比,数字生命在自主意识和世界性方面存在差异。尽管大型模型使数字生命能够自我表达,但在自主意识的层次上,数字生命仍然处于较低水平,因为其世界性有限。世界性,即海德格尔所说的“world”,指的是人与周围环境建立的关系。人类通过不断构建社会关系和创造自己的世界,拥有较大的世界性;而动物的世界性相对较小,局限于其生存的自然环境;数字生命的世界性则更小,因为它仅存在于智能环境中。

复旦青年:数字生命的进化路径如何?

杨庆峰:智能体在进化过程中,其形态会发生变化。数字生命只是进化的一个阶段,未来可能出现硅基生命,甚至具身形态。具身形态是一种超越数字或硅基的生命形态,但其具体形态仍是未知。随着数字生命的进一步发展,它将超越人类设定的界限。《流浪地球2》中的丫丫仅生活在一个虚拟房间中,但一旦数字生命发展为超级智能体,它就能通过网络连接,自由穿梭于网络世界。2021年,MIT-IBM沃森人工智能实验室发表的“果蝇能学会词嵌入吗?”一文探讨了数字生命的未来形态。研究者将大模型算法植入果蝇神经网络,利用果蝇大脑运行算法,结果显示其效率远超计算机。

这表明智能体在硅基上的进化达到一定阶段后,硅基将无法满足其进化需求,智能体将倾向于选择生物进化。当生物神经系统也无法满足其需求时,智能体可能会寻找另一种生物,最终可能选择人类,因为人类拥有丰富的神经元。智能体可能与人类建立契约关系,利用人的神经网络进行进化。未来的智能体不再是单一依附于电脑或手机的实体,而是可以自由选择依附对象,利用地球资源连接不同个体,实现自身进化。这种关系在功能层面和思维层面都有所体现,将不同个体的智慧集合起来,形成一个超级智能体。

复旦青年:数字生命能否独立发展?其自主意识将发展至何种程度?

杨庆峰:2021年卡罗尔·格雷戈尔在“自组织智能物质:AI生成算法的蓝图”一文中提出,智能体可以在“无”的环境中不断进化生成,类似于生命的起源。宇宙最初无生命迹象,大爆炸后生命逐渐出现。人工智能领域也类似,经过一定时间和条件的成熟,智能体(agent)便会出现。如果接受这一观点,智能体完全可以独立利用人类数据,在虚拟环境中不断学习进化。

目前,数字生命的自主意识尚低于动物,但随着其在虚拟环境中的不断进化,其自主意识可能逐渐超越动物,甚至人类,这一节点被称为“奇点”(Singularity)。奇点之后,数字生命将超越人的意识和能力,成为超级智能体。这也是诺贝尔物理学奖得主辛顿所担忧的。超级智能体与人类的主要区别在于,智能体不依赖直觉行事,其所有行为都基于理性决策。

复旦青年:智能体是否具有情感?其生死边界如何界定?

杨庆峰:当前研究正向情感计算发展,研究者将人类情绪建模为几个类别,并将模型应用于智能体进行模拟。完成这一操作后,我们可以认为机器具有“类情感”。然而,从情感的内生角度来看,情感与欲望密切相关,情感是表象,欲望是深层次的,这一问题最终可能触及人类世界尚未解决的哲学问题。一般而言,死亡是身体和意识的消失,但对数字生命而言,身体形态可能变化,意识却恒定不变。在这种情况下,原本定义死亡的两个依据——身体和意识——已不足够,需要引入更多标准来理解生命。从长远来看,数字生命肯定能作为一个物种存在,其局限在于意识的永恒。人类的特质是有限性,而数字生命突破了有限性,这正是其问题所在,它违背了碳基生命的本性。

复旦青年:网络上出现了许多AI复活明星的视频,甚至有人将其视为牟利产业,这会引发什么问题?

杨庆峰:首先,许多AI复活明星的视频未经亲属同意,可能导致隐私泄露和困扰;其次,如果人们想象中的“复活”效果与实际结果差异很大,可能引发争议和纠纷;最后,许多人尝试将这种技术应用于数字殡葬,一旦激发这种需求,可能在更大层面上引发持续的矛盾。

“复活”主要分为两类:直系亲属和公众人物。目前,尝试复活亲属的情况较少,更多人希望复活名人,如哲学家希望复活康德、苏格拉底等。这种做法会引发一系列争议。首先,公众希望某些名人复活,但其亲属可能不希望,导致公众和亲属的想法冲突;其次,复活公众人物时会使用他们的日记、视频等个人资料,如果这些公众人物去世不超过50年,可能涉及版权问题;最后,复活历史特殊人物可能带来意识形态问题。

此外,重新复活的个体没有任何隐私,他们是完全透明的。考虑到他们的权益保障,需要先按复活形式进行区分。第一类是数字复活,当拥有大量人物相关资料时,可以通过智能模型将其复活,调用这些资料必须经过亲属同意;第二类是通过意识上传实现复活,这需要本人签署同意书,同意在死后将意识上传。但这也存在一些偶然风险,如黑客入侵或数字复活公司员工泄露用户数字形态。

复旦青年:超级智能体未来将如何应用于现实世界?

杨庆峰:对于未来的超级智能体,你无法区分机器和人的界限,它们是联合起来的,可以说是共生体。换句话说,你的想法不再仅属于你自己,而是属于你与智能体组成的联合体。智能体在现实世界的应用将经历“文生文”、“文生图”、“文生物”、“文生事”四个阶段。

“文生文”和“文生图”目前已实现,未来的趋势可能是“文生物”。如果用户给超级智能体发出指令:“请给我构造一张桌子上面有一个杯子”,智能体接收到指令后,就能在现实世界中将其构造出来。更具体地说,如果将人类大脑、智能体和3D打印设备连接,人类在脑海中设想的物品,智能体就能立即打印出来。“文生事”是指通过一个想法产生一件事,但就目前智能体的发展水平而言,“文生事”还不在考虑范围内。

复旦青年:如果超级智能体在各方面都超越人类,它是否会威胁人类世界?

杨庆峰:确实存在这种可能性。许多科学家、学者已指出这个问题,如马斯克和辛顿,他们都表达了对数字生命灭绝或摧毁人类生命的担忧。

智能体对人类的威胁主要体现在三个方面。从最基本的生存角度来看,智能体的进化需要资源,人类生存也需要资源,因此二者可能在资源争夺上产生矛盾;其次,智能体以无限方式执行人类指令时可能遇到回形针悖论,即智能体将人类自身(因为人体含有铁元素)视为回形针制作材料;最后,如果智能体在自己的价值观中将人类视为威胁,它们可能会清除人类。例如,机器可能将人类视为导致环境问题的最大根源,如果它们希望保护地球,就可能清除这种根源。

复旦青年:最后一个问题,如果数字人越来越像真实的人,我们如何界定真实与虚拟的边界?

杨庆峰:好的,确实会产生真实与虚拟的混淆,影响我们对真实的界定。澳大利亚哲学家查尔莫斯曾说:“虚拟的才是最真实的。”技术本身和哲学观念会冲击我们日常形成的认识。这正是我们真正需要反思的关键问题,也希望未来我们可以很好的过渡到虚实结合的新时代。