故事发生在未来的某一天。你深爱的外公去世了,他生前曾长期饱受阿尔茨海默病的折磨。多年来,外公的病情让全家人都身心疲惫。就在大家还在为失去他而悲痛时,你的哥哥提出了一个想法:通过一家名为ocd的初创公司的“数字永生”项目,重现外公最好的一面。他承诺会处理好所有细节,并准备好与外公相关的数据。之后,你便把这件事抛到了脑后,直到有一天,ocd发来邮件说外公的数字生命程序已经可以使用了。
虽然心里有些不安,但你还是点开了链接,创建了一个账户。你戴上那副有些笨重的虚拟现实(VR)耳机,选择了增强现实模式。眼前熟悉的卧室墙壁一闪而过,外公出现了。这是他确诊阿尔茨海默病之前的样子:他看起来很健康,有点强壮,留着花白的胡子,穿着格子衬衫,咧嘴笑着,完全就是你小时候记忆中的模样。图像和动画的质量让你感到震撼。多亏哥哥提供给ocd的家庭视频,这个数字生命的声音听起来和外公一模一样,动作也和他如出一辙。比如,它像外公一样把更多身体重量压在左脚上——这是外公高中踢足球受伤后留下的习惯。
“嘿,孩子。说点我不知道的事。”熟悉的问候让你热泪盈眶。经过几次试探性的交流后,你开始真正投入其中。“我觉得很糟糕,莎莎几周前和我分手了。”你说道。“噢,听到这个消息我很难过,孩子。分手太糟糕了。我知道她是你的一切。”外公的声音令人安慰。这个数字生命在模仿外公的声音和表情方面做得很好,它那饱满而低沉的声音就像外公生病前一样,让人感到安心。其实,只要它说话就好,至于它说什么其实并不重要。你看了看时间,不知不觉已经过去了一个小时。当你准备说再见时,外公说:“记住小玲在我沮丧时总是对我说的话:‘有时候失去一些好的东西,是为了迎接更美好的事物。’”听到“小玲”这个名字,你愣住了——你奶奶的名字是张曦,家里也没有人叫小玲。你颤抖着问:“谁是小玲?”接下来的几周里,你和家人通过这个“数字外公”发现了更多外公生前未曾透露的事情。你们知道了小玲是谁,还有王凡和刘春。你们发现了一些同父异母的兄弟姐妹,也意识到父亲喜欢藏着秘密生活,甚至欺骗家人和其他家庭。几个月后,你发现虽然了解了外公的真实一面,但你也在为那个你以为自己了解的人而哀悼。就好像他又死了一次。
虽然ocd是一家虚构的公司,但故事中描述的技术离现实并不遥远。如今,“数字来世产业”已经可以根据逝者留下的数据重建他们的虚拟形象。比如,微软拥有一项专利,利用某个人的“社交数据”创建聊天机器人。据报道,微软决定不将这个理念变成产品,但并非是因为法律或权利方面的问题。这份21页的专利文件中,大部分内容都是极其技术性和程序性的,详细记录了如何设计软件和硬件系统。其核心理念是利用社交数据训练聊天机器人,即“一个使用文本和/或听觉输入通道模拟人类对话的对话计算机程序”。这些社交数据包括图像、语音数据、社交媒体帖子、电子邮件等。然后,这款聊天机器人会“扮作”此人说话,可能有相应的声音、2D或3D图像,甚至两者兼有。
值得注意的是,虽然科技巨头已经涉足这一领域,但大多数活动并非由大型企业开展。早在5年前,研究人员就发现了一个包含57家公司的数字来世行业。其中包括一家提供以逝者声音互动回忆的公司(HereAfter);一家在用户去世后向其挚爱之人发送预定消息的企业(MyWishes);还有一家根据一位已故女性的“记忆、感受和信仰”制作出其半身机器人的公司(Hanson Robotics)。这个机器人不仅能继续与人类交谈,还参加了一门大学课程。
对于这种技术,人们的反应各不相同。有人觉得激动人心,有人感到害怕,还有人不感兴趣。但不管你有什么反应,只要你使用技术,就几乎肯定会留下数字痕迹。如今,几乎每个使用技术的人都会受到“数据化”的影响——即我们日常活动被以数字数据的形式记录、分析和存档。我们活着时使用数据的方式会产生有意或无意的后果,而这些后果在我们死后仍会对我们产生影响。人类必须面对自己的死亡,而生活的数据化意味着我们还必须面对一个事实:有关我们的数据可能会比我们的生命更长久。因此,关于数字来世的讨论提出了几个相互关联的重要问题。首先,我们是否有权定义自己死后的数字生活?我们是否应该可以选择不在数字来世中继续存在?然而,考虑到数据的“粘性”和分布性,选择退出数字来世的决定真的能够执行吗?一些人主张的删除是否真的可能实现?数据在本质上是永存的,但我们人类显然不是。
许多人并没有采取必要措施来管理自己的数字遗物。我们该如何处理电子邮件、短信和社交媒体上的照片?谁能在我们死后认领它们?我们是否希望为所爱之人保留一些关于自己的东西?有些人可能更希望自己的数字存在随着身体一起消失。那些有条理、有准备的人可能会把密码和用户名告诉家人,让他们在自己去世后尽可能地追踪和删除自己的数字足迹。当然,在某种程度上,这种精心准备并不重要,因为死者不会体验到自己死后被创造出来的数字生命版自己。但一些人认为这种“重生”的想法是错误的。
对于那些看好这项技术的人来说,这类应用程序越来越多,我们可以在活着的时候向其提供数据,这样“数据化”的自己就可以在死后继续存在。这些产品和可能性,有的离奇,有的无害,模糊了生与死的界限。
我们的数字档案(数据化自己)提供了一种通往来世的途径,甚至可能比我们活着时有更多的社交互动。因此,人类社会的界限正在发生变化,因为现在死者可以比以往任何时候都更频繁地出现在生者的生活中。然而,在人权方面,我们尚未充分考虑这对我们的自主权和尊严的影响,因为人权主要涉及生者,死亡通常意味着权利的终结。但有了数据化和人工智能,我们似乎不会“数据化死亡”。我们还必须考虑机器人(与用户或系统在线互动的软件应用程序)可能会在我们死后代替我们发布信息的问题。如果机器人在我们不在的时候利用我们生成的数据来产生我们预期的反应,那么谁是这些内容的真正创造者?这确实是一个令人好奇的问题。
2015年,罗曼·马祖伦科在莫斯科的一场交通事故中不幸去世。他和尤金妮亚·库达是亲密的朋友,两人一起参加过许多精彩的派对,还互相支持对方的科技创业公司。马祖伦科的去世给熟悉他的人带来了巨大的失落。为了纪念他,悲痛的库达领导了一个基于开源机器学习算法的文本机器人项目。她收集了马祖伦科生前与家人、朋友以及她自己的交流信息,利用这些文本对机器人进行了训练。机器人学会了马祖伦科的表达方式,“成为”了他。现在,虽然马祖伦科去世了,但他在生前创造的数据可以像他一样继续存在。然而,马祖伦科无法就他死后数据的使用发表意见,这些数据是被他的亲朋好友复活的。我们能说这对逝者或他的记忆造成了伤害吗?这一行为至少是对自主性的否定。活着的时候,我们有自主性,会按照自己的意愿在这个世界上生活。死后,我们的身体再也不能游走于世间。传统上认为,失去自主性也意味着失去人权。但活着的时候,我们难道不能决定死后如何处理自己的遗物吗?毕竟,我们设计了制度来确保遗赠金钱或物品的交易均依据明确的法律程序进行。查看银行账户余额是否增加,或者谁的名字出现在房产证上,这些都很简单。这些是我们转移给生者的东西。但当涉及我们死后的数据时,情况则复杂得多。与我们的财产不同,这些数据就是“我们”。如果我们不想死后在文本、图像或声音中出现呢?库达通过朋友与她以及与他人的交流文本重建了他。一旦我们死了,就没办法阻止别人利用这类数据。但马祖伦科想要的是什么呢?
根据特定的人来创造机器人的可能性对自主性、许可和隐私有着巨大的影响。如果我们不制定标准,赋予创建原始数据的人表达意愿的权利,我们就剥夺了他们的选择权。如果微软聊天机器人专利这类技术得到实施,也会对人类尊严产生影响。如果仅仅将数据看作人类的“副产品”,那么有人“让我们重生”的想法似乎是可以接受的。但如果数据不仅仅是我们留下的东西,而是我们的身份,那么我们就应该停下来思考,是否允许以数字方式对人进行“复制”。除了微软的专利,我们同样应该停下来思考谷歌克隆他人“精神属性”(也获得了专利)的尝试、灵魂机器公司的“数字双胞胎”,或者初创公司Uneeq营销的“数字人类”(目的是“无限地重新创造人类互动”)。人们之所以会考虑数字永生,部分原因是为了让后代能够与他们互动。然而,要实现永存,我们需要信任那些帮助我们实现这一目标的数据收集者和服务提供商。我们需要相信他们会保护这些数据,并在未来忠实地代表我们。但我们也可以想象这样一种情况:有恶意行为者通过插入关于某人的不真实数据来破坏数据,从而导致结果与我们的意图不同。因此,存在数字永生自我明显偏离真实自我的风险,但届时我们(或其他任何人)如何得知呢?数字永生者是否会受到有辱人格的对待或互动方式,这些是否不能真实地反映此人在现实生活中的行为?我们还没有找到合适的语言来描述这种可能的侵权行为。我们不知道数字版本的我们是否还是“人类”。如果我们将这些永生版本的自己视为活人的一部分,那么我们可能会考虑像活人一样保护自己免受虐待、折磨和侮辱。但是,如果我们把数据当成遗物,那么数字人也是副产品吗?
数字来世也可能面临技术问题。算法和计算协议不是静态的,它们的变化可能会使某些数据难以辨认。社会科学家卡尔·欧曼认为,数字来世的持续完整性在很大程度上是一个软件问题。因为软件更新可以改变数据的分析方式,所以支撑数字永生的人工智能程序所生成的预测也可以变化。当我们同意利用我们的数据“重生”时,我们可能无法预料所有变化。在4evru的故事中,父亲隐藏的事情被揭露出来,反而让他被家人憎恶。那么,数字自我和数字人是否应该被策划?如果是,该由谁来策划?活着的时候,我们自己控制自己。死后,关于我们的活动和思想的数据将被存档和排序,但依据的并不是我们的个人判断,而是数字开发者设定的优先级。关于我们的数据,甚至是令人尴尬的数据,都将脱离我们的直接掌控。虽然创建原始数据的可能是我们,但汇集和分析这些数据的算法掌握在数据收集者手中。当算法对杂乱的现实数据进行分类整理时,它们承载的是其创造者的价值观和目标,而这些价值观和目标可能与我们截然不同。
技术本身也可能阻碍数字永生。未来,能提高数据保存效率的数据格式变化可能会导致我们在从一种格式转为另一种格式时丢失数字人物。存档的数据可能会丢失,产生不完整的数字永生者。或者数据可能被复制,带来数字克隆的可能性。虽然从多个来源获取数据的数字永生创造出的人可能更加真实,但也更容易出现错误、遭到黑客攻击和其他问题。数字永生者可以被编程以便不易接受新信息。然而,真实的人是有机会学习和适应新信息的。微软的专利确实规定可以参考其他数据,从而为当前活动的渗透开辟了道路。这可能是一种进步,因为机器人不会越来越像一个无关紧要的遗物或聚会游戏。然而,机器人获取的数据越多,就越有可能偏离真人,朝着不符合真人情况的虚假版本发展。比如,亚伯拉罕·林肯会对当代的种族政治说些什么?这重要吗?我们应该如何看待这位数字永生者呢?“数字林肯”是一个应受人权保护的“人”吗?我们应该保护这个人的言论自由吗?如果现在认为他们(基于生活在另一个时代的真人)发表的言论属于仇恨言论,我们应该让它闭嘴吗?保护数字永生者的生命权意味着什么?数字永生者可以被删除吗?
自文明之初,来世就一直是个神秘的问题。人类通过宗教信仰、葬礼、精神运动、艺术想象和技术努力来克服对死亡的恐惧。今天,我们的数据独立于我们而存在。数据化使我们能够超越自己的意识和死亡继续存在。如果不落实人权来防止未经授权地使用我们死后的自己,我们就有可能成为他人创造的数字永生者。