科技中国杂志

虚拟永生技术与伦理问题

来源:《科技中国》2020年第五期pp.91-95

日期:2020-05-21

  文/李伟 华梦莲(上海财经大学人文学院)

  亲人和朋友的去世会使人特别悲伤,因为他们的去世使与之亲密的人无法再次听到他们的声音,无法在社会意义上与他们互动。然而,现在国外一些科技公司通过虚拟永生技术实现了生人与逝去亲人之间的互动,人们可以通过电脑界面和死去的“陌生人”进行聊天,交流他们死后发生的事情。虚拟永生技术(Virtual Eternity)是能够让精神永存的一种技术,也就是说,它实现了人类意识的数字化。国外的初创科技公司,包括Eternime、HereAfter、Nectome、Intellitar 、Hereafter Institute与MIT媒体实验室正在致力于虚拟永生的研究与售卖。虚拟永生技术的到来,一方面,能够减轻人们失去亲人的痛苦,让逝去的亲人以虚拟人的形式出现在计算机屏幕中,并能够实现逝去的死者与亲人如同生前那样互动;另一方面,虚拟永生技术将会产生诸多伦理问题。

  一、致力于虚拟永生技术的科技企业及组织

  Eternime、HereAfter、Nectome、Intellitar、Hereafter Institute等公司与MIT媒体实验室都致力于虚拟永生技术的研究探索。虚拟永生是指人类的精神自我可以以第一人称上传到非生物媒介,让精神永存的一种理论(MIT科技评论,2019)。虽然虚拟永生技术“利用了网络、AI技术、数字助理设备和通讯对话等手段,让一个人的音容笑貌能长远地生存于网络空间,同时具有实时和互动感”(张田勘,2019),但是每个公司所采用的手段与技术理念都各不相同。本文将重点介绍HereAfter、Eternime、Nectome与Hereafter Institute四个公司。

  (一)Hereafter

  Hereafter公司是由James Vlahos 和 Sonia Talati共同创办的科技公司。Hereafter创始人James Vlahos的父亲死于癌症,在其父亲因癌症去世之前,Vlahos为了永远保持父亲的声音和微笑,他希望用人工智能的手段让父亲永远生活在互联网上。在他父亲生命的最后三个月里,James Vlahos记录了其父亲生命中的各种对话和场景。最后,James Vlahos录制了91970个单词,并创建了一个对话人工智能Dadbot。通过Dadbot,James Vlahos可以和他已故父亲的电脑化身交换文本和音频信息,谈论彼此的生活,一起听歌曲,聊天和互相开玩笑。为了纪念父亲,James Vlahos还将人工智能软件上传到社交媒体。令James Vlahos大吃一惊的是,他收到了很多人的要求,希望Vlahos能帮助他们创建自己亲人的虚拟人,于是他决定开辟一个尚未开发的“虚拟永生”市场,因此创办了Hereafter公司。

  (二)Eternime

  Eternime是2014年创立并设立在罗马尼亚的一家初创公司,公司承诺将使其用户“以虚拟化身的形式永垂不朽 ”。Eternime官网如此描述所需要采取的行为及目的:“Eternime收集您的想法,故事和回忆,整理它们,并创建一个看起来像您的智能化身。”(Eternine,2019)根据 Eternime 的说法,参与项目的人需要提供自己的所有记录,包括访问联系人、生日、Facebook上的对话历史、电话通知,以及电子邮件帐户、位置、教育和工作历史、体育运动、家人或合作伙伴成员的身份、在社交网络上的兴趣和“喜欢”、所有“在线”和“离线”活动、照片和视频等等(DeepTech,2019)。这个项目旨在通过开发一种新的人工智能系统用于收集人的“足迹”,包括记忆故事、思想甚至是声音,然后创建用户的数字头像,用户的家人可以在用户去世之后和虚拟头像保持互动。网站存在的目的,是保存用户的思想、故事、记忆,以便于让这些用户的亲人能在用户去世后与其进行互动。除此之外,还有一个更大胆的目标,就是创造一个集齐人类思想、故事、回忆、文化的数字博物馆(留学帝,2017)。

  (三)Nectome

  Nectome官网显示“Nectome是一家致力于发展记忆科学的研究公司。我们设计并进行实验,以发现大脑如何物理地创建记忆。并且,我们开发了生物保存技术来更好地保存记忆的物理痕迹。”(NECTOME,2019)简而言之,Nectome是通过戊二醛保存人的大脑并上传到计算机中的一家科技公司。对于什么是利用生物保存技术来更好地保存记忆的物理痕迹,在Nectome官网上有十分具体的描述,由于其中的一些专业术语对非生物学专业的人士来说不够友好,在此不再赘述。简而言之,戊二醛固定可能能够以全面的方式保存编码典型生物的长期记忆的信息(McIntyre R,2019),即分子生物保存。该公司的联合创始人罗伯特·麦金太尔(Robert McIntyre)声称用户的大脑可以在一种化学溶液中保存数百年,甚至数千年,并有望在未来使科学家能够扫描大脑并将其转化为计算机模拟,并作为数字意识生活。该技术的运用有一个主要障碍:人的大脑必须新鲜。因此,Nectome打算将患有绝症的人连接到心肺机上,以便在他们仍然活着但处于全身麻醉的情况下,将充满防腐剂的化学物质泵入脖子的颈动脉中(Rogers J,2018)。

  (四)Hereafter Institute

  艺术家加布里埃尔·巴西亚·科伦坡(Gabriel Barcia-Colombo)在LACMA的Art + Technology Lab创立了Hereafter Institute,这是一种身临其境的个性化艺术装置,旨在让人们思考他们的数字化遗物将要发生的事情(Laden T M,2016)。通过3D身体扫描和动作捕捉,客户站立时双脚分开与肩膀的距离,手臂稍微伸出,在技术人员扫描身体时在转盘上缓慢旋转。人去世后,研究所可以在电脑屏幕上展示他们的图像,并使服务对象看起来像从事他或她生活中喜欢的活动。Hereafter Institute主要通过两种方式实现虚拟永生:其一是定制的黑胶唱片,该唱片能够将死者的社交媒体时间轴转换为音频音调;其二是“参与式虚拟现实装置”,“在该装置中,我们邀请客人进入一个不断扩展的世界,在这里他们可以重访死者,与生者交流,甚至计划自己的来世。”(Laden T M,2016)

  二、虚拟永生技术的必要手段及特征

  通过对已存在以虚拟永生作为卖点的科技公司的介绍(虽然不是全部已存在公司)及这些公司通过何种方式实现虚拟永生后,本文将视角转向通过技术手段实现虚拟永生所应该具备的手段与特征。关于手段与途径的说明非常重要,它们是区分虚拟永生技术公司与其他人工智能公司的关键。各个科技公司都在通过自己的手段来实现虚拟永生,这些手段对于每个公司来说都是商业机密,核心内容肯定不会透露给公众,但是每家公司都会向公众阐述虚拟永生基本的实现原理,有的机构还会让用户提前体验,如MIT媒体实验室。下面会列举实现虚拟永生所要的必要手段及特征。

  (一)大量数据

  逝者生前的大量数据是实现虚拟永生最为关键,也是最为重要的因素。无论是Eternime、HereAfter、Nectome、Intellitar、Hereafter Institute还是MIT媒体实验室,在论述实现虚拟永生的途径时,都包含了获取大量数据的说明。这些数据可以分为简单数据与复杂数据,区分简单数据与复杂数据的依据是收集数据信息的难度及数据信息的表现形式。简单数据如HereAfter收集创始人父亲的谈话、讲述、生活场景等数据信息;Hereafter Institute通过3D身体扫描和动作捕捉收集到的人物动作信息;Eternime收集的联系人、生日、Facebook上的对话历史、电话通知,以及电子邮件帐户、位置、教育和工作历史、体育运动、家人或合作伙伴成员的身份等信息;MIT媒体实验室收集公开言论、博客文章、社交媒体的文章、照片、短信和电子邮件等数据信息。复杂信息如Nectome开发的生物保存技术来更好地保存记忆的物理痕迹,由于大脑信息不像普通文本信息那样收集起来更为简单,因此本文将其归纳到复杂信息中。

  (二)通过某种手段来进行数据收集

  上文所述,数据信息是实现虚拟永生的关键,那么收集数据信息的方法也不可忽视,因为方法的确立能够让数据收集得更为充分,也让虚拟永生技术产生更好的效果。数据收集分为两种模式,被动收集与主动收集,所谓被动收集指的是虚拟永生公司的数据主要来源于用户自己提供的数据信息,主动收集指的是虚拟永生公司的数据来源于自主收集。从Eternim需要用户提供自己的所有数据,再到Hereafter通过手动收集父亲生前的数据信息,Hereafter Institute通过3D身体扫描和动作捕捉收集用户信息,MIT媒体实验室通过应用人工智能技术将用户每天大脑产生的所有数据收集起来,到更为困难的Nectome利用生物技术从人的大脑收集信息,可以看出虚拟永生公司对数据信息收集从简单到复杂的过程,也可以看出大数据、人工智能技术将会在虚拟永生技术应用的过程中扮演更重要的角色。

  (三)死者的可视化

  死者的可视化是虚拟永生的最大特点及最大卖点,也是各个虚拟永生技术公司所承诺的用户与逝去的亲人的最终互动模式。无论是Eternime、HereAfter、Nectome、Intellitar、Hereafter Institute还是MIT媒体实验室通过何种方式收集数据信息,收集到多么海量的数据,都是为了用户能够同逝者像生前那样互动,例如实现最基础的交流功能。可视化意味着用户可以重新见到死者,虽然只是死者的生前虚拟形象,但是那些形象是会动的,且有自己的思想,跟冷冰冰的照片比给人更为亲近的感觉。逝者的可视化表现也是用户愿意付出巨额资金加入到虚拟永生项目中去的主要原因。值得注意的是,虚拟永生公司试图提供的虚拟人除了没有实实在在的肉体之外,其他与现实生活中的人别无二致。虽然现阶段的科学技术无法达到这个要求,但是在不久的将来,虚拟永生中的“逝去的亲人”将会有自己的思想,且能够进行自主学习,在与亲人进行互动时,能产生自己的想法。

  三、虚拟永生技术的伦理问题

  毫无疑问的是,一项新兴的科学技术,特别是人工智能的发展必然会引发一定的伦理问题,虚拟永生技术也不例外。值得注意的是,虚拟永生技术正在被众多公司进行商业应用,这也是导致相关伦理风险的关键因素之一。一般而言,虚拟永生技术的道德挑战包括但不仅限于以下几个方面,这些伦理问题不仅会出现在中国,同时还会出现在整个世界的虚拟永生技术应用之中。

  (一)数字遗体成为牟利手段

  从伦理上讲,人的尊严要求被视为逝者信息的数字遗骸不能仅仅用作达到目的的手段,例如利润,而应被视为具有内在价值的实体(Öhman C&Floridi M,2018)。 这个观点几乎符合康德的观点,虽然康德义务论第二个公式主要指的是人,但是在分析虚拟永生伦理问题时,也可以将屏幕上“逝者的形象”看作真实的人,因为随着虚拟永生技术的发展,“逝者”除了没有肉体之外,其他都与在世时一样,包括语言、行为与思考模式。许多公司将虚拟永生作为获取利润的手段,那么虚拟永生中逝者及其所有的信息及数据也将是公司获取利润的手段。由于逝者并非真实存在的人,所以许多公司不会将其作为具有内在价值的实体,即作为目的看待。虚拟永生技术中的逝者必然也应该被当作一个理性的存在者,即他们也应该拥有尊严和作为人的价值,这就要求他或她永远不能被剥削、被操纵或仅仅被用作达到其他任何目的的一种手段。因此,有的虚拟永生公司从康德目的原则看来是不道德的。

  (二)虚拟人破坏现实道德世界

  虚拟永生的机器人会不断增强,以至于对社会或道德世界产生影响。例如,随着聊天机器人的不断增强和更新,它们所描绘的人的形象也会随着时间的推移而改变;甚至在用户死亡后的5年内,他们注册的聊天机器人很可能已经发展成为一种更为复杂的东西(Öhman C&Floridi M,2018)。虚拟永生的未来发展谁也无法预料,发展的结果是好是坏也无法被人所知晓。从科学伦理学的角度来看待虚拟永生技术的发展,必须思考到未来其可能带来的一系列问题。例如,高度智能的虚拟永生系统是否会产生人类世界之外的第二个虚拟世界?虚拟永生中的虚拟逝者是否会产生自己的意识,引发现实世界的战争或经济危机?虚拟逝者是否会摆脱人类的管控,顺利通过图灵测试以求控制人类?虚拟永生技术是否会引发现实社会的伦理道德困境,并以他们的道德准则来规定现实人类及社会的伦理规范?这些问题都值得我们思考,并做最坏的打算。

  (三)虚拟永生世界中的虚拟逝者伦理行为问题

  虚拟永生技术中的虚拟人可以看作是在虚拟世界中真实存在的人,由于虚拟人高度智能化,除了与现实生活中的人没有同样的躯体之外,其他都一样。因此在虚拟世界中,邪恶的虚拟人将会作出一系列不道德的行为。例如,它们都涉及在虚拟环境中发生的行为,在虚拟环境中,由人类控制的虚拟角色在未经其用户中的至少一人同意的情况下,参与性外显行为(性接触、性交等)的表示(Danaher J,2018)。又比如,虚拟逝者角色是否会在虚拟世界中谋杀其他角色?虚拟角色会不会产生各种歧视?虚拟角色虽然不是现实社会的真实的人,但是在虚拟世界中他们就是真实的,真实性会引发虚拟世界中类似现实社会的道德难题。对于在世的亲人来说,虚拟永生技术带给他们亲人第二次生命,但是随着人工智能的不断发展,虚拟世界的亲人也许会被他人伤害,这种伤害或许会导致虚拟亲人无法再次重生,这对于现实中的亲人或许又是一种打击,并引发社会对虚拟永生公司的声讨与反对。

  (四)用户隐私数据控制问题

  Rahnama博士认为,未来的15年到25年,个人将成为增强永生的主流。数据是虚拟永生技术所依托的最为重要的元素,数据也是该种技术引发伦理问题的关键。要避免虚拟永生技术产生的用户隐私问题,“用户必须对数据有完全的控制权,而 Google、Facebook 等公司或许不会合作。因此,‘增强永生’项目也在激发人们对数据收集和控制的探讨。”(腾讯科技,2016)数据归属问题一直以来都是大数据技术伦理问题探讨的核心,就像本文前半部分所描述的那样,虚拟永生技术公司可以通过两种方式获取数据,分别是用户自己提供与公司自己获取。虚拟永生技术公司获取数据的第一种方式是符合伦理道德的,关键在于数据获取后的使用与保存是否存在伦理风险。虚拟永生技术公司是否会按照一定的数据伦理法则来运用数据?是否会将逝者数据卖给其他公司和个人?虚拟永生技术公司能否保证数据安全存储?虚拟永生技术公司是否有足够的技术来抵挡黑客对逝者数据的盗取?这都值得我们进行思考。

  (五)安乐死伦理问题

  虚拟永生中人的安乐死伦理问题。Nectome公司想要实现虚拟永生必须将人脑信息转变为机器能够读取的信息,为了实现这个目的,必须将人安乐死。Nectome打算将患有绝症的人连接到心肺机上,以便在他们仍然活着但处于全身麻醉的情况下,将充满防腐剂的化学物质泵入脖子的颈动脉中(Rogers J,2018)。安乐死是否符合伦理、符合法律,一直以来被各个国家政府、法律人士及伦理学家所探讨,许多学者都表达过自己的看法,本文不再赘述。本文想要探讨的是虚拟永生技术的存在,会将安乐死伦理问题重新纳入到社会讨论之中。对安乐死伦理问题的讨论或许会波及到对于虚拟永生技术是否能够在伦理道德的框架内被社会所接受,并且情况将会更为复杂。

  随着虚拟永生技术的不断发展,世界上越来越多公司将会踏入这个领域,并试图让这项技术被更多人接受,这是毋庸置疑的。虚拟永生技术除了会引起一般的伦理问题之外,还会由于不同国家、不同习俗及信仰引发其他的伦理问题,这些伦理问题值得全世界的伦理学家、科学学家及虚拟永生技术工程师思考。本文对虚拟永生技术的伦理难题进行了粗浅的探讨,但这还远远不够。对于中国来说,中国未来将会有更多的老年人去世,虚拟永生这个能够减轻亲人离世痛苦的技术必然会得到更多人的支持。虚拟永生技术将会如何发展,中国人对其态度如何,将会产生哪些中国特定的伦理问题,对于这些问题,时间会给我们答案。

  【基金项目】

  上海财经大学研究生科研创新基金项目(项目编号:2018110287);上海财经大学研究生科研创新基金项目(项目编号:CXJJ-2019-383)。