从情感层面而言,AI“复活”亲人无疑是对遗憾的一种弥补,它承载着对逝者的思念,具有重要的现实意义。然而,作为新兴领域的“AI复活”产业,其商业化进程仍处于探索阶段,背后潜藏着诸多法律风险,亟待对这些风险进行类型化归结,以推动产业在发展过程中的制度化建设。
一方面,敏感个人信息收集的合规性风险不容忽视。无论是构建数字纪念馆的单向不朽模式,还是创立逝者虚拟数字人化身的双向不朽模式,都需收集逝者生前的敏感个人信息。在收集过程中,数据收集前提的合规风险尤为突出。诸多法律法规对“AI复活”技术中收集与使用敏感个人数据及训练数据的合法性有严格要求。例如,《个人信息保护法》规定处理敏感个人信息需取得个人单独同意,《互联网信息服务深度合成管理规定》要求提供生物识别信息编辑功能的技术或服务提供者,应提醒用户依法通知被编辑的个人并获取明确同意,《生成式人工智能服务管理暂行办法》也指出生成式人工智能涉及个人信息的训练数据处理活动需获得本人同意。同时,敏感个人信息与逝者人格性利益紧密相连,《民法典》赋予逝者近亲属保护逝者人格利益及救济侵害的请求权。关于逝者人格利益的保护模式,存在直接保护、间接保护与混合保护三种观点。直接保护模式主张承认逝者本身拥有人格权,由近亲属代表逝者行使权利;间接保护模式认为逝者死亡后不再具民事主体资格,通过保护近亲属权益间接保护逝者人格利益;混合保护模式则认为应双重保护逝者本身及近亲属的人格权益。在逝者个人数据遗产属性未明确界定的情况下,混合保护模式更为合适,它能全面维护逝者生前数据的人格价值,防止“AI复活”技术滥用逝者敏感信息,避免对逝者人格尊严的潜在侵害及对亲属的二次心理冲击。相比其他两种模式,混合保护模式兼顾了逝者生前意思表示及亲属人格利益保护,要求利用“AI复活”技术收集、使用逝者敏感个人信息时,遵循逝者生前明确书面同意或在不违背遗愿前提下由近亲属依法、合理、必要授权许可。另一方面,数据安全风险也是敏感个人信息收集合规风险的重要组成部分。服务提供者采集照片、音像等信息时,若安全措施不足,用户隐私和个人信息易被泄露滥用。单向不朽的“AI复活”技术具有开源性,开源数据库若无专业化保护,极易引发数据泄露风险;双向不朽技术应用交互方式自由,训练数据安全需有效保障。深度伪造技术及生成式人工智能技术的数据攫取处理过程,应严格遵循《个人信息保护法》规定的合法、正当、必要及诚信原则,否则会加剧敏感个人数据及不正当利用风险。
另一方面,数据处理中逝者人格权益侵害风险同样存在。“AI复活”相关技术,尤其是双向不朽中构建逝者虚拟数字人化身的技术,涉及大量死者肖像、声音及个人信息等数据处理,不当使用会直接侵害死者及其近亲属人格利益。从保护逝者人格利益角度看,《民法典》《个人信息保护法》等法律为逝者姓名、肖像、名誉等提供保护,近亲属有权要求停止侵权并获精神损害赔偿,还可查阅、复制、更正、删除逝者个人信息,逝者生前也可安排个人信息处理保护。从虚拟数字人的人格性利益角度看,现有法律体系能保护虚拟数字人肖像、名称、声音及名誉利益,“财产说”保护虚拟数字人肖像、名称、声音的财产性权益,多采用知识产权保护体系;“同一说”强调虚拟数字人背后现实主体享有名誉权,自然人在虚拟世界的人格特征及名誉保护延伸至现实社会。具体到逝者虚拟数字人化身,根据“财产说”,其大范围应用可能增加对逝者形象声音利益侵犯风险,如虚拟形象与逝者差异大,可能扭曲用户怀念亲人形象,侵犯名誉权和肖像权;根据“同一说”,名誉权由逝者享有,针对其化身的名誉权侵权行为,视为对逝者名誉权侵权。此外,逝者人格性利益中涉及近亲属部分也需保护,未经近亲属授权同意擅自开发逝者虚拟数字人化身,可能给近亲属带来二次心理伤害。对于公众人物,不法分子易利用开源资源获取其形象声音非法开发利用谋利,如2024年3月部分研发机构未经同意“复活”已逝明星,引发家属谴责抵制及法律手段下架。
再者,逝者虚拟人滥用下的网络诈骗新风险也不容小觑。深度伪造技术利用机器学习和人工智能技术操纵生成欺骗性视觉音频内容,作为双向不朽模式重要技术支撑,虽有经济价值,但破坏性强。近年来,基于深度伪造的诬陷、诽谤、诈骗、勒索等违法行为频发,2024年2月29日奇安信集团发布报告指出2023年基于人工智能的深度伪造欺诈暴增3000%。传统诈骗犯罪弱点是害怕实时面部识别验证,而深度伪造技术助诈骗者克服此弱点。“AI复活”产业下生成的逝者虚拟数字人化身,形象声音与逝者高度一致易混淆,不法分子若利用其编造虚假信息与逝者通话,易误导近亲属陷入错误认知,成为诈骗犯罪目标,这种行为不仅侵犯逝者人格权和肖像权,也严重威胁逝者近亲属的情感和财产安全。