“AI复活”技术在一定程度上可为失去至亲之人缓解悲痛,但其应用绝不能逾越伦理与法律红线。面对诸多法律风险与安全隐患,应秉持以人为本、尊重人身自由与人格尊严的科技治理准则,精准施策,降低技术发展带来的“次生灾害”。
一、逝者个人数据的人格权益保护路径
针对“AI复活”技术所涉逝者个人数据保护,有学者提出数字遗产保护路径,但在数据财产属性不明且逝者个人敏感数据承载重大人格利益时,需明确人格权益保护路径。首先,严格落实“知情同意”原则至关重要,我国相关法规如《生成式人工智能服务管理暂行办法》等,可保护逝者个人敏感数据所承载的人格性利益,其中“知情同意”是核心。《个人信息保护法》赋予死者近亲属广泛权利,在不损害死者人格尊严及违背生前意愿前提下,可发挥死者个人信息经济效用。提供AI复活逝者服务前,应确保获得死者生前书面同意或家属明确授权,签署书面文件,尊重家属意愿与情感,避免未经授权服务造成伤害或隐私侵犯。
其次,“AI复活”技术应用中收集个人数据应遵循《个人信息保护法》规定的合法、正当、必要及诚信原则。其一,收集前除取得书面同意或授权外,还应明确数据处理目的,确保数据类型与目的直接相关。其二,进行最小化数据收集,只收集必要数据,如照片、声音、视频等,避免收集非必要信息,如财产状况。其三,保证数据收集活动透明度,向逝者近亲属或公众明确说明数据收集目的、范围和使用方式,增强信任。最后,建立明确数据销毁机制,设定数据保存期限,超期或目的实现后及时销毁,销毁过程考虑人性化因素,尊重逝者尊严和家属情感。
二、通过专门立法规定划清“AI复活”产业红线
尽管生成式人工智能技术在我国兴起不久,但我国已制定《生成式人工智能服务管理暂行办法》等规定,对“AI复活”技术却缺乏专门法律法规规制。建立专门立法确保AI“复活”技术应用合法性,明确产业红线十分必要。具体机制包括:其一,建立强制标注机制,防止人工智能生成内容误导公众。“AI复活”技术的服务提供者应在死者复活视频或音频合理位置显著标识及加暗水印等,说明内容为人工智能生成,避免非法用途。数字人平台也应对数字人形象明确标注,让用户知晓其虚拟属性,防止混淆。其二,建立逝者虚拟数字人化身或数字纪念馆的保存和销毁机制。明确管理者,确保合法合规使用。出现严重侵害逝者近亲属人格利益、开发者无力管理或无法实现目的等情况时,建立相应销毁或保存机制,避免对个人隐私、社会秩序和伦理道德产生负面影响。其三,建立逝者数据保护机制。通过安全存储、控制访问权限、脱敏处理等措施保护逝者数据隐私,同时制定数据泄露应急响应计划,迅速应对数据泄露,减少损害。
三、监管部门与服务提供商开展协同监管与分类审查
从监管主体层面,需建立监管部门与服务提供商协同监管机制。监管部门要迅速行动,实施全面监管,加强对“AI复活”行为规范性管理,有效识别解决营销诈骗等问题,打击违法违规行为。服务提供商承担连接上下游的双重责任,有义务提示用户,确保生成内容合规,建立健全监管制度,加强内容传播平台监管,严格审查内容,对违法或不良信息及时下架。
从监管对象层面,应根据所复活逝者身份,制定差异化审查标准,采取分类审查机制。对于“复活”英雄、烈士等重要社会影响人物,监管机构实施严格事先审批,审查使用目的、开发者资质,评估社会影响和风险,制定防控措施。而对于“复活”明星等公众人物,可采取灵活事后追责机制,根据行为对社会、文化、道德等方面影响和后果,评估是否违法违规,依法追究责任人法律责任。
“AI复活”技术虽有缓解悲痛之效,但其应用需在严格保护逝者人格权益、明确产业红线、协同监管与分类审查的框架下进行,方能确保技术发展与伦理法律相契合,真正发挥其积极价值。