“AI换脸”想换就换？下一个受害者也许就是你！
“AI换脸”，相信大家都不陌生，只需要一张照片，通过深度合成技术，任何人都能成为热播影视作品中的主角，甚至表情、神态都足以以假乱真。然而，近年来，伴随着技术门槛的降低和应用场景的增多，“换脸技术”的应用早已突破原来的娱乐范围，甚至成为不法分子牟利的手段。
今年6月，浙江省杭州市萧山区检察院对一起利用“AI换脸”技术侵犯公民个人信息案依法提起民事公益诉讼。图为庭审现场。任何人都可能成为受害者
“引起我们注意的是，虞某在传播淫秽物品牟利的同时，还会为他人提供换脸视频‘定制’服务，并传授换脸软件的使用方法。”在参与虞某刑事案件的讨论时，兼任该院公益诉讼检察部门负责人的章蕾了解到，虞某会根据客户提供的视频或照片，制作、生成特定的换脸视频。除此之外，虞某还会在网络社交软件上直接销售“AI换脸”软件，传授客户使用软件的方法并且提供相应的素材。而客户要求“定制”换脸的对象不仅包括一些我们熟知的公众人物，也有生活中的普通人。
“任何人都可能成为受害者。”章蕾说，近年来，滥用“AI换脸”技术实施各类侵犯个人信息的行为并不鲜见，仅凭一张换脸照片或者一段换脸视频，或编造新闻、炒作热点，或侮辱诽谤、实施勒索诈骗，“该类行为在网络传播的叠加下，危害结果会产生裂变，对被侵权人造成的伤害往往是长久的、持续的、难以弥补的。”
要捍卫隐藏在私益背后的公益
技术本无善恶
但技术的使用需要规制
各方声音
深入推进互联网检察公益诉讼
全国人大代表
浙江省检察公益诉讼形象大使
浙江省永康市阳光爱心义工协会
名誉会长 黄美媚
检察机关作为公共利益的代表，针对该类关于民生、关于普通群众切身利益的问题，更要立足检察职能，依法能动履职，冲破私益保护的局限性，更好地破解司法实践当中的困难，以司法实践来提升公众对国家法治、个人安全、社会治理的信心。互联网检察公益诉讼已成为依法治网体系建设的重要内容，深入推进互联网检察公益诉讼的时机已经成熟。建议推动在互联网相关领域立法中增设检察公益诉讼条款。
推动实现“善治”与“善智”的双赢
浙江理工大学数据法治研究院副院长
数据法学创新团队负责人 郭兵
我一直关注人脸信息安全，也关注着该案的办理进展。一方面，人脸信息如果被随意收集、存储、使用，势必会给个人带来严重的安全风险，进而造成网络空间的失序，任何个人都可能成为人脸信息滥用的受害者，身处网络空间的每一个人都将难以获得安全感，这对正常的网络秩序无疑具有极大的破坏力；另一方面，随着人脸识别技术在我们的日常生活中被越来越广泛地使用，类似“AI换脸”的技术应用也层出不穷，不法分子可以非常便利地通过“AI换脸”技术实施电信网络诈骗、敲诈勒索等违法犯罪活动，对公众的人身、财产安全具有极大危害。通过引导和规范新技术应用，强化源头治理，加强包括人脸信息在内的公民个人信息保护，既需要以检察履职推动实现“善治”与“善智”的双赢，更需要各方合力共治。
深化“AI换脸”系统治理源头治理
最高人民检察院第八检察厅副厅长
邱景辉
针对利用生成式人工智能技术生成淫秽色情、虚假有害信息等法律、行政法规禁止的内容，危害他人身心健康，侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益的犯罪行为，杭州检察机关协同公安机关、审判机关，在进行刑事追诉的基础上，通过民事公益诉讼以“诉”的确认体现司法价值引领，与今年8月15日起实施的《生成式人工智能服务管理暂行办法》同向发力，彰显了国家为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，进一步加大执法司法力度的信心和决心。
本案的启示还在于，结合反电信网络诈骗工作，对于利用生成式人工智能技术向公众提供生成图片、视频等内容的服务中出现的公益损害违法行为，检察机关可以协同公安机关和行政监管部门，对境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点App加强治理，及时发现人脸识别验证系统存在的风险隐患，督促服务提供者按照《互联网信息服务深度合成管理规定》进行查纠整改，督促服务提供者严格履行法律责任。同时，依据《互联网信息服务深度合成管理规定》，对于《境内深度合成服务算法备案清单（2023年6月）》中列明的应用于人脸图像、视频生成场景，将用户上传的照片与特定形象进行面部融合，生成融合后的人脸图像、视频等主要用途的算法，检察机关可以会同相关职能部门强化对技术支持者的监督，积极探索算法监督检察公益诉讼，深化“AI换脸”问题的系统治理、源头治理。
