当前时间：

当前位置： 首页 > 网络安全 > 治理监督 >

网络安全
热点新闻

专家解读｜加强深度合成算法安全科研攻关 推进深度合成服务综合治理

发布时间：2023-01-16

　　随着人工智能的蓬勃发展，深度合成算法已经成为广泛应用于人们生产生活中的常见技术，在推动经济社会发展的同时，也带来一定的社会管理潜在风险。在互联网信息数据体量急剧膨胀的今天，用户能够获取越来越多经过深度合成的信息数据，其不正当应用也深深影响了正常的网络环境和社会秩序，甚至危害到网民合法权益、社会公平公正以及意识形态安全。
　　为了加强互联网信息服务深度合成管理，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《网络安全法》、《数据安全法》、《个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，国家互联网信息办公室联合工业和信息化部、公安部发布了《互联网信息服务深度合成管理规定》（以下称《规定》）。《规定》是目前我国针对互联网信息服务深度合成技术出台的最为系统的专门性部门规章，为规范互联网信息服务深度合成使用、促进互联网信息服务健康发展、推进网络空间治理、维护社会公平稳定发展提供了重要的法制保障，影响深远，意义重大。

　　一、保障对算法正面正向的管理及应用

　　《规定》着眼于互联网信息内容生态治理，防范深度合成技术的不合理应用，保障网络用户的合法权益，聚焦于建立有效的深度合成服务监管秩序，着重促进发挥算法服务的正向传播作用，营造风清气正的网络空间。《规定》从以下三个方面明确了深度合成算法应用治理的总体方向。
　　首先，明确使用目的，坚持正确导向。《规定》中明确了深度合成技术是指应用于文本、图像、音频、视频、虚拟场景等多个领域的生成合成技术，区分深度合成服务的提供者与使用者，并由此引出治理对象。《规定》中明确了技术应用的底线，指明深度合成技术不能被用于制作与传播危害国家与社会安全稳定的信息，不能被用于侵害他人肖像权等合法权益，鼓励以正向的目的使用深度合成技术，体现出正确的社会价值观。
　　其次，加强监督管理，确保安全可控。《规定》中明确全国范围内的深度合成服务应接受国家网信部门的监督与管理，地方网信部门负责统筹协调本行政区域内的深度合成服务，确保深度合成服务制作、复制、发布、传播等关键环节接受监督管理，并保障技术的安全可控。
　　最后，坚持规范发展，防止算法滥用。《规定》鼓励深度合成服务相关行业自律并遵循公正公平、公开透明、科学合理和诚实信用的原则，促进深度合成技术在不触及应用底线且不违背原则的情况下蓬勃发展，支持行业内自我监管与自我约束。

　　二、明确主体责任，营造良好网络服务秩序

　　《规定》的出台是对维护网络安全、社会安全、国家安全的有力保障。随着基于深度学习的合成服务日益融入大众生活，明确深度合成服务提供者的主体责任是护航社会正常有序运转的应有之义。主要举措包含以下四个方面：
　　首先，建立健全管理制度，保障深度合成服务安全有序进行。《规定》明确要求深度合成服务提供者加强管理制度的建立，包括算法机制机理审核制度、信息内容管理审核制度等。《规定》涵盖了深度合成服务的关键环节，体现了科学、安全、有序的治理思路。
　　其次，制定公开透明规则，保证深度合成服务有规可循。《规定》认为深度合成服务提供者应当制定、公开管理规则及平台公约，并对使用者依法进行身份信息认证。此项举措能够有效保证日后追责有规可循、有迹可查，进一步为责任划分作出明确指示。
　　第三，建立内容审核机制，确保深度合成内容合法合规。《规定》明确要求加强内容管理，确保输入数据处理正当、合法，建立健全特征库，针对深度合成结果进行审核，切实确保深度合成服务被正确使用。这一要求有利于维护数据和个人的信息安全。
　　最后，定期开展安全评估，预防信息安全风险。《规定》强调应避免深度合成服务被有心之人乱用，破坏社会和谐及安全稳定，应当对涉及生物识别信息、国家安全、社会公共利益的模型开展安全评估，排查防范可能存在的风险漏洞。这就要求深度合成服务提供者应不断自查自省，提高自身的技术水平，降低系统性的安全风险，力求从根源杜绝服务滥用乱象。

　　三、明确深度合成内容标识管理制度，加强深度合成信息管理

　　《规定》聚焦深度合成信息内容的规范化管理，确保深度合成内容可识别、可追溯，保障人民群众的财产安全，确保互联网信息传播秩序和国家安全、社会稳定。《规定》从以下两个方面明确了深度合成内容标识管理的具体要求。
　　首先，添加不影响使用的标识，保障深度合成信息内容可识别溯源。《规定》要求深度合成服务提供者对其提供的深度合成信息内容添加不影响使用的标识，保存日志信息，确保该合成信息的发布、传播可被自身识别和溯源。一旦深度合成信息内容被非法使用，相关部门可以迅速溯源追踪信息流向、阻断信息传播、锁定犯罪分子，提高执法效率，减少因此造成的损失。
　　其次，使用显著方式对显著改变信息内容的深度合成信息内容进行标识，保障公众知情权。《规定》要求对生成或者显著改变信息内容的深度合成信息内容，应当使用显著方式进行标识，向社会公众有效提示信息内容的合成情况。对其他深度合成信息内容，应当提供进行显著标识的功能，并提示使用者可以自行标识。这一要求能够有效防止不法分子利用他人生成的深度合成信息进行造谣和诈骗等非法行为，有利于保障人民群众的知情权、财产安全和社会的和谐稳定。

　　四、坚持依法管理，为科技应用保驾护航

　　《规定》以深化互联网信息服务依法管理的客观要求为出发点，建立完善的深度合成信息服务管理体系，确保深度合成技术应用过程中的信息安全。具体措施分为以下几个方面：
　　首先，坚决明确主体责任。《规定》要求互联网应用商店服务提供者应依法依约履行安全管理责任，保障上线产品的合法化，建立健全辟谣机制并及时采取相应的辟谣措施。《规定》对深度合成技术的生产者和使用者进行引导，使其遵守法律法规，树立正确的价值取向，营造良好的网络氛围。
　　其次，坚决落实管理制度。《规定》要求深度合成服务提供者应当设置便捷高效的用户服务体系，按照《互联网信息服务算法推荐管理规定》有关规定履行备案手续并予以公示，对具有舆论属性或者社会动员能力的相关产品按照国家有关规定开展安全评估。《规定》从多个维度落实监管措施，提高用户服务体验，维护信息安全。
　　最后，坚决履行监管要求。《规定》要求各级网信部门对深度合成信息服务提供者履行深度合成信息内容管理主体责任情况开展监督检查，深度合成服务提供者对网信部门依法实施的监督检查，应当予以配合，并提供必要的技术、数据等支持和协助。《规定》确保了互联网信息服务管理有法可依、有法必依、执法必严、违法必究。

作者：陶建华　中国科学院自动化研究所研究员

来源：“网信中国”微信公众号



中共河南省委网络安全和信息化委员会办公室 河南省互联网信息办公室  版权所有     联系我们
      邮编：450008　  豫ICP备17047339号  技术支持：大河数字
  • 二维码手机站
  • 二维码微信公众号