核心提示
2023年6月20日，国家互联网信息办公室公布了全国首批深度合成算法注册名单，AIGC行业多家大型厂商和先行者成功上榜。这不仅是中国算法和人工智能风险管理的关键一步，也是AIGC行业合规的重大突破。
今天撒姐的团队就为大家详细讲解一下什么是深度合成算法备案，在AIGC行业什么情况下如何备案。
1.深度合成算法备案是什么？
截至目前，我国有两部关于AIGC工具的专门立法，均由国家互联网信息办公室制定并公布:
1.《互联网信息服务深度融合管理规定》(以下简称《深度融合规定》)；
2.生成式人工智能服务管理办法(征求意见稿)(以下简称管理办法草案)
由于AIGC本身具有很强的引导或诱导能力，在信息网络技术的帮助下，AIGC的内容很可能在短时间内像病毒一样传播。比如不久前某自媒体平台利用ChatGPT制造假新闻并广泛传播以获取流量，在部分地区不当引导舆论的案例，就已经清晰地向我们展示了AIGC本身作为舆论引导工具或诈骗工具的风险。基于这一特点，我国监管部门基于维护社会公共秩序长期和谐稳定的法益，赋予了AIGC企业自行算法备案的义务。
所以首先我们要明白所谓的深度合成技术是什么意思。根据《深度合成规定》第二十三条，深度合成技术是指利用深度学习、虚拟现实等合成算法产生文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于:
(一)文本生成、文本样式转换、问答对话等技术生成或编辑文本内容；
(2)用于生成或编辑语音内容的技术，例如文本到语音转换、语音转换和语音属性编辑；
(3)用于生成或编辑非语音内容的技术，例如音乐生成和场景声音编辑；
(四)人脸生成、人脸替换、人物属性编辑、人脸操纵、姿态操纵等技术生成或编辑图像和视频内容中的生物特征；
(五)图像生成、图像增强、图像恢复等技术生成或编辑图像和视频内容中的非生物特征；
(六)三维重建、数字仿真等技术生成或编辑数字人物和虚拟场景。
除上述六类应用外，根据《管理办法》草案第六条规定，使用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或者社会动员能力的互联网信息服务安全评估规定》向国家网信部申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案、变更和注销程序。
因此，在《管理办法》草案生效后，如果这一条款没有大的变动，我们还应当根据行政法版第二条的规定，涉及“通过算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”。列入“深度合成技术”范畴。
二、哪些深度合成技术算法需要备案？
撒姐的团队提出，并不是所有的深度合成技术都需要他们的服务商注册。在技术中立原则的指导下，只有满足一定条件的深度合成技术服务商才需要对其算法进行注册。
具体来看，深度合成算法备案的AIGC行业主要集中在《深度合成条例》第十九条规定的“具有舆论属性或者社会动员能力的深度合成服务提供者”的范围。但在实践中，“具有舆论属性或社会动员能力”的界定标准相对模糊。
根据《具有舆论属性或者社会动员能力的互联网信息服务安全评估规定》第二条，具有舆论属性或者社会动员能力的互联网信息服务包括以下情形:
(一)提供论坛、博客、微博、聊天室、交流群、公众账号、短视频、网络直播、信息分享、小程序等信息服务。或者附加相应的功能；
(二)提供民意表达渠道或者其他具有动员公众从事特定活动能力的互联网信息服务。
严格来说，AIGC不属于上述第一段中服务提供商提供的任何服务，目前大多数AIGCs并不认为自己是一个社交媒体平台。总之，撒姐团队认为，从实体监管的角度来看，AIGC本身存在在社交媒体平台广泛传播的风险，其大概率符合“民意表达渠道或者其他具有动员公众从事特定活动能力的互联网信息服务”的一般条款。
所以从这个角度来说，基础AIGC行业所有赛道的服务商都有可能参与深度合成算法备案，包括但不限于文本生成、图像生成、视频生成、音频生成等等。最重要的标准是用户群的开放性。如果服务提供者向不特定的公众提供服务，基本上是在深度融合规定的辐射范围之内。
三、深度合成算法如何记录
首先，备案方式是网上备案。根据《具有舆论属性或者社会动员能力的互联网信息服务安全评估规范》的要求，符合备案条件的服务提供者应当在安全管理服务平台(地址；Http://www.beian.gov.cn/)备案。
在备案过程中，影响备案成功率最重要的材料是深度综合服务商提交的评估报告。深度合成服务商和技术支持者提供具有特定功能的模型、模板等两种工具的，须提供自我评估或委托专业机构进行安全评估后出具的评估报告:
1.生成或编辑生物特征信息，例如面部和声音；
2.生成或编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物特征信息。
由于上述两类服务涉及的领域和信息比较敏感，具体评估内容应以基本评估维度为基础，增加符合个人信息保护、网络安全法、数据安全法的评估标准。
一般来说，有七个评价标准，即:
(1)设立安全管理负责人、信息审核员和安全管理机构；
(2)用户真实身份验证和注册信息留存措施；
(三)保存用户账号、操作时间、操作类型、网络源地址和目的地址、网络源端口、客户端硬件特征、用户发布的信息记录等日志信息的措施；
(四)用户账号和分发群名称、昵称、简介、备注和标识、信息发布、转发、评论和分发群等服务功能中违法有害信息的防范和处置，以及相关记录保存措施；
(5)个人信息保护和防止违法有害信息传播和社会动员功能失控风险的技术措施；
(六)建立投诉举报制度，公布投诉举报方式等信息，及时受理和处理相关投诉举报；
(7)建立工作机制，为监管部门和执法部门依法履行职责提供技术和数据支持和帮助。
写在最后
深度合成备案系统是我国人工智能和算法风险管理的重要创举和新突破。撒姐建议AIGC业界一定要咨询专业合规人员进行算法安全性评估和深度合成算法备案。
本网站声明:网站内容来源于网络。如有侵权，请联系我们，我们会及时处理。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"网信办新动作 事关每一家AIGC平台算法备案"：http://www.guoyinggangguan.com/qkl/142956.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
