核心提示
2023年6月20日，国家互联网信息办公室公布了中国境内第一批深度合成算法备案名录，众多大厂及AIGC行业先行者成功上榜。这既是中国算法与人工智能风险治理的关键一步，也是AIGC行业合规的重大突破。
今天飒姐团队就为大家详解什么是深度合成算法备案，以及AIGC行业在什么情况下需要备案、如何备案等问题。
一、什么是深度合成算法备案？
截至目前，我国针对AIGC工具的专门性立法有两部，均由国家互联网信息办公室制订并发布：
1. 《互联网信息服务深度合成管理规定》（以下简称“《深度合成规定》”）；
2. 《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法草案》）
由于AIGC本身具有较强的引导或者说诱导能力，借助信息网络技术传播速度快、传播面广的特性，很可能导致AIGC内容在短时间内实现病式扩散，例如不久前某自媒体平台利用ChatGPT制造假新闻并广泛传播博取流量并不当引导部分地区民众舆论的案件，已经明确的向我们展示了AIGC工具本身作为一种舆论引导工具抑或说欺诈工具的风险。正是基于该特性，我国监管机关基于维持社会公共秩序的长期和谐稳定的这一法益出发，赋予AIGC企业对自身算法进行备案的义务。
网信办：加强对《区块链信息服务管理规定》等法规规章的宣传解读:金色财经报道，中央网络安全和信息化委员会办公室印发《网信系统法治宣传教育第八个五年规划（2021-2025年）》，其中指出要加强对《关键信息基础设施安全保护条例》《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《区块链信息服务管理规定》等法规规章的宣传解读。[2021/11/18 6:57:19]
那么首先我们需要明白所谓深度合成技术指的是什么。根据《深度合成规定》第二十三条之规定，深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：
（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；
央行、网信办等五部门发布关于规范金融业开源技术应用与发展的意见:10月28日消息，中国人民银行、中央网信办、工业和信息化部、银保监会和证监会联合发布关于规范金融业开源技术应用与发展的意见。文章指出，近年来，开源技术在金融业各领域得到广泛应用，在推动金融机构科技创新和数字化转型方面发挥着积极作用，但也面临安全可控等诸多挑战。现提出金融机构在使用开源技术时应遵循安全可控、合规使用、问题导向和开放创新的原则。意见表示，鼓励金融机构建立健全开源技术应用管理制度体系，规范开源技术的引入审批、技术评估、合规使用、漏洞检测、更新维护、应急处置、停用退出等行为。支持金融机构制定应急处置预案，应对开源技术潜在漏洞、后门及闭源、停服等突发情况。鼓励金融机构积极参与开源生态建设，依法合规分享开源技术应用经验，共享开源技术研究成果。鼓励开源技术提供商加快提升技术创新能力，切实掌握开源技术核心代码，形成自主知识产权，夯实产业支撑能力。重点在操作系统等基础软件领域和区块链等新兴技术领域加快生态建设，利用开源模式加速推动信息技术创新发展。[2021/10/28 6:17:04]
（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；
中央网信办等18个部门和单位联合印发《关于组织申报区块链创新应用试点的通知》:近日，中央网信办会同中央宣传部、国务院办公厅（电子政务办公室）、最高人民法院、最高人民检察院、教育部、工业和信息化部、民政部、司法部、人力资源社会保障部、国家卫生健康委、中国人民银行、国务院国资委、国家税务总局、中国银保监会、中国证监会、国家能源局、国家外汇管理局等18个部门和单位，组织开展国家区块链创新应用试点行动。其中，申报试点分为特色领域试点和综合性试点两类：
特色领域试点的申报主体可以是各级人民政府，也可以是地方有关部门、有关单位（包括但不限于企业、高校、研究机构、金融机构、政府事业单位等），涉及多个单位联合申报的由牵头单位填写和编制完整的申报书。特色领域试点是面向试点工作内容中实体经济、社会治理、 民生服务、金融科技等四个大类16个领域开展的行业性试点。
综合性试点的申报主体原则上为地级及副省级行政区域人民政府，综合性试点原则上是在地级及副省级行政区域开展的跨（多）行业应用，促进本地区区块链技术基础设施集约化、均衡化布局，形成规模化生产级的跨链数据交换支撑能力，推动形成多方协同的区块链产业生态，助力本地区经济社会数字化转型和高质量发展。[2021/10/15 20:32:29]
（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；
历史上的今天 | 网信办要求区块链信息服务提供者填报备案信息:2019年1月10日，国家互联网信息办公室发布《区块链信息服务管理规定》，自2019年2月15日起施行。其中要求，区块链信息服务提供者应当在提供服务之日起十个工作日内通过国家互联网信息办公室区块链信息服务备案管理系统填报备案信息。
2019年1月10日，韩国战略和财政部宣布了对2018年税法执法法令的拟议修正案，该法案将于今年2月开始执行。韩国政府在其“研究与开发税收减免中增加了16个领域，包括区块链等技术，以促进创新。
2018年1月10日，田纳西州州议员杰森·鲍威尔（Jason Powell）向田纳西众议院提交一项新法案，该法案将承认区块链签名是合法的电子记录。[2020/1/10]
（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；
（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；
动态 | 天津市委网信办建设全球首家数据银行试点 运用区块链等技术:据天津日报报道，在第三届世界智能大会期间，天津市委网信办将与北京易华录公司合作建设全球首家数据银行试点——天津数据银行（试点）。其中包括，北京易华录公司运用区块链等技术，建设数据资产流通管理和运营平台，作为数据银行试点运营后台。[2019/5/23]
（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
以上列举式的六类应用外，根据《管理办法草案》第六条之规定：利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
因此在《管理办法草案》生效后，如果该条款没有大的变动，我们还应当根据该管理法版第二条之规定，将涉及“算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。”囊括入“深度合成技术“的范畴内。
二、哪些深度合成技术算法需要备案？
飒姐团队提示，并非所有的深度合成技术都需要其服务提供商进行备案登记，在技术中立原则的指导下，仅有满足特定条件的深度合成技术服务提供商才需要对其算法进行备案。
具体来说，进行深度合成算法备案的AIGC行业主要集中在《深度合成规定》第十九条规定的“具有舆论属性或者社会动员能力的深度合成服务提供者”这一范围中。但在实践中关于什么是“具有舆论属性或者社会动员能力”的界定标准却相对较为模糊。
根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条，具有舆论属性或社会动员能力的互联网信息服务，包括下列情形：
（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；
（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。
严格意义上讲，AIGC并不属于上述第一款中服务提供者所提供的任何一项服务，大多数的AIGC目前也并没有将自己只作为一种社交媒体平台。一家之言，飒姐团队认为，在基于前述AIGC本身在社交媒体平台上具有广泛传播的风险的情况下，从实质性监管的角度来看，其大概率符合“公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务”的这一兜底性条款。
因此，从这个角度来说，基本AIGC行业的所有赛道的服务提供者们都可能涉及深度合成算法备案，包括而不限于文本生成、图像生成、视频生成、音频生成等。最重要的判断标准在于用户群体的开放程度，如果该服务提供者面向不特定公众提供服务，那么基本上就在《深度合成规定》的辐射范围内。
三、如何进行深度合成算法备案
首先，备案方式为网上备案。根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》的要求，符合备案要求的服务提供者应当在安全管理服务平台（地址；http://www.beian.gov.cn/）上进行备案。
在备案过程中，影响备案成功率最重要的一份材料就是深度合成服务提供者递交的《评估报告》。深度合成服务提供者和技术支持者提供两类特定功能的模型、模板等工具的，必须提供自评估或委托专业机构进行安全评估后出具的《评估报告》：
1. 生成或者编辑人脸、人声等生物识别信息的；
2. 生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。
由于以上两类服务涉及的领域及信息较为敏感，评估具体内容应当在基本评估维度之上，增加与《个人信息保护法》《网络安全法》及《数据安全法》相符合的评估标准。
一般而言，评估标准有七大项，分别为：
（1）安全管理负责人、信息审核人员及安全管理机构设立情况；
（2）用户真实身份核验及注册信息留存措施；
（3）对用户账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息，以及用户发布信息记录的留存措施；
（4）对用户账号和通讯群组名称、昵称、简介、备注、标识，信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施；
（5）个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施；
（6）建立投诉、举报制度，公布投诉、举报方式等信息，及时受理并处理有关投诉和举报的情况；
（7）建立为监管部门和执法部门依法履职提供技术、数据支持和协助的工作机制的情况。
写在最后
深度合成备案制度是我国人工智能及算法风险治理的一项重要创举及新突破，飒姐团队建议，AIGC行业务必在咨询专业合规人士的情况下进行算法安全评估以及深度合成算法备案。
肖飒lawyer
个人专栏
阅读更多
金色早8点
Odaily星球日报
金色财经
Block unicorn
DAOrayaki
曼昆区块链法律
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。