网信办出手了！ChatGPT们，劝你们从此谨言慎行

昨日，国家互联网信息办公室发布了一则重磅消息——

《生成式人工智能服务管理办法（征求意见稿）》。

ChatGPT这股风已经吹了4个月，热度依然不减，百度、阿里、商汤、昆仑万维……等诸多厂商已经发布了类似的AI大模型底座和产品。

还有一堆近期刚宣布出来单干科学家正在孵化相关产品。

此项管理办法发布可谓正当时，毕竟风口不好好管理，很可能从和煦的春风变成扰乱世界的妖风。

身为受众，我们也不再想看到类似的回答↓↓↓

《生成式人工智能服务管理办法》一共21条，头部科技在这份文件中看到了几个比较有趣的点——

首先，国家首次官方给生成式人工智能下了定义。

第二条 研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。

本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

如此，所有AI大模型就已经被囊括进去了，ChatGPT首当其冲。

其次，国家明确表态：鼓励自主创新。

国内的厂商支棱起来！

接下来更重要的是，明确了不能生成的内容，AI瞎咧咧的时代就要一去不复返了。

第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

简单来说，就是国家安全、意识形态、民族团结、商业机密、虚假信息、知识产权和个人隐私保护等多个方面都画了圈。

这就到了检验各家真正技术的时候了。

如果提供者给用户提供可编程接口等方式供用户使用，API提供者也要承担相关的责任和义务。

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

而且提供者在开展大模型业务前，要审核报备，该走的程序，一个不能少！文件实施以后（目前只是征求意见稿），各种生成式工具发布之前要去申请的手续。

第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

并且训练大模型的数据要合规合法！尤其指出了数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形。

第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

（一）符合《中华人民共和国网络安全法》等法律法规的要求；

（二）不含有侵犯知识产权的内容；

（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；

（四）能够保证数据的真实性、准确性、客观性、多样性；

（五）国家网信部门关于生成式人工智能服务的其他监管要求。

在训练生成式人工智能时，需要人给数据打上一些标记，让机器能够看懂数据是什么，要干什么，从而让机器能够学习数据中的知识和技能，这就是人工标注。

如果标注员标注数据出现问题，提供者需要负责。

第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

用户想要利用生成式人工智能作恶？那你完了。因为使用生成式人工智能服务，需要用户提供真实身份信息。

第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。

AIGC这么好玩，一玩就好几个小时怎么办？别怕，提供方会根据用户年龄等因素，采取适当措施防止沉迷。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

除了防沉迷保护，提供者还需要保护用户的输入信息和使用记录。（他们真的做得到吗？）

第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

另外，提供者不能生成歧视性内容，包括性别、种族等。麻烦把地域歧视好好管管好吗？

第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

如果用户发现生成式人工智能服务侵犯个人权益，可以要提供者投诉，提供者需要建立用户投诉接收处理机制保护用户权益。

第十三条 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

在服务过程中，提供者要对生成式人工智能产品或服务的质量和安全负责，保证用户在使用过程中不会遇到服务中断、数据丢失、内容错误、安全风险等问题。

第十四条 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。

比如前几天腾讯旗下的微信、QQ 等业务出现了功能异常，包括微信语音对话、朋友圈、微信支付，以及 QQ 文件传输、QQ 空间和 QQ 邮箱在内的多个功能无法使用。

该事故被定性为一级事故，包括腾讯高级执行副总裁、TEG（技术工程事业群）总裁卢山（LS）和 WXG（微信事业群）副总裁周颢（harveyzhou）多位高管遭问责。

用户使用生成式人工智能服务时，提供者还必须得对生成式人工智能产品或服务的生成内容负责，并且防止再次发生。

第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

除了文字生成，图片视频、人脸生成、人声合成等技术可能会被滥用，提供者必须对这些内容进行标识，防止有些人上当受骗。

第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

国家还要求提供者提供可以影响用户信任、选择的必要信息。（这我不太会解读，具体怎样解读小伙伴们可以在评论区讨论）

第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

如果个人权益受到侵犯，且用户投诉接收处理机制失效，用户还可以选择举报。

第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。

用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。

重点来了！如果用户使用生成式人工智能产品违反法律法规，提供者需要暂停或者终止服务。

其中包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件等。

第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

如果提供者违反规定，需要承担法律责任。如果法律、行政法规没有规定的，相关部门会给予警告并责令改正，处一万元以上十万元以下罚款。

第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。

法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

大家可通过以下途径和方式提出反馈意见：

1.登录中华人民共和国司法部 中国政府法制信息网（www.moj.gov.cn、www.chinalaw.gov.cn），进入首页主菜单的“立法意见征集”栏目提出意见。

2.通过电子邮件方式发送至：wajscy@cac.gov.cn。

3.通过信函方式将意见寄至：北京市海淀区阜成路15号国家互联网信息办公室网络安全协调局，邮编100048，并在信封上注明“生成式人工智能服务管理办法征求意见”。

意见反馈截止时间为2023年5月10日。