生成式AI监管来了！国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》

4月11日，国家互联网信息办公室（简称“网信办”）发布通知，就《生成式人工智能服务管理办法（征求意见稿）》（简称“《意见征求稿》”）向社会公开征求意见，意见反馈截止时间为5月10日。  网信办表示，制定本办法的目的为促进生成式人工智能健康发展和规范应用，并在办法中明文表示“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源”。 网信办定义，所谓“生成式人工智能”，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。网信办明确研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。 在服务提供者的准入资格方面，《意见征求稿》要求利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。 其中，《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》由网信办和公安部在2018年11月发布，旨在维护网上信息安全、秩序稳定，防范谣言和虚假信息等违法信息传播带来危害。重点评估内容包括：用户真实身份核验以及注册信息留存措施，个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施等。 《互联网信息服务算法推荐管理规定》于2021年12月由网信办、工信部、公安部、市场监管总局联合发布，聚焦算法推荐服务乱象问题，构建算法安全治理体系，规范互联网信息服务算法推荐活动，规定要求服务提供者应当在提供服务之日起十个工作日内履行备案手续。 针对用户端，《意见征求稿》明确，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。 在此基础上，《意见征求稿》详细地分别对提供生成式人工智能产品或服务，对用于生成式人工智能产品的预训练、优化训练数据提出明确要求。 《意见征求稿》明确，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合五项要求： （一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。 （二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。 （三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。 （四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。 （五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。 《意见征求稿》明确，用于生成式人工智能产品的预训练、优化训练数据，应满足五大要求： （一）符合《中华人民共和国网络安全法》等法律法规的要求； （二）不含有侵犯知识产权的内容； （三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形； （四）能够保证数据的真实性、准确性、客观性、多样性； （五）国家网信部门关于生成式人工智能服务的其他监管要求。 此外，《意见征求稿》还对一些可能的情形提出针对性的要求，比如：提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容；提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务；提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成；提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销等。 在意见征求稿的最后，还拟定了提供者违反办法规定的处罚，处罚包括终止利用生成式人工智能提供服务，具体分为两大类情况： 1、供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。 2、法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。