近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。
　　国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
　　《办法》明确了训练数据处理活动和数据标注等要求；生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，并生成内容进行标识等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。
　　人工智能离不开数据、算力和算法，而在本次《办法》中，数据是第一高频词，出现次数高达18次，而算力、算法出现次数为3次和6次。数据方面的具体相关措施例如：
　　推动生成式人工智能基础设施和公共训练数据资源平台建设。
　　推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。
　　鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
　　生成式人工智能服务提供者（以下称“提供者”）应当依法开展预训练、优化训练等训练数据处理活动，需遵守的规定包括使用具有合法来源的数据和基础模型；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性等。
　　同时，《办法》还对提供者数据标注作出规范（开展数据标注质量评估等），并明确了提供者的责任和义务。
　　除此之外，“安全”在本次文件中出现频次也达到了14次。
　　正如国家网信办官网所指出的，如何统筹生成式人工智能发展和安全已引起各方关注。国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
　　▌数据、模型安全使用已成AI持续发展基础
　　近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。
　　我国也已着手从政策层面对AIGC进行相应监管，对模型的安全评估审查、生成式内容标识、用户数据保护等提出多项要求，国内厂商也对AIGC内容监管、鉴伪布局相应产品。
　　实际上，国家网信办4月11日已发布《生成式人工智能服务管理办法（征求意见稿）》，结合《网络安全法》、《数据安全法》、《个人信息保护法》等为生成式人工智能服务的发展护航。该文件关注要点在于产品安全评估审查、生成式内容标识与用户数据保护等，提出申报安全评估与持续优化模型训练共同保障模型安全；明确用户信息保护责任承担机制，强调数据安全等。
　　中金公司指出，数据、模型的安全使用已成为AI持续发展的基础。
　　从数据方面来看，AI技术的训练需要巨大数据量的大规模数据集投喂，在这种情况下，AI技术及应用不仅会存在不当使用导致的数据泄露，还面临着提示语注入攻击等数据安全风险。
　　中金公司认为，需要对数据的使用权、所有权、运营权进行确权，使用数据时仍需对于敏感数据进行隐私保护，在充分挖掘数据使用价值的同时，保障数据安全。因此，对数据安全的技术发展、应用场景都提出更高要求。
　　值得一提的是，北京市、深圳市等多地政府近日相继发布人工智能支持政策，且均强调了公共数据开放与共享，包括“加快构建高质量人工智能训练数据集，研究建立数据集开放共享机制”、“培育高质量数据要素市场”等。
　　从模型方面来说，大模型作为与云等同的数字基础设施，同样需要安全保驾护航。
　　在和云同等的边界、业务、数据保护以外，大模型还需要对AI生成的文字、图片等进行鉴伪。分析师认为，大模型更新迭代，对安全的要求持续提升，相较于传统安全产品，AI安全产品从技术、应用场景都有差异，对安全厂商创新能力也提出更高要求。
（文章来源：财联社）