7月13日，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》（下称《办法》），自2023年8月15日起施行。

《办法》共23条，包括技术发展与治理、服务规范、监督检查和法律责任等。其中明确，国家坚持发展和安全并重，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。

同时，《办法》提出促进生成式人工智能技术发展的具体措施，明确训练数据处理活动和数据标注等要求。规定生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

鼓励生成式人工智能创新发展

《办法》明确， 国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

《办法》指出，提供和使用生成式人工智能服务，应遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；

（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；

（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

探索生成式人工智能技术应用场景

《办法》明确，鼓励生成式人工智能技术在各行业、各领域的创新应用，探索优化应用场景，构建应用生态体系。

《办法》鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

近日，在2023全球数字经济大会——人工智能高峰论坛上，360公司创始人周鸿祎表示，大模型是一场新的工业革命，它直接提高每个人、每个组织的劳动生产力，同时实现了一种通用人工智能能力的赋能。首先要把大模型目前最擅长、最成熟的能力用好。政府和企业使用大模型时应该先从问答对话、写作生成等成熟角度切入。

周鸿祎建议，从痛点、刚需选择场景，如，面向员工的企业知识搜索、知识管理和培训；面向领导的信息决策和舆情分析。对内有办公生成办公协作，对外有提高用户体验的智能客服。目前企业的数字化、智能化程度不高的情况下，这些场景是企业办公的痛点，也是大模型最能够提高效率的地方。

促进生成式人工智能规范应用

在加强生成式人工智能技术治理方面，《办法》提出，生成式人工智能服务提供者（下称“提供者”）应当依法开展预训练、优化训练等训练数据处理活动。使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。

《办法》提出，提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

清华大学人工智能研究院副院长朱军此前表示，生成式人工智能特别是ChatGPT出现后，安全问题越来越严重。“大模型存在数据泄露的风险，ChatGPT会把很多隐私数据上传。现在也有用生成式人工智能技术提升诈骗手段，通过虚假内容实现黑产攻击，包括代码生成实现网络攻击。生成的虚假内容本身是不良的，存在误导性和欺骗性。”

对此，朱军建议，从人工智能基础尝试，针对深度学习、深度神经网络，探索第三代人工智能新范式，提高内在安全性能。同时，提升安全评测能力，关注对抗攻击评测、角色扮演与诱导欺骗评测、混淆指令欺骗评测、标识性能评测、数据安全评测、伦理安全评测方面。此外，还可构建人工智能安全治理有效工具，如人工智能本身的安全平台，安全评测、防御和整个态势的评估，可以通过平台化的方式对人工智能的算法和服务进行评测。

责编：杨喻程

校对：陶谦