解读|中国首部人工智能管理办法颁布,人类对AI划了哪些“红线”_顶尖财经网
  您的位置:首页 >> 财经频道 >> 风险投资 >> 文章正文

解读|中国首部人工智能管理办法颁布,人类对AI划了哪些“红线”

加入日期:2023-7-13 21:47:24

7月13日下午3时,中央网信办的官微“网信中国”对外发布《生成式人工智能管理暂行办法》(以下简称《办法》),将从2023年8月15日起施行。网信办有关负责人表示,出台《办法》,旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

《办法》颁布后,7月13日,港股ChatGPT概念股尾盘拉升,截至收盘,商汤(00020.HK)涨近8%,粉笔(02469.HK)涨7.74%,阅文集团(00772.HK)涨超6.81%。

同时,业界也有热议。银柿财经第一时间联系了浙江大学教授吴飞、浙江理工大学数据法治研究院副院长郭兵以及相关产业的一线AI研究人员,就办法做出深入解读。

包容审慎和分类分级监管

从官方消息看,有多个国家部委参与了《办法》的制定。2023年5月23日国家互联网信息办公室2023年第12次室务会会议审议通过《办法》,并经过了国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局等部门的同意。

《办法》规定,利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务,适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定。

《办法》提出,国家采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。《办法》要求采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。规定提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

国内首部人工智能监管规则

浙江大学人工智能研究所所长吴飞第一时间和银柿财经确认,这是国内首部人工智能相关的管理办法。

吴飞表示,生成式人工智能的发展,塑造了内容生产的新范式,将触发文明范式的悄然转型,使得版权、工作、教育和信任等概念出现巨大调整,我们将面临发展人工智能技术和治理人工智能潜在风险的双重任务。

吴飞还特别提到,4月11日,中国与美国几乎同时就生成式人工智能的监管公开征求公众意见。两国政策的基调是共通的,都支持人工智能技术的创新,但同时要对其风险加以管理。目前看来,人工智能伦理治理成为各国共同面临问题,为该领域国际合作创造了条件。

《办法》比征求意见稿更符合实际

“《办法》一出台,我的朋友圈就被刷屏了。”浙江理工大学数据法治研究院副院长郭兵长期关注人工智能领域的法律问题。他告诉银柿财经,在前几日召开的2023世界人工智能大会“人工智能创新与治理”分论坛上,近40位专家学者和社会人士参与发布了《生成式AI伦理与治理倡议书》,自己正是其中一员。

“一方面,生成式人工智能需要大量数据,而数据来源往往是不透明的,其中可能会对个人隐私、公共利益甚至国家安全造成影响;另一方面,人工智能产品及其生成过程在知识产权和归属方面也有潜在法律风险。”此外,还有部分利用生成式人工智能服务从事违法活动的行为显现,这些现状都表明新形式的人工智能将带来一定的安全性问题。

而此次的《办法》正是监管跟进AI发展的重要举措。

郭兵特别留意到,今年4月起草的《生成式人工智能服务管理办法(征求意见稿)》,原本提到“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”,确立了内容真实性的要求。这一规定受到颇多争议,因为从实践的角度来看,生成内容的真实准确性与生成式人工智能的技术原理互相冲突。

相比征求意见稿,现在出台的《办法》修改完善了上述内容,要求生成式人工智能服务提供者“采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性”,也明确了监管的基本原则,即“对生成式人工智能服务实行包容审慎和分类分级监管”。“根据这个原则,监管规则的具体实施还是会视情况而定,更偏向于考虑发展的实际情况。”郭兵表示

此前,亦有学者提出,人工智能产业刚刚起步,业界还不清楚究竟会出现哪些问题,又需要设置哪些规则。在这种情况下,过于超前的立法反而可能会阻碍技术的发展和创新。

对此,郭兵也直言,《办法》施行后,企业的合规成本势必会有所抬升,如何权衡利弊,制定健全、透明、可预期的常态化监管制度,降低企业合规经营成本,也是需要重点考虑的议题。

“《办法》属于部门规章,实施后能否起到立竿见影的效果,还有待时间检验。”郭兵表示,而倘若出现技术发展进度降低明显的情况,也不排除会对其进行进一步调整。

新闻出版、影视制作需更细化规则

浙江大学计算机学院教授汤斯亮表示,目前看来,《办法》其实是为人工智能的发展划好了边界,让它发展得更健康。他指出,中国的人工智能发展不仅是跟随,在应用落地层面的速度已走在了美国之前。“这时对人工智能进行一定的约束,我觉得中国目前的反应速度是很快的,也是对的。”

他指出,在2019年ChatGPT推出第二代的时候,学界就开始讨论对人工智能的监管问题。我们确实也看到,它已经带来了虚假新闻照片,亚马逊上甚至出现了机器写作的电子书,而且编辑还忘了删除”我是人工智能“这样的语句。人工智能在新闻出版,文化产业上的快速发展是,确实带来了很多新问题。我看到第二条讲到关于人工智能从事新闻出版、影视制作、文艺创作等活动将另有规定。从这点可以看出,生成式人工智能应用到相关产业上去,尤其文化产业上,还需更多、更细化的管控。

促进技术更快商业化

在人工智能业内,《办法》也引起了高度关注。包括英伟达深度学习架构师曹徐伟在内的很多生成式人工智能的前沿业界专家对银柿财经表示,虽没仔细看管理办法,但人工智能产业肯定需要相应规范。模型是一个“黑箱”,需要有效的控制才能使用。一名不愿公开姓名的人工智能软件开发专家对银柿财经表示,法规的出台其实是在促进人工智能产业的发展、在促进技术更快速、有效地商业化。

银柿财经注意到,雪球平台上有不少评论指出,对于任何行业来说,最怕的是看不清政策的态度。目前来看,生成式人工智能的发展至少是得到了官方的认可,并且有相对清晰的表态,明确了对技术的鼓励,也划了一些监管的边界。这也是《办法》公布后,相关概念股大涨的原因。

据IDC预计,生成式人工智能的市场规模将从2022年的8.2亿美元增长到2026年的109.9亿美元,在整个人工智能计算市场的占比将从4.2%增长到31.7%。