一场科技巨头齐聚白宫的会议，美国总统拜登“顺便”参加，并透露自己曾“亲身试用”。

　　美国东部时间5月4日，美国总统拜登出席了在白宫举行的一个人工智能（AI）会议，会见包括谷歌、微软和OpenAI在内的顶级AI公司的首席执行官。会议对AI技术所带来的风险和治理措施进行了讨论。拜登和美国副总统哈里斯均强调科技公司需对AI产品的安全负责。

　　今年以来，以ChatGPT为代表的生成式大模型成为全球范围内的热词，数以亿计的用户开始使用相关产品，但与此同时，相关的风险也越来越不容忽视。

　　近期，各国纷纷开始监管介入，讨论人工智能时代下一系列的法律与社会问题。

　　除美国之外，全球各国均在陆续落地AI监管措施。资本市场上投资者将目光投向AI安全赛道。美亚柏科、三六零等公司均获投资者关注，相关公司也透露了在AI内容检测、防御AI发起的网络攻击等方面的布局。

　　拜登试用GPT

　　与顶尖科技公司CEO召开AI风险治理会议

　　周四举行的AI风险治理会议进行了两个小时，由美国副总统哈里斯主持，拜登出席。与会者包括谷歌CEO桑达尔·皮查伊（Sundar Pichai）、微软CEO萨蒂亚·纳德拉（Satya Nadella）、OpenAI的CEO山姆·奥特曼（Sam Altman）和Anthropic的联合创始人达里奥·阿莫代（Dario Amodei），以及一众白宫要员。

　　有意思的是，在会议现场，美国总统拜登“刚好顺便”参加了会议。

　　据一位白宫官员透露，拜登此次是“顺便”参加会议，他还使用了ChatGPT。这位官员对媒体表示：“拜登已经全面了解了ChatGPT，并亲自进行了试验。”

　　白宫新闻秘书让·皮埃尔在新闻发布会上表示，拜登的兴趣凸显了一个事实，即他和副总统哈里斯将AI视为“我们这个时代最强大的技术之一”。

　　哈里斯在一份声明中表示，AI技术有可能改善生活，但也可能会带来安全、隐私和公民权利方面的担忧。她告诉这些科技公司的高管，他们有责任确保其AI产品的安全，政府对AI方面的立法持开放态度。

　　在白宫人工智能会议结束后，山姆·奥特曼表示：“各公司在人工智能需要发生的事情（指安全监管等问题）上意见一致，我支持推进新的人工智能监管规定，支持新的立法。”

　　让·皮埃尔表示，这次会谈是“诚实”和“坦率”的。“我们有四位首席执行官在这里与副总统和总统会面，这表明我们对此有多重视。”她补充道，人工智能公司必须提高透明度，包括让公众评估和衡量其产品的能力，这对于确保人工智能系统的安全和信心至关重要。

　　值得注意的是，就在会议之前，白宫宣布，美国国家科学基金会计划花费1.4亿美元建立专门用于人工智能的新研究中心。

　　一个月前，拜登与其科技顾问会面时表示，AI可以帮助解决疾病和气候变化问题，但解决因此引发的社会、国家安全和经济潜在风险也很重要。

　　“科技公司有责任确保他们的产品在公开之前是安全的。”拜登在科学技术顾问委员会会议开始时说。对于AI是否危险，他说：“还有待观察，这是有可能的”。他以社交媒体为例，说明强大的技术如果没有正确的保护措施就可能造成危害。

　　各国加快人工智能监管

　　AI安全是下一个蓝海？

　　随着新一轮AI技术革命掀起越来越广泛的社会影响，关于人工智能的忧虑也越来越引发关注。人们越来越担心，这些技术可能会侵犯隐私、导致大规模失业、诈骗和传播错误信息等。

　　而更引人关注的，是近期被誉为“人工智能教父”的前谷歌科学家杰弗里·辛顿关于人工智能的一系列忧虑。

　　据媒体报道，现年75岁的前谷歌科学家杰弗里·辛顿在神经网络领域长期从事开创性工作，为人工智能（AI）技术的发展奠定基础。而在今年5月初接受媒体采访时，辛顿坦言，他之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险，甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。

　　尽管风险尚未明确，但是显然各国都开始意识到对人工智能监管的必要性。美国政府并不是唯一寻求塑造人工智能发展的国家。欧盟官员预计，最早将于今年敲定人工智能立法，这可能对全球人工智能公司产生重大影响。

　　欧盟委员会执行副主席、竞争专员玛格丽特·维斯塔格在4月24日接受媒体采访时表示，关于ChatGPT等生成式AI，“将尽快颁布”在整个欧盟实施监管的新法规，制定合理使用生成式AI的统一规则，降低用户风险。

　　而就在本周四稍早些时候，英国竞争与市场管理局(CMA)也确认，该部门正在对人工智能市场展开评审，其中也包括大语言模型、生成式人工智能在内的基础模型。

　　上个月，我国国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》。

　　监管浪潮下，网络、数字安全赛道的上市公司频获投资者关注。相关公司也在投资者互动平台回应了公司对AI风险的研判与安全方面的布局。

　　5月4日，美亚柏科在投资者互动平台表示，公司将积极响应国家政策，布局人工智能安全的产品和解决方案，当前主要包括两个方面：第一是针对利用人工智能违法的相关电子数据取证溯源，布局相关取证技术；第二是在人工智能算法、系统的安全性评估方面，按照《中华人民共和国数据安全法》、《互联网信息服务深度合成管理规定》等法律法规，布局人工智能产品安全合规的评测技术。接下来公司将对各类AIGC内容的检测、AI生成文本的检测技术及产品进行布局，也会在利用人工智能进行生成活动中的取证，以及人工智能算法模型的安全性和合规性方向，开展相关的业务工作，从而助力公司做强做优做大。

　　早在4月初，三六零回复了投资者对AI风险的研判。该公司认为，人工智能的风险大致可分为三个层次：一是可以使用AI作为防御武器对抗攻击方利用AI发起的网络攻击，守护国家的数字安全，包括扫描漏洞、发现高级威胁等。360AI安全监测平台已累计发现200多个漏洞，在全球各大厂商中排名第一，成果入选了中央网信办“人工智能企业典型应用案例”；二是需要确保通用型人工智能生成的内容和结果是安全的，360作为国内第二大的搜索引擎厂商，在这方面具有相当长时间的成功经验积累；三是需要确保通用型人工智能其本身是安全、可控的，这将会是AI技术发展道路上的长期命题。

　　此外，近日凭全媒体智慧监管解决方案中标北京广电相关项目的博汇科技、信息安全行业公司格尔软件等公司也被投资者问询“公司在AI监管方面有何布局”。

（文章来源：上海证券报）