中国启动AIGC监管,提供服务须防止生成虚假信息
时间:2023-04-13 16:57:23来自:《财经》字号:T  T

专家认为,未来数年,中国将在AIGC的技术和商业化应用领域迎来突破,但互联网内容治理也会因此面临较大冲击。《管理办法》体现了提前研判、提前介入、提前监管的思路。

全球科技巨头在AI大模型领域不断推出新品之际,中国监管部门的步伐正迎头赶上。

4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(下称《管理办法》),并向社会公开征求意见,截止期为5月10日。

如果《管理办法》获得通过,中国将正式开启对AIGC(人工智能生成式内容)的专门监管。

根据国家网信办发布的通知,制定《管理办法》的目的是促进生成式人工智能技术健康发展和规范应用。整体共分21条,涵盖内容监管、算法监管、数据监管等维度,其中内容安全条款占据篇幅最多。

有知情人士向财经E法透露,《管理办法》自2022年下半年即开始酝酿,但ChatGPT在今年的火爆“出圈”加速了制定进程。

这与全球主要法域的步伐一致。当地时间4月11日,美国商务部就ChatGPT等AI大模型监管措施公开征求意见,其中涉及存在潜在风险的新AI模型在发布前是否要走认证核准程序。根据财经E法此前文章(意大利封禁加拿大调查,ChatGPT会面临新“禁令”吗?),一些欧洲国家正采取针对ChatGPT的风险防控措施,欧盟成员也在提议磋商《人工智能法案》有关生成式人工智能的条款。

那么,《管理办法》的推出体现了哪些意图,释放了哪些信号,又会给产业界带来哪些影响?

包含诸多“微迭代”内容

随着中国市场上生成式人工智能玩家相继入局,监管时机也逐步成熟。

《管理办法》第2条显示了适用范围和基本定义:适用于“研发、利用生成式人工智能产品,面向中华人民共和国境内公众提供服务的”;“生成式人工智能”,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术

正如财经E法此前文章(科技巨头抢占ChatGPT风口,数据安全挑战不可掉以轻心),今年1月,伴随微软宣布对研发了ChatGPT的OpenAI公司进行的一笔大额投资,ChatGPT爆火出圈,席卷全球。随后,由于ChatGPT上线两个月即达到上亿用户的规模,谷歌也迅速跟随发布类似ChatGPT的聊天机器人项目,带动了全球资本市场对这一领域的持续追捧。与此同时,ChatGPT已经开始冲击全球教育业,并可能带来法律、安全、伦理风险,甚至滋生犯罪。

进入4月,中国互联网公司开始密集推出各自的AI大模型。目前已上线内测的产品除了百度的“文心一言”,还有阿里云的“通义千问”、商汤科技的“日日新”等。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括指出,AIGC等新技术、新应用快速发展,在全社会引起了高度的、广泛的关注和突出的风险关切。他认为,《管理办法》是全球第一款“GPT法”。中国监管部门的介入是现实的,《管理办法》开始征求意见,本身就是一个重大的信号,体现了提前研判、提前介入、提前监管的思路。有助于企业及早构建合规解决方案,提前布局必要的合规机制和工具,有效减少风险;同时也为国外参与者进入中国市场的合规运营提供了明确规范,有助于各方更好地理解中国的监管要求和核心价值诉求,及时调整和适配自身的产品和服务。

吴沈括分析说,现阶段AIGC的中外监管思路的明显区别是,欧美各国侧重从数据安全、数据保护、数据治理的角度来介入和推动监管落地;中国则是一种综合治理的思路,强调权益保护、数据治理、内容治理等多个维度。

对外经济贸易大学数字经济与法律创新研究中心执行主任张欣认为,在ChatGPT热潮带动下,未来的两三年,中国相关技术将会产生大突破,也会出现成熟的商业化应用落地。同时,生成式人工智能也会对互联网内容治理会带来较大冲击。

张欣注意到,《管理办法》体现了技术治理上“小而灵”的立法范式。张欣解释说,由于技术发展非常快,不一定要等所有基础条件成熟之后再立法,可以在制度设计上及时进行有针对性的、垂直领域的立法,从而实现新兴科技创新与治理的双轮驱动,避免治理的滞后性。

竞天公诚律师事务所合伙人袁立志也认为,《管理办法》有不少“微迭代”的内容。

袁立志举例说,《管理办法》规定了AIGC服务提供者承担内容生产者责任;服务提供者承担数据处理者责任——应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责;限制数据使用要求——不得根据用户输入信息和使用情况进行画像;AIGC服务提供者承担应急处置义务——对于运行中发现、用户举报的违法违规生成内容,除采取内容过滤等措施外,还应在3个月内通过模型优化训练等方式防止再次生成。

部分条款受关注

虽然监管只涉及到“微迭代”,《管理办法》的部分条款仍引发关注。

《管理办法》第4条第4项确立了内容真实性要求:利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。

“这项与AIGC固有属性可能存在一定冲突。”袁立志认为,防止虚假信息的重点不应在技术前端直接管死,而应着眼于应用层面,避免生成的虚假信息公开传播误导舆论。

  • 浏览记录
  • 我的关注
  • 涨幅
  • 跌幅
  • 振幅
  • 换手率
loading...
  • 涨幅
  • 跌幅
  • 振幅
  • 换手率
loading...
本站郑重声明:所载数据、文章仅供参考,使用前请核实,风险自负。
© 2008 北京济安金信科技有限公司 北京合富永道财经文化传媒有限公司
京ICP备12044478号 版权所有 复制必究
本站由 北京济安金信科技有限公司 提供技术支持