南方财经全媒体南沙报道

“减轻被人工智能灭绝的风险，应该与流行病和核战争等其他大规模社会性风险一样，成为全球优先解决的事项。”当地时间5月30日，一份仅有一句话内容的《AI风险声明》获得包括OpenAI首席执行官SamAltman、图灵奖获得者“深度学习之父”YoshuaBengio和GeoffreyHinton超370位AI领域权威专家联合签名发布。中国科学院自动化研究所研究员曾毅、清华大学教授张亚勤、助理教授詹仙园等中国学者也位列其中。

曾毅透露，在这份新声明正式对媒体发布前，他就收到了发起人人工智能安全中心主任DanHendrycks的邀请。出于对在AI风险认知观点上的接近，他签署了这份联合声明。

作为中国科学院自动化研究所人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员、联合国教科文组织人工智能伦理实施高层专家组成员，曾毅长期专注于类脑智能及人工智能伦理与治理研究。他告诉南方财经全媒体记者，公开信的目的不是阻碍人工智能的发展，而“恰恰是在探索人工智能稳健发展的途径。”他提出，探索“可持续发展的人工智能”或许是一个有益的选择，而逐步提升人工智能真正意义上的智能水平，才能使人工智能技术真正实现可持续发展。

AI潜在风险关乎全人类利益

这种对AI风险的高调表态并非首次。今年3月22日，生命未来研究所(FutureofLife)向全社会发布《暂停人工智能巨模型实验》公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。这封公开信获得了马斯克、约书亚·本希奥、苹果联合创始人SteveWozniak等上千名研究者和科学家的公开签名。

曾毅表示，《AI风险声明》在动机上显然与《暂停人工智能巨模型实验》很相关，两者都是意识到了目前人工智能发展过程中的风险和失控的可能性。不过，二者的应对方式有显著的差别。《暂停人工智能巨模型实验》号召通过暂停能力超越GPT-4的人工智能巨模型的研究，优先为人工智能设计并实现安全框架。而这次新的《AI风险声明》更深度和直接地表达了签名者对人工智能给人类带来潜在生存风险的担忧和应采取的行动。

《AI风险声明》将人工智能可能带来的风险提高到堪比大流行病和核战争的程度。曾毅分析，大流行病、核战争与人工智能可能给人类带来的潜在生存风险的共性是波及范围广，关乎全人类的利益，甚至是致命性的。

曾毅指出，关于人工智能对人类造成生存风险，有至少两种可能：一种是对远期人工智能的担忧，另一种是对近期人工智能的担忧。针对远期而言，当通用人工智能和超级智能到来时，由于智力水平可能远超过人类，超级智能视人类如同人类视蚂蚁，很多人据此认为超级智能将与人类争夺资源，甚至危及到人类的生存。针对近期而言，由于当代人工智能只是看似智能的信息处理工具，没有真正的理解能力，也不是真正的智能，因此会以人类难以预期的方式犯下人类不会犯的错误。人工智能既不理解什么是人类，什么是生死，也不理解什么是生存风险，只会机械地执行某种操作。如果被人恶意利用、误用和滥用，风险将几乎难以预期和控制。“远期人工智能的挑战我们如果从现在开始研究如何规避其风险尚有可能应对，近期人工智能的这种风险则显得更为紧迫。”

部分签名者经历态度“大转弯”

ChatGPT的“横空出世”引发新一轮人工智能“技术竞赛”，另一方面，也有越来越多的声音警告强人工智能会给人类带来生存风险。

OpenAI首席执行官SamAltman也在《AI风险声明》签名。今年5月，他在美国国会听证会上坦言，自己最担心的是AI最终会“对世界造成重大伤害”，并表示“如果这项技术出了问题，后果可能会非常严重。”不过，在听证会上，他并没有提出放慢或者暂停推出AI产品。

签署了两份公开信的“深度学习之父”Bengio表示自己投身人工智能研究，但如今的状况却让他感到迷茫。他开始旗帜鲜明地反对人工智能的快速发展，并对大语言模型在社会上的广泛可及性表示担忧，强调目前缺乏对这项技术的审查。“应用GPT-4的技术竞赛创造了一个有害的循环。”

另一位“深度学习之父”Hinton对人工智能的态度同样经历了“大转弯”。他此前在谷歌效力近十年，于今年2月离开谷歌“以便更自由地谈论人工智能的危险”。离职前，他担任谷歌副总裁兼工程研究员。谈及转变想法的原因，Hinton表示，人工智能系统从大量数据中学到意想不到的行为，可以变得比人更聪明，“我以为还有30到50年甚至更长的时间。显然，我不再这么认为了。”

近期人工智能风险更为紧迫

有批评者提出，讨论“想象中的风险”会转移人们对算法偏见、预测性监管等现实问题的注意力。作家兼未来学家DanielJeffries认为，“存在人工智能风险是一种目前不存在的幻想，试图解决明天的想象问题完全是浪费时间。解决今天的问题，明天的问题就会解决。”

曾毅认为，恰恰是针对近期人工智能的担忧，才是更紧迫、更需要人类关心的。特别是近期的人工智能进展使得人工智能系统能够利用互联网规模的数据与信息，生成式人工智能产