铺路大模型入口 云计算厂商掀起新变革
时间:2023-06-21 09:53:14来自:21世纪经济报道字号:T  T

ChatGPT在全球市场的成功,引爆了全球主要科技公司在AI领域进行军备竞赛,作为“云计算第一股”的优刻得(688158.SH)正深切地感受到这种市场变化。

“前端的订单确实非常多。”近日,优刻得新兴产业事业部总经理韩畅在接受21世纪经济报道记者专访时表示,“AIGC的概念是从去年10月开始升温,于今年年初开始火爆。AI对算力的需求发生了翻天覆地的变化,一是算力规模的扩大,二是高性能算力需求的增长,三是对数据中心的需求呈现出一些具体的变化。”

在市场人士看来,云计算的核心是通过云端提供海量算力,从这个角度来说,拥有云基础设施就有了跑通AI算力、AI大模型和生成式AI应用的入场券,云计算厂商也就成为了大模型入口处的“铺路人”。

据IDC预测,到2025年,支撑云计算的硬件、软件和云服务,以及云相关的专业和管理服务市场空间到2025年将超过万亿元人民币,云计算在中国具有巨大的潜在空间。

面对这个火热的市场,云计算厂商在感到兴奋的同时,也在思考一系列的问题:如何通过替代方案来降低GPU等设备成本,当下数据中心配置能否满足海量的数据运算需求?

算力需求极速增长韩畅负责的新兴产业事业部在优刻得属于前端业务部门,今年接触了很多前沿的AI产业。

从客户反馈来看,她直观地感受到AI带给云计算行业的变化。

“首先是算力规模呈现出非常大的提升。比如,以前个别客户有一些小型的训练或推理需求会租用我们的设备,按卡的数量来说,大致是一两百张的规模。但大模型兴起之后,参数量达到百亿或千亿的模型,需要的GPU训练卡的数量就是数百张甚至数千张的规模,对GPU卡需求量在大大地增加。”韩畅说。

其次,客户对GPU卡的性能也有了明显不一样的需求。“以前比如用英伟达T4或者V100就可以满足客户需求。但大模型兴起后,客户就想用A800以及未来的H800来做模型训练。这两种GPU显卡相比于以前的版本,运算性能大幅提升。”她对记者表示。

记者整理公开数据发现,英伟达V100芯片NVLink互联速率为300GB/S,拥有7TFlopsFP64双精度、14TFlopsFP32单精度计算能力;GPU显存为32/16GBHM2e,显存带宽为900GB/s。而A800芯片NVLink互联速率达到400GB/S,拥有9.7TFlopsFP64双精度、19.5TFlopsFP32单精度计算能力;GPU显存为80GBHBM2e,显存带宽达到了1935GB/s。

而作为搭载GPU等设备的物理载体,数据中心的运行也在发生细微变化。

韩畅介绍,“大模型兴起之后,对于单机架的电力要求也变得非常大。”她向记者举了一个例子,“以一台A800的GPU服务器为例,需要30安的机柜,如果升级到H800,就需要50安的机柜。同时用户又要进行集群训练,那就需要在数据中心部署很多台CPU设备,单台机柜的电力也相应提高,云计算服务商的资金投入也会相应提高。”

作为算力基础设施的重要组成部分,数据中心正成为人工智能产业化进一步发展的关键。据了解,优刻得已在国家“东数西算”枢纽自建的乌兰察布数据中心部署了多款GPU高性能计算产品,上线了英伟达的V100S、A800等多款显卡;此外,该数据中心还部署了新一代归档存储产品US3、提供海量训练数据存储服务。

总的来说,为满足市场上对算力的需求,优刻得通过自建的数据中心和多年云计算运营经验,更能进行机柜、网络、服务器等算力相关设施的定制。据了解,优刻得除了对GPU这种算力资源芯片进行了升级,对网络也进行了升级,让IB网络具有更大的互联带宽,实现更低延时、更高吞吐以及更智能的网络连接,从而大大提升大模型的训练效率。在存储方面,公司实现对数据生命周期管理、将冷热数据分层,从而降低80%的存储成本。算法方面,则是对硬件性能优化来进行加速。

制约算力的关键环节回到产业链条上,算力是制约国内大模型发展的重要因素。

“虽然这不是唯一的制约因素,但确实非常重要,如果算力不足的话,很难在相对可控的时间内来满足训练和部署大模型的需求。”韩畅说。

进一步梳理AI算力产业链,其涉及的基础设施包括AI芯片及服务器、交换机及光模块、IDC机房及上游产业链等。从上述变化来看,GPU等关键硬件设备又是制约算力发展的关键环节。

韩畅坦言,算力的底层基础设施特别重要,就目前的情况来看,国内的产业链仍很大程度上依赖英伟达的显卡去做大模型训练。此外,在算法优化、数据流通上也面临着挑战。

据记者了解,英伟达显卡在市面上几乎“一卡难求”,一位业内人士曾对记者表示,用来作大模型训练的芯片需求强劲,价格翻了数倍。

“现在国内GPU厂商也在不断壮大,大模型的兴起对他们而言是一个非常大的利好。但就应用而言,二者还是有一些差距。”她说,“(差距)更多的体现在性能上,要知道,硬件性能的优化是需要软件的兼容性去适配的,整个生态体系的建设需要时间。国内的GPU厂商正在努力追赶英伟达的脚步,需要更多的产业链环节一起参与进来。”

韩畅认为,首先需要大模型公司的参与;其次,云厂商作为一个基础设施提供商也要参与进来;另外,一些应用大模型的细分赛道的客户也应投身其中。“在产

  • 浏览记录
  • 我的关注
  • 涨幅
  • 跌幅
  • 振幅
  • 换手率
loading...
  • 涨幅
  • 跌幅
  • 振幅
  • 换手率
loading...
本站郑重声明:所载数据、文章仅供参考,使用前请核实,风险自负。
© 2008 北京济安金信科技有限公司 北京合富永道财经文化传媒有限公司
京ICP备12044478号 版权所有 复制必究
本站由 北京济安金信科技有限公司 提供技术支持