中兴通讯陈新宇:大模型革新通信行业,中兴通讯携AI服务器入局

发布于: iPhone转发:2回复:3喜欢:2

搜了大量文章,中兴去年6月提出的方向和现在AI发展完美契合。当然我持有中兴,提前说明,理性讨论,不喜勿喷。
2023-06-05 22:01北京
近期人们谈论最多的莫过于ChatGPT。作为当下最先进的生成式AI技术,ChatGPT的出现革新了人们对于AI的认知。一时间,各个行业都在尝试应用它来提高效率和创造价值。通信行业作为算力基础设施建设的的重要构成部分,在数据中心、云计算平台等领域已经早有布局,此次切入生成式AI赛道更显得顺理成章。
中兴通讯作为中国最大的上市通信设备商,自1985年成立以来,深耕ICT领域38年,产品覆盖运营商网络、政企设备、消费者终端等众多信息通信网络环节。面对新一代AI技术掀起的颠覆性变革,中兴通讯选择创新突破,主动投身AI浪潮。
今日,中兴通讯携一众创新ICT产品和解决方案亮相第31届中国国际信息通信展览会(PT展),带来了全球首款AI裸眼3D平板电脑nubia Pad 3D,以及利用生成式AI技术,在数据处理、AI训练、AI推理部署三大环节全面提升企业效率的数字星云2.0等产品。
在展会期间,我们采访了中兴通讯副总裁陈新宇先生,就大模型对通信行业带来的变革进行了深入交流。
大模型给运营商带来的AI新机遇
在以往,AI的角色大多是辅助人们进行分析、判断和决策,而如今生成式AI在此之上,还能承担更多创造性的工作,比如写作、写代码和设计。
Gartner研究院将生成式AI列为最有商业前景的人工智能技术。根据Gartner发布的2022年人工智能技术成熟度曲线,生成式AI将在2-5年内进入生产成熟期,到2025年,由生成式AI产生的数据将占到全部数据的10%,30%的大型组织出站消息、50%的药物发现与研发将使用生成式AI。到2027年,30%的制造商将使用生成式AI提高产品研发效率。
目前,生成式AI已经在营销、设计、建筑和内容等领域催生了许多创新应用,同时在生命科学、医疗、制造、材料科学、媒体、娱乐、汽车、航空航天等领域也展现出了巨大的潜力。
各个行业纷纷结合自身领域,切入这一赛道。众多的入局者中,通信运营商具有天然的优势。
其实不难理解,生成式AI依赖于大模型的训练和运行,而这需要算力和网络支撑。通信运营商作为新型云、网、算力等信息基础设施服务的运营者,自身拥有优质网络、算力和云服务能力,同时具备产业链优势。对于运营商来说,既可以自身应用大模型,提升服务能力与产业效率,也可以为企业训练大模型提供算力支持。中兴通讯副总裁陈新宇认为,大模型给运营商带来的机遇,主要有三方面:
第一,提升自身服务水平。运营商可以利用大模型改进信息通信服务能力,例如其在自然语言上的能力可用于提升智能客服等运营服务功能。将大模型和云网运营深度结合,用于网络故障处理、工单识别流转、人员降本增效等场景。
第二,网络优化。运营商可以利用通信网络的巨量数据量来训练通信网络大模型,实现网络的智能分析、实时预测和自动化运维。基于生成式大模型自动生成代码和漏洞扫描,提升网络安全水平。
第三,面向政企客户提供AI即服务(AIaaS)和数据服务。运营商可以利用其新型信息基础设施来承载ChatGPT等大模型训练和推理服务,帮助大模型进行跨地域训练,完成算力资源适配等。此外,运营商数据优势明显,可以为模型训练提供数据服务,实现数据价值变现。
在此背景下,国内外的运营商们纷纷加速对生成式AI的布局。此前,中国电信中国移动中国联通分别对相关业务做了官宣。韩国最大运营商之一SKT也在财报电话会上公布了公司的AIGC版图。
大模型拉动AI服务器市场高速增长
过去几年,大模型的参数量不断攀升,从2018年Bert的3亿,到2019年GPT2的15亿,再到2021年GPT-3的1750亿,和2022年Switch Transformer的1.6万亿,大模型规模的飞速增长,给模型训练带来了很大挑战。
以GPT-3为例,GPT-3需要1024块A100 GPU计算40天左右才能完成训练。传统的芯片和服务器难以满足大模型对算力和网络的需求,这拉动了面向人工智能场景的AI服务器市场快速增长。根据市场研究机构TrendForce公布的最新报告,预计2023年全球AI服务器(含搭载GPU、FPGA、ASIC等)出货量近120万台,同比增长38.4%,占整体服务器出货量近9%。
陈新宇指出,ChatGPT训练要使用上万个GPU的计算集群,而集群节点的计算性能受限于网络带宽,制约了集群节点计算性能的发挥。对于AI训练服务器而言,不仅需要具备大算力,还需要具备很高的互联带宽。
对此,中兴通讯以DPU(Data Process Unit,专用数据处理器)为中心,构建了软硬协同新型算网基础设施。其DPU智能云卡将网络时延从数十微秒降低到微秒级,具备200Gbps以上的数据收发能力,从而实现了GPU算力的聚合,最大程度地提升了GPU集群的算力。
“面对ChatGPT这样的重大技术突破,中兴通讯结合自身优势重点投入,并计划今年底推出支持大带宽的ChatGPT的GPU服务器。”陈新宇说。
在算力基础设施领域,公司已拥有全系列服务器及存储产品,包括通用服务器、GPU服务器、液冷服务器以及全闪存储产品、混闪存储产品等。尤其服务器市场在过去几年迅速增长,收入从20亿增长到百亿规模。
在人工智能领域,中兴通讯的发力点是基于Transformer基础大模型,利用软硬件基础设施底座优势,支撑客户训好、用好大模型,持续降低大规模部署成本和能耗。未来公司将重点投入三个产品方向。第一,新一代智算中心基础设施产品,全面支持大模型训练和推理,包括高性能AI服务器、高性能交换机、DPU等。第二,数字星云2.0,利用生成式AI技术,赋能企业数字化转型。第三,中兴通讯将自研新一代AI加速芯片、模型轻量化技术,大幅降低大模型推理成本。
作为数字经济时代“筑路者”,中兴通讯将持续加强在AI领域的投入和创新,在AI领域之外,中兴通讯也会继续稳固主营业务,固本拓新,做有质量的增长。

全部讨论

02-23 02:27

谢谢 原来还是能做些事呢 就是不知差距有多大 差距能缩小吗

02-25 20:13

中兴通讯将自研新一代AI加速芯片、模型轻量化技术,大幅降低大模型推理成本。