精准匹配智算供需:智算IP广域网发展步入快车道

精准匹配智算供需:智算IP广域网发展步入快车道
2025年01月14日 20:38 前通信工程师

随着AI技术和应用迅猛发展,行业正面临日趋加剧的智算供需对接挑战。一方面,国内已建设很多智算资源池,尤其运营商已在全国范围内落地多级算力资源池,迫切需要充分发挥这些智算资源的作用;另一方面,行业对人工智能技术的投入持续增加,产生了海量样本数据上传和日益复杂的模型训练需求。

如何精准对接智算资源供给与行业需求?智算广域网成为业界关注的焦点,其不仅是智算中心与各行各业之间智算数据传输的桥梁,更是实现“网效”与“算效”双提升的关键基础设施。

正是在这样的背景下,中国信息通信研究院于12月23日在京举办了以“打造超弹性无损智算IP广域网,加速迈向智能时代”为主题的“智算IP广域网产业交流会”。会上,行业专家们围绕技术创新、应用实践和产业标准等方面进行了深入探讨,并联合发布了“智算广域网发展倡议”和首批创新成果,充分展示智算IP广域网实用性与广阔的应用前景。

智算场景需求旺盛,

对广域网提出全新挑战

技术的发展离不开需求的驱动。对于智算广域网的创新发展,在会上,中国工程院邬贺铨院士和中国通信标准化协会闻库理事长均建议行业从场景需求和痛点入手,深入探索与创新技术路径和业务模式。

当前智算业务具体有哪些场景需求和痛点?“海量样本入算、存算分离拉远训练、跨数据中心协同训练和业务推理等典型业务需求给传统网络带来了全新的挑战,为提升网效与算效,行业需要通过广域超宽、网络高吞吐、RDMA长距无损、任务式服务和差异化体验保障等关键技术创新推动智算广域网快速发展。”中国信息通信研究院技术与标准研究所互联网中心高巍主任对智算广域网典型业务需求和挑战进行了深入分析。

海量样本入算,指企业需要将海量样本数据实时上传到智算中心。传统广域网主要针对数据量较小的“蚂蚁流”设计负载均衡,而样本入算以GB级的“大象流”为主,流数少但单流数据量大,且具有强突发性,若仍采用传统网络的负载均衡方案,容易引发链路拥塞和负载不均而造成整网吞吐严重下降。同时,样本上传通常需要短时高带宽支持,若企业采用传统固定带宽连接方式,会面临“低带宽等不起、高带宽用不起”的问题。因此,海量样本入算场景要求智算广域网具备弹性高带宽和更有效的均衡调度能力。

存算分离拉远训练,指行业对敏感数据的安全性要求较高,需通过RDMA协议直接将样本数据送到智算服务器的内存中进行训练,使样本数据不落盘存储于第三方算力资源中。然而,RDMA技术对丢包极为敏感,千分之一的丢包会导致计算效率下降50%以上。因此,智算广域网需部署RDMA无损传输技术,以确保样本数据远距离高吞吐无损传输,算效不下降。

跨数据中心协同训练,指利用网络实现多智算中心协同计算,以提升整体算力效率,满足更大规模的算力需求。单体智算中心因受制于机房空间、电力资源等限制,越来越难满足呈指数级增长的算力需求,因此跨数据中心协同训练成为了新趋势。但该场景面临RDMA长距离传输对丢包十分敏感、网络传输时延增加等挑战,要求网络具备广域无损调度、精准拥塞控制等能力,以确保跨智算中心算效不下降。

业务推理场景是利用数据和模型为特定业务需求提供智能分析和决策支持的实际应用场景。推理业务需要网络来实现数据的高效传输和模型结果的实时交付,从而支持智能应用的快速响应。这要求网络具备高带宽、差异化时延保障、高等级的安全隔离等能力,以及具备边缘节点东西向连接能力。

精准匹配供需,

运营商加速智算广域网创新实践

需求的满足离不开技术的创新与突破。当前,中国移动、中国电信和中国联通三大运营商正加快完善算力布局,建起了覆盖全国的多层级算力中心。为了将这些算力资源充分转化为各行业可用的智算服务,精准匹配算力供给与行业需求,三大运营商已聚焦场景需求和痛点,积极推动智算IP广域网技术创新与试点,并已取得初步成果。

面对上海全市300多家企业、40多所高校和研究所以及11个信息化园区的用算诉求,上海电信已试点建设一张端到端400GE IP弹性无损智算广域试验网络,为企业提供海量样本高效入算、存算分离拉远训练等智算服务。

上海电信副总工程师张坚平表示,该网络通过网络高吞吐使能“算得多”,RDMA广域无损保障“算得快”,任务式弹性服务做到“用得起”,全面匹配智算时代下新供需关系带来的网络诉求。其中,400GE弹性算网通过端到端部署400GE大带宽接口技术,将网络传输能力提升至4倍,并通过在企业侧部署智算CPE,可构建100Mbps到100Gbps的IP弹性专线,满足企业通过一条专线同时访问多种异构算力资源池的需求;长距RDMA无损传输技术使网络吞吐率逼近400GE线路带宽,支持广域超百公里RDMA远距离、高吞吐无损传输,算效不下降;结合网络控制器智能调度和秒级调优技术,可实现算力业务传输质量实时可视,保障智算业务传输时延,有效满足推理业务流量毫秒级传输。

浙江联通建设发展部总经理汤滢琪分享到,在中国联通服装制造军团“衣瞳行业模型”训练场景中,面对很多服装厂家有明确的数据敏感性要求,希望数据不出园区,浙江联通通过IP广域无损方案,实现了杭州存、金华训的“数据不落盘”拉远训练。该方案在业界首次实现30TB样本数据跨200公里存算分离拉远训练,计算拉远效率大于97%,充分验证了存算分离拉远训练技术的可行性。

存算分离拉远训练不仅能确保数据外部“不落盘”,还能大幅提升算力资源利用率。重庆移动计划部副总经理刘轻舟在会上介绍,在重庆,某车企的全球数据中心设在重庆,并在多个城市部署智算中心,这种跨区域的布局面临两大痛点和需求:一是传统“先传后训”模式导致算力资源利用率低下,约30%的时间处于闲置状态;二是敏感数据传输涉及安全性需求。为此,重庆移动联合华为创新提出“存算拉远”解决方案,利用广域RDMA无损网络技术将敏感数据直接传输到算力卡内存,以“边传边训”的方式不仅确保了数据训练后即清理,而且极大降低了算卡闲置率和训练耗时,将传输效率提升超过90%,从而有效解决了大模型训练中的算效与安全性问题,为智算IP广域网赋能智能网联汽车产业升级树立了标杆。

此外,在算间协同场景,面对单体智算中心难以满足超过10万卡的建设需求,北京电信正在探索通过智算广域网整合京津冀三地算力中心资源,创新多算力中心协同的多点共算模式,以支持超大模型训练。北京电信云网发展部规划总监姚凌分享到,北京电信通过配置新一代智算路由器,采用新型流级拥塞控制技术,实现了网络拥塞或故障快速精准识别,确保了拥塞不扩散到全网;并通过采用路由器广域无损调度和负载均衡技术,保障了业务吞吐率达到95%以上,实现了跨100公里长距离算效仅下降1%。这些实践成果为实现京津冀算力资源一体化协同提供了可能性。

产业协作,

智算广域网发展步入快车道

有明确的需求牵引,也有技术创新支撑,更有显著的实践效果,无疑彰显了智算IP广域网的可行性与广阔前景。然而,要跟上AI应用飞速发展的步伐,加速智算IP广域网规模化落地,前方仍面临不少挑战,这迫切需要产业界凝聚共识、携手合作,持续推动技术创新和标准制定,并积极探索新模式、新场景。

为此,在会上,中国信通院、中国通信标准化协会、中国电信、中国移动、中国联通和华为联合发起了“凝心聚力,携手并进,共同绘制智算IP广域网产业宏伟蓝图”的倡议,旨在聚力产业各方资源,更好推进智算IP广域网技术创新和产业发展。

近年来,随着算力需求呈指数级增长,如何通过算网协同保障智算高效供给,最大化发挥算力价值,已成为全社会关注的重点。国家相关部门从顶层设计角度已紧密发布一系列政策。2023年10月,工信部等六个部门联合发布《算力基础设施高质量发展行动计划》,提出通过优化算力高效运载质量、强化算力接入网络能力、提升枢纽网络传输效率、探索算力协调调度机制四个方面提升算力高效运载能力。12月,国家发展改革委、国家数据局等部门联合印发《关于深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》,明确提出算力网是支撑数字经济高质量发展的关键基础设施,可通过网络连接多源异构、海量泛在算力,实现资源高效调度、设施绿色低碳、算力灵活供给、服务智能随需。

在政策和市场双向驱动下,运营商正加速布局一体化算力网。比如,中国联通推出了全新的算力智联网AINet,依托“网络+平台”两大基础底座,实现高通量、高性能、高智能的“三高”核心能力,提供高效入算、灵活联算、数据快递、数据高铁、算网一体等领先的算网产品与服务,为各行各业智能升级和智算业务发展铺平广阔道路。中国移动已形成“四纵一横”一体化发展的算力网络架构,系统性构建了“九州”算力互联网,围绕多元承载、敏捷感知、超宽联接、稳定可靠、AI智能、弹性服务这八大核心能力打造“MATRIXES”技术体系。

智算广域网作为支撑智算数据高效流通和智算资源高效调度的新型网络底座,是算网一体化布局的关键一环。从顶层设计领航,到运营商整体布局,都将为智算IP广域网的快速高质量发展再添动力。因此,从本次大会可以看出,在政策引导、市场需求、技术创新、产业协作等多重因素的推动下,智算IP广域网创新发展正步入快车道。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部