前言:首个国产算力PoC平台的开放,是促进国产算力芯片从“可用”到“好用”的重要举措,通过“以评促用”的创新模式,帮助各类企业找到适合不同场景的“芯片+软件”最佳组合,带来高效、灵活且极具性价比的算力服务,加速国产算力的场景化应用和商业化落地。
随着大模型与生成式AI全面向产业渗透,也掀起了智算基建产业建设的新高潮。中国信通院《智算基础设施发展研究报告(2024)》指出,智算中心与AI云是当前的两大智算基建形态。而根据2024中国算力大会,截至2024年6月,中国已建和在建的各类智算中心已经超过250个。可以说,中国的智算基建产业,正在“卷”出新高度。
与传统数据中心不同,智算中心一般由地方政府或电信运营商主导建设,定位于服务城市的产业和科研创新。在智算中心建设中,如何更好地结合国产算力,成为智算基建产业的重大课题。在全球市场,英伟达一家独大,已经形成了完整的技术生态,取得了远超于其他芯片的话语权。而在中国市场,尽管国产算力芯片厂商如雨后春笋般涌现,且也在努力构建自己的技术生态,但是由于发展时间比较短,需求方在使用的时候还是面临比较多的困难。
所谓芯片的技术生态,包括与算力芯片配套的算子库、软件开发工具包、开发环境、第三方应用支持等。以英伟达的CUDA为例,CUDA是英伟达于2006年推出的一个专门用于自有GPU硬件进行软件开发的接口,包括编译器、调试器、丰富的库函数、各种软件工具等,极大降低了GPU编程的门槛,2019年英伟达又提供了丰富的并行算法库、图像与视频库、深度学习库、通信库以及合作伙伴库等,CUDA经历多年发展成为了英伟达的技术生态壁垒。
算力芯片的技术生态壁垒还包括售后服务及技术支持服务,也就是对于不具备成熟技术生态的算力芯片,由售后技术支持服务团队提供新算子、软件开发接口等技术开发,同时与客户合作提供定制化技术支持,以确保客户项目的成功。售后技术支持服务对于新的算力芯片厂商来说十分重要,这是确保新的算力芯片能够逐渐在市场中站稳脚跟,才能谋求类似英伟达CUDA那样的完整技术生态布局,但需要数年甚至数十年之功,同时,新的算力芯片也需要能够持续找到应用场景,并在市场生存下去。
2024年11月,由北京电子数智科技有限责任公司(简称“北电数智”)打造的首个国产算力PoC平台正式开放,并落地北京数字经济算力中心。国产算力PoC平台,即验证国产算力芯片在不同业务场景下的可行性、性能和表现,同时测试相关数据为后续大规模采用提供决策支持。截至目前,由北电数智统一规划建设与设计运营的北京数字经济算力中心,已成功完成对包括摩尔线程、寒武纪等在内的近二十家知名国产算力芯片的部署测试。
“大部分国产芯片发展道路坎坷不平,也面临着激烈的竞争环境。但是不同的国产芯片性能指标都有一些优势能够发挥,只有充分看到什么场景适合使用什么国产芯片,就有机会让国产芯片快速被使用起来,形成商业闭环,这也是北电数智看到的国产算力发展的可能性”,北电数智CMO、战略与市场负责人杨震指出,北电数智正积极投入到国产芯片的加速、混元、适配等工作中。
首个国产算力PoC平台,依托北电数智先进计算迭代验证平台(即“前进·AI异构计算平台”),为国产算力集群提供垂类场景评测、适配与验证服务的同时,为互联网、AI应用开发企业等垂类场景应用开发提供多种算力适配试验空间,实现从底层算力到业务场景驱动的双向链路打通。
在接受采访时,北电数智CMO、战略与市场负责人杨震表示,北京数字经济算力中心根据不同场景建立了不同的国产算力集群POC平台,企业可以针对自有场景进行国产算力芯片测试,在实际业务场景中了解国产算力芯片的性能和表现,从而加快采用国产算力芯片商业化落地进程。
首个国产算力PoC平台的开放,是北电数智促进国产算力芯片从“可用”到“好用”的重要举措,通过“以评促用”的创新模式,帮助各类企业找到适合不同场景的“芯片+软件”最佳组合,带来高效、灵活且极具性价比的算力服务,加速国产算力的场景化应用和商业化落地。
国产算力PoC平台的背后,则主要依托于“前进·AI异构计算平台”,其由北电数智牵头,联合业内头部科研团队及国内各大国产算力厂商共同构建,是全国首个在生产环境下可实现规模化测试的全栈迭代验证平台,具有多重优化功能,可通过模型量化加速、模型超参数调优、稀疏化推理等模型优化能力,算子融合加速、计算图优化、硬件访存优化等编译优化方式,加速单芯片的性能。
前进·AI异构计算平台还可以针对不同芯片特点,基于模型任务的不同,调配合适的芯片算力,提供具有性价比的多元异构算力。目前,“前进·AI异构计算平台”已实现数千卡国产算力集群的部署工作。
北电数智CMO、战略与市场负责人杨震强调,北电数智作为北京电控集团旗下的人工智能原生国企,承建的北京数字经济算力中心是目前北京五环内唯一的千P以上智算中心。2023年10月,北电数智还承接了北京市重点项目“先进计算迭代验证平台”,基于该项目孵化了“前进·AI异构计算平台”,并落地北京数字经济算力中心。
作为北电数智的拳头产品之一,北电数智为“前进·AI异构计算平台”投入了大量人力物力,重新统一构建了多种国产芯片的技术生态,包括开发和补足了不同国产算力芯片的算子库、建立统一通讯库等,同时联合技术团队共同支撑国产算力芯片售后服务和技术支持服务,满足客户的定制化需求。到今年年底,北电数智还将推出AI云服务,普惠更广大的创新企业和中小企业。
作为人工智能原生的国企,北电数智自诞生之初即通过承建北京数字经济算力中心和承接“先进计算迭代验证平台”等重大项目的方式,研发出了加速人工智能落地的AI工厂“星火·智算”、推动国产芯片从可用到好用的“前进·AI异构计算平台”、高质量AI工具链“宝塔·模型适配平台”、推动数据安全共享、可信流通的“红湖·可信数据空间”以及医疗、文化、工业制造、具身智能等垂类模型矩阵等五大产品。
北京数字经济算力中心是聚合了北电数智五大产品的首个智算中心样板,而北电数智的五大产品也可以对外输出,赋能更多的智算中心摆脱纯GPU算力租用的“内卷”,走上真正落地大模型和生成式AI应用、形成有效商业闭环的高质量发展之路。随着首个国产算力PoC平台的正式开放,将推动国产算力更多地评测与使用起来。而北电数智也将帮助更多的政府和企业智算中心,打造高质量发展新动能。(文/宁川)
4000520066 欢迎批评指正
All Rights Reserved 新浪公司 版权所有