打造算力与绿色双“飞轮”:大模型时代金融数智化的破局之道

打造算力与绿色双“飞轮”:大模型时代金融数智化的破局之道
2024年07月24日 15:47 IT创事记

无论在信息化建设还是数字化转型时期,金融行业都扮演着开路先锋的角色——把各种“坑”先踩一遍,在充满荆棘的道路上闯出一片新天地。

当大模型呼啸而至,人工智能开始施展“魔法”,身处数字化转型深水区的金融行业再次面临“闯关”的机遇与挑战。这次的难度比以往更高,一不小心可能陷入“左右互搏”的困境。

一方面,金融行业要“左手画条龙”,通过加大先进算力基础设施投入力度,推动大模型迅速落地,达成科技创新与业务升级;另一方面,金融行业还想“右手画一道彩虹”,在大干快上的同时实现节能减碳的目标,并为可持续发展营造适宜的生态系统。

不难看出,如果金融行业要顺利完成上述任务,规避“两难选择”或“不可能三角”,就必须打造算力与绿色双“飞轮”,同步实现底座变革与路径突围,以期在不确定性丛生的复杂环境中冲破各种障碍,成为大模型时代真正的领航者。

这并非易事,既需要产业链先行者的锐意探索,更离不开合作生态的鼎力支撑。在近日举办的2024中国国际金融展上,昆仑技术秉承AI先行、软件使能、伙伴协同的理念,携全场景领先的重磅算力产品亮相大会,并联合伙伴推出覆盖金融业务的多元化解决方案。

其中,KunLun AI Space大模型加速引擎、KunLun全新AI推理服务器、KunLunPoD for AI整机柜液冷服务器、KunLun HCI新融合解决方案尤为引人注目,与爱数、大普微、金睛云华、数势科技等合作伙伴构建的解决方案也颇具看点,为大模型时代金融行业数智化转型提供强劲动力。

当算力与绿色比翼齐飞,且拥有一条厚雪长坡的生态跑道,金融数智化的未来更值得期待。

破解金融行业大模型落地的算力难题

当下,金融行业正处于数字化转型的关键时期。面对来自各方的竞争压力,传统金融机构同质化、低效率、高成本等问题日益凸显,亟需借助数字化手段降本增效、优化体验。

AI大模型的风起云涌,为金融行业“啃硬骨头”创造了必要条件。大模型具备语言理解、知识表示、多模态感知、逻辑推理等多维度的强大能力,可在金融行业的客户洞察、风险防控、精准营销、智能服务等场景发挥重要作用。

然而,大模型的商业化应用尚处于摸索期,在金融行业的落地进程也不可能一蹴而就。尤其是在智能算力建设和大模型部署阶段,金融行业难免遇到成本高昂、经验欠缺、工具不足等挑战,如何将纸面算力转化为可用算力更似比登天。

直面金融行业的需求痛点,昆仑技术开创性地推出KunLun AI Space大模型加速引擎,为客户提供一站式的大模型迁移和开发解决方案。基于雄厚的硬件和软件支持能力,以及丰富的AI工具和服务,KunLun AI Space能帮助客户快速完成环境部署、模型迁移调优、模型训练和应用,促进金融业务迈上更高台阶。

值得关注的是,大模型迁移过程中的兼容性问题是很多金融行业客户的最大困扰。KunLun AI Space大模型加速引擎能高效完成模型迁移工作,帮助金融客户实现AI业务快速落地。昆仑技术还配备百人专职FAE团队,针对昇腾生态大模型开发三阶段,持续构建模型迁移、适配和调优能力。截至目前,昆仑技术已支持100+项目,涵盖金融行业头部客户。

权威研究机构的预测显示,到2028年人工智能的推理负载占比有望达到85%,推理将逐步超越训练,成为大模型进化的首要动力。金融行业无疑是这股潮流的拥趸,其对高性能AI推理服务器的需求与日俱增。昆仑技术特别推出KunLun G5500 V2、KunLun G2200 V2推理服务器,围绕业务需求变化构建专业产品与技术能力,从训练到推理到训推一体机全场景布局,驱动金融客户算力底座全面跃迁。

“高密+液冷”筑就大模型时代的绿色方舟

伴随智能算力需求的几何级数增长,数据中心的能耗问题愈发突出,甚至有人提出这样的观点——“AI的尽头是算力,而算力的尽头是电力”。

根据国网能源研究院的测算:2020年,我国数据中心用电量突破2000亿千瓦时,占用电总量比重约2.7%;预计到2030年,这一数字将突破4000亿千瓦时,占比升至3.7%。正朝大型化、规模化、智能化方向演进的金融数据中心,同样面临前所未有的能耗挑战。

从顶层设计的角度看,打造绿色金融数据中心已成为政策引导的主流方向。中国人民银行印发的《金融科技发展规划(2022~2025年)》中指出,新型数字基础设施的关键点之一即“建设绿色高可用数据中心”。

就具体的技术路径而言,提升算力部署密度,改变制冷和散热模式,堪称金融数据中心化解难题的必由之路。相关统计显示,算力密度越高且采用液冷解决方案,数据中心建设投入就越低,液冷40KW机架比风冷10KW机架的每瓦特建设成本约低1美元。

正是在这样的背景下,KunLunPoD for AI整机柜液冷服务器脱颖而出,为金融数据中心打造出通往数智化彼岸的绿色方舟。它是昆仑技术在液冷技术和智算领域的创新方案,不仅提高了服务器的性能和效率,而且有效解决了数据中心的高功率散热问题,树立起节能减碳的新标杆。

据了解,KunLunPoD for AI在算力密度、AI能效、交付部署等维度表现优异:单机柜能提供25.6 PFLOPS@FP16的AI算力,最大可拓展至3.2 EFLOPS;采用100%原生液冷设计,单机柜AI能效比为0.5 PFLOPS / kW,PUE≤1.15;基于计算、电源、网络总线架构,支持多样算力大规模部署,现场交付时间降低38%。

多元融合的生态系统驱动金融数智化奔赴未来

事实上,金融数智化是一个系统工程,单边突破很难从根本上解决问题,系统性发力才有望实现蜕变。如果说算力与绿色扮演了纲举目张的关键角色,那么多元融合的生态系统则是金融数智化奔赴未来的核心根基。

以基础底座的层面来看,超融合架构的出现消除了金融业务海量并发的性能瓶颈,也减轻了IT运维的负担,为构建良性运行的生态系统奠定了基石。但伴随国产化政策、数字化应用迈向纵深,超融合架构也亟需迭代升级。

面对复杂环境下的新课题,昆仑技术推出KunLun HCI新融合解决方案,基于虚拟化研发积累和创新智能管理技术,高效融合双生态算力,自研OS以及AI使能工具,推动“算、存、网、智、安”全融合及多算力集群统一管理。该方案适用于虚拟化容器应用、票据影像非结构化数据存储、实时交易等金融场景,引领超融合架构朝轻量化、国产化、智能化、现代化方向演进。

衡量生态系统健康程度的另一项重要指标是产业链不同环节的相互协作。在2024中国国际金融展上,昆仑技术众多合作伙伴联手推出各具特色的解决方案,为金融行业数智化转型探索出值得借鉴的丰富路径。

在运用领域认知智能架构促进大模型落地方面,爱数与昆仑技术将双方在算力和数据方面的创新性、领先性相结合,推出全栈国产备份一体机联合解决方案,帮助金融客户实现不同业务的数据生命周期管理;在存算服务国产化落地方面,通过采用昆仑技术服务器与大普微SLC / TLC eSSD,并结合软件定义存储(SDS),使系统效率和灵活性大幅提升,助力银行快速应对和防控风险。此外,金睛云华、数势科技也分别与昆仑技术在应对网络攻击、大模型智能分析等领域强强携手,扫除金融数智化转型深水区的暗礁险滩。

当算力与绿色的双“飞轮”快速转动,产业链的生态系统茁壮成长,金融数智化的新时代也就正式到来。秉承“火种”的昆仑技术将与更多伙伴共同照亮未来的道路,星火燎原的图景并不遥远。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部