金融大模型落地如何跨越应用、模型、数据与算力鸿沟?阿里云的金融全栈AI云解决方案旨在帮各类机构找到最佳解决方案
· 来源:轻金融 作者:李静瑕
近百倍增长!
2025年,无疑是金融AI应用爆发元年。数据显示,2024年12月与2024年1月相比,阿里云平台大语言模型API调用量增长了接近100倍,接入大语言模型的企业数量同样接近100倍的增长比例。
随着整个世界被推入“AI 平权”的新纪元,银行业也正在以难以想象的速度加快拥抱AI应用。哪些银行能够打造全面的AI能力,在未来最大程度挖掘AI的技术红利?
唯有让进化成为本能的银行,才能立于不败之地,新技术创新涌现出来的新范式或能给出更多答案。
01
“AI平权”时代:银行面临一场淘汰赛
作为应用最为广泛、发展最为迅猛的行业之一,AI在金融行业拥有巨大的发展潜力与空间。IDC数据显示,2024年中国金融行业AI and Generative AI投资规模196.94亿元,预计到2027年将达到415.48亿元,增幅将达到111%。
在成本降低以及推理能力上升的技术跃迁中,金融AI大模型涌现新的发展趋势。一是“AI平权”时代快速到来,这意味着无论大小的金融机构,都有能力快速拥抱AI;二是AI大模型从“快思考”助手型的应用迈向“慢思考”专家型应用,解决复杂问题和任务,是AI真正价值的体现;三是AI Agent也处于爆发当中。
“AI的全面应用是决定金融业生死存亡的关键之举,也是关键时刻。”原中国银保监会副主席、社保基金副理事长陈文辉表示,AI技术给经济社会带来的全方位的改造也许不是简简单单的AI+,而是一种指数性的重塑跟跃迁。
事实上,银行业全面拥抱AI已经跑出了加速度。在战略上,农行、工行、交行、招行、浦发银行等“人工智能+”战略全面推进。在共识上,银行正在以难以想象的速度,从对AI的观望转为达成加速拥抱AI的共识。同时,银行也在不断加速AI在各大场景中的应用。
未来银行业如何抓住当下AI发展的机会,构建自身AI大模型应用的能力?全国性银行的实践与经验,或能提供一些路径、模式的参考。
“从数据化走向智能化,很显然你要解决如何得到知识,如何运用知识的这样一个过程。”一家股份行相关负责人表示,银行需要有对付、理解以及生成非结构化数据的能力,才能真正的去获得知识和运用知识,达到“智慧”。
目前,该股份行已经构建了包括基础算力、模型、平台、应用四层的AI大模型技术体系。基础算力方面,拥抱国产,通过优化配置和算力调度策略,实现算力的精益使用。在模型层则通过多种路径选择,如大模型直接拿来用,或者进行微调加强化学习,当前大模型蒸馏技术正在成为银行的主流选择。
“能力建设从需求出发。”这是这家股份行遵循的AI大模型能力构建原则。在AI应用场景的探索上,通过想、试、落、推的过程,层层转化,在知识和劳动密集型领域去探索。通过“大模型+智慧X”的模式,探索研发、办公、风控等八大领域的AI应用。
在探索场景应用过程中,引进推理力以及Workflow和Agent能力能够提升AI应用的效果。同时,该股份行还花了很大精力去构造评测数据集,以在高速发展的技术供给之下,帮助银行更高效做正确的选择。
许多金融机构都很关注,该如何更快更高效推进AI应用?该行的经验显示是,人才、团队、组织架构的变革是关系到AI能力建设程度的关键环节。
该行的破局路径,是业务、科技、数据三大团队联合构建AI核心组和卫星组,核心组主要专注在基础架构、大模型领域,卫星组则负责业务应用场景。其中,核心组包括平台工程师、算法研究员以及算法解决方案架构师。在这样的组织架构以及AI大模型建设及应用模式的推动下,当前该银行已经收到了145个需求,已经在300多个场景落地AI应用。
在这场AI“生死战”中,银行业找到适应自身发展的路径才能够增加赢面。然而,当前银行业还面临诸多挑战,如金融AI大模型路径之争、架构之争,大模型幻觉与不确定带来的应用落地与监管的挑战等。
在中国银行业协会原首席信息官高峰看来,银行当前面临三大挑战,一是大模型的可靠度和信任度的问题。二是算力对中小银行来说依然是主要障碍,采购硬件并不能解决算力根本性的问题。三是通用大模型并非万能的,能够带来价值收入的AI技术更吸引人。
银行该如何突围?
02
突围之路:金融全栈AI云与新范式
“AI平权”意味着机会对等吗?难点在于技术普惠化生态包含着系统的复杂性。
当前,金融行业对于AI应用认知高度统一、拥抱节奏这么快的情况下,是否存在“AI平权”方案,让不同规模的机构(大银行、小银行、保险、证券等)都能找到相对清晰、确定的落地路线?
早在1976年,美国发展心理学家约翰·弗拉维尔提出了元认知的概念,即人对自己思维过程的觉察、监控与调节能力,这也是人类智慧形成、进阶很重要的环节。对于AI而言,如果无限追求人类智慧的终极能力,那么AI技术发展的诸多问题也可以从元认知的逻辑里找到答案。
“元认知解决很多问题,需要去用逆向思维解决复杂问题。”阿里云智能集团副总裁、新金融行业总经理张翅称,“AI大模型的终极目标是AGR,但是在以金融行业为代表来看,我认为未来一定也是一个大模型+成千上万小模型的组合。”
作为大语言模型应用的技术范式,MOE、MOA备受关注,一个是专家依赖,一个是团队依赖。张翅认为,与互联网企业坚定拥抱MOE有所不同,银行等金融机构更适合MOA架构,即“通用大模型+专业小模型”,其中A就是小模型。
在MOA架构中,基础大模型可以选择开源方案(如通义千问等),自己做强化学习和蒸馏,将专有数据与开源模型结合,训练出专属小尺寸模型。小尺寸模型可以用很少的算力,基于自身业务数据快速实现专业价值。MOA之于银行,基础模型可以选择开源方案(如Qwen等),当基础模型迭代更新时,只需自己做强化学习和蒸馏,将专有数据与开源模型结合,训练出专属垂类模型,不需要几个月重新训练。同时,可以灵活切换不同开源模型,所需算力少、时间短。
要实现MOA架构,其关键点在于数字飞轮。阿里云推出了数据飞轮解决方案,本质上是“数据-模型-反馈”的增强闭环系统。传统数据闭环依赖人工标注或隐式反馈,前者成本高、周期长,后者点击率噪声大、解释性差。因此,围绕LLM的数据飞轮因为用户交互体验的改变,需要有新的范式和架构。
“在拥抱AI创新的时候,一定要去培育出企业自己的专属模型。但是专属模型不是用预训练模型去做,而是真正结合自己本身数智化的程度,数据、知识、经验、专家,如何和模型形成交互过程,所以这是一个老师教学生的过程。”张翅表示。
“老师教学生”,这正是阿里云通义点金数据飞轮解决方案的逻辑。据阿里云新金融行业线首席技术官郑淼介绍,在数据驱动、场景引领的模式下,数据飞轮帮助企业平衡大模型“快”与“解决复杂问题”的能力。
其中,小飞轮即“老师对学生的蒸馏”,大飞轮则是老师的自我强化学习。具体应用上,小飞轮需要已经部署点金平台,并且至少有一个需要复杂的推理的业务流程在线上使用。假设学生是7B模型,则需要8张A100,蒸馏到小模型上,效果不下降的情况下节省算力。大飞轮在小飞轮的基础上需要客户的场景已经在生产上投产使用,类似支付宝的智能投顾场景,能够用明确优化的目标。假设老师是72B模型,需要48张A100,通过强化学习算法,老师在业务场景上的效果能够持续提升。
银行要如何通过数据飞轮构建MOA架构?首先构建简单的Agent框架,再选择具体等业务场景设计清晰的步骤流程,然后将业务规则和知识训练到模型中,最后通过持续学习不断优化。双飞轮的模式,能够重构应用大模型的架构,最终得到一个无限靠近AGI的大模型+非常多的小模型。
在张翅看来,算力、数据、模型与应用四大工程,这是银行在布局AI大模型应用需要直面的挑战。银行业如何解决这四大工程建设问题?
阿里云还发布了金融全栈AI云,采用“四个工程”统一的方法,实施软硬件一体,银行等金融机构可以根据场景需求选择合适的技术路线,安全架构实现分层设计,也可以实现分阶段实施。通过联合生态开箱即用的金融场景和自研创新的金融AI云,能够让金融机构一天构建起自身的算力以及软件能力,1~2周实现小模型蒸馏,一个月完成大模型强化学习的过程。
各类金融机构都可以借助金融全栈AI云实现快速布局。金融全栈AI云分为初级入门方案、中等复杂度方案、高级业务深度整合方案,这为全类金融机构提供了可选择的实施路径。例如,中小银行完全可以选择入门方案,几百万的投入能够在1-2个场景快速验证。不需要像以前需要几年时间、几个亿投入才能见效。
“我们希望通过金融全栈AI云形态能够帮助各个金融机构在真正去拥抱AI的时候,去找到一个最佳答案。”张翅称。
03
智能体时代的未来:生态共建
AI技术的日新月异,让未来银行的金融服务“无处不在”的这一愿景在加速到来。
其关键在“生态”。无论是银行业务场景融合还是技术的共创与赋能,都是生态的共同进化。目前,AI已经在多个场景中给银行业带来了显著的效能提升。
远程银行服务中,当客户与坐席沟通完之后,通过阿里千问的32B模型大小模型的协同作用,可以实现把此次沟通的内容精准提取要素实现智能填单,客服效率提升了60%。远程银行营销场景通过落地智能体,意向客户的转化率提升10%。
在财富管理领域,理财师只需要在AI账户助手上传一张客户的持仓截图或者CIM截图,AI账户助手就会自动整合市场数据、产品数据、知识库以及结合量化分析工具生成一份涵盖市场概况、台账攻守、账户的诊断、持仓穿透基本面分析等的完整报告。将理财师数小时才能完成的报告,在3分钟之内生成。AI账户助手的背后是阿里云QWQ32B的强力支撑,提升场景化的理解能力,装载个性化的表达引擎,实现合规与精准推理。
数字人通过慢思考与多模态结合,可以实现面签官与客户智能交互问答,实现消费金融取证签约。同时,还能够做流程中的合规检测,例如当客户手持证件不是本人的状态之下,数字人会给予提示以及后台预警。这套解决方案可以大大提升服务客户的效率与反馈的及时性。
智能信贷产品领域,智能体智慧尽调能够实现多模态信息提取及填充,智能分析说明填充,多数据交叉风险洞察以及识别情感及分析。这让员工撰写报告耗时降低至0.5天,准确率从85%提升到99.8%,增加新的风险洞察视角。
值得关注的是,这些金融场景的AI应用,正是来自于阿里云与信雅达、牛投邦、小冰科技以及小融科技在场景生态领域的联合共建与探索。面对金融机构对AI全面拥抱的大量需求,阿里云也表示将在模型层面坚持"全尺寸"策略,深化Agent能力以及推进生态深度融合。
未来将是Agent AI时代。张翅认为,金融机构需要建立自己的智能服务体系,这可能类似于操作系统概念——金融OA系统将演变为智能体平台。阿里云升级发布的通义点金Pro版,能够实现Agent的可观测、可评测。其Agent的意图理解准确率已从原来的水平提升到90%-99%,过去一年机构主要用RAG和Prompt Engineering,现在这些方法正在被更先进的模型架构替代。而金融机构的业务部门实测之后效果明显提升,很多业务直接要求上线。
技术的生态共建中,银行是金融AI大模型生态中重要的组成。银行在全面拥抱AI的同时,需要深入生态共建,从战略到自上而下的AI共识,再到组织架构都需要有深刻的变革。“AI平权”让中小金融机构可以通过更加灵活的方式全面拥抱AI,使得创新产品和服务不断涌现。
“在共同进化中,变化是响应自身而变化,不用打击他人就能赢。”凯文·凯利曾如是描述。在AI共同进化中,银行的更应该关注自身,寻找到适合自身的模式与路径,或许才能真正实现下一轮数智化周期中的“生与赢”。


财经自媒体联盟

4000520066 欢迎批评指正
All Rights Reserved 新浪公司 版权所有