新一代智能大模型，正在金融业加速落地！
来源：轻金融 作者：尚志科
生成式AI发轫一年多之后，全球大模型领域的军备竞赛已然打响：
截至目前，应用商店中生成式AI相关的应用已达数万，APP被颠覆的趋势正在发生；就在近期，从Amazon到谷歌等科技巨头，都发布了大模型领域的重量级产品，推动大模型的落地更加快速。
作为数字化、智能化的先行者，金融业有望成为大模型技术落地的最佳领域之一。然而，金融大模型的落地与应用并非一蹴而就，仍然面临着一系列挑战。更完善的产业分工与行业生态，领先的大模型企业与云平台公司积极参与，正在为金融机构大模型应用打开新的空间。
01
金融大模型落地还缺什么
多年来，AI一直是金融行业重兵投入的新技术创新方向。
轻金融据央行最新公布的《2022年度金融科技发展奖获奖项目名单》统计发现，在193个上榜项目中，与智能、AI相关的项目高达34个，可见金融行业对人工智能的应用之深。
生成式AI在2023年的突飞猛进，使得大模型成为金融行业的重要基础设施之一，推动金融行业加快创新与发展进程。
一方面，拥有海量的数据、丰富的场景，使得金融行业成为垂直领域大模型应用的一片蓝海。大模型与金融业的结合，将拓宽金融业数字化转型的广度和深度，无论是在前中后台各个领域均有广阔应用前景。
从大模型在金融行业的落地场景看，正在重塑整个数字金融行业，包括投研、市场、渠道、产品开发、客户服务、风险管理等所有的领域，并且已经深入到了前中后台的各个环节中，每一条业务线、每个职能岗位都能找到相应的应用场景。
另一方面，大模型领域的创新在金融业有更大的想象空间。对此，北京金融信息化研究所指出，多模态金融大模型的发展与应用，可以为金融机构提供更多智能化、个性化的服务和决策支持；而AIAgent未来可能推动人工智能成为金融业信息基础设施，为金融机构提质增效，创造更深度的价值。
但不容忽视的是，大模型在金融行业的应用整体还处于初级阶段，面临着一系列绕不过去的挑战与痛点。在具体应用落地的过程中，大模型还面临着算力、成本、安全可信、服务质量、人才储备等一系列挑战。
打造强大的金融行业大模型，技术、数据、场景、生态能力等要求缺一不可。云服务平台火山引擎相关负责人总结了困扰金融机构建设的三大难题。首先是场景侧难题；二是现有组织包括各种应用系统、工具需要进行大的改造，合规风险也面临非常多的挑战；三是算力支撑。
金融机构如何迎战大模型？“未来要在金融行业构建一个场景、模型、数据的大模型飞轮。模型先启动，运用到金融机构的业务场景当中，让业务运转起来，从而源源不断地产生数据，然后这个数据又回归模型，这个飞轮就转起来了。”火山引擎上述负责人表示。
02
大模型需要更完善的产业分工
现在的生成式AI，正在成为关乎金融行业转型整盘棋的“胜负手”之一，可谓牵一发而动全身。
BCG就指出，生成式AI在银行业规模化应用的落地是一个体系化的工程，其成功与否，10%看模型，20%看整体IT能力升级，70%依赖于业务与组织的转型。因而，破解模型面临的重重挑战需要形成合力，构建良性的大模型生态系统势在必行。
火山引擎上述负责人也有同样的感触。“AI智能体就好比是一个人。大语言模型就是一个大脑，但其实人还需要手，还需要脚，还需要活动去执行的各种能力，所以从感知到思考到行动，它需要一整套的一个体系化的一个工程。”
因此，大模型应用需要更细分完善的产业分工，需要建立一个各类模型健康交互和协同进化的生态，以保证大模型相关人工智能产业可以在各个应用领域成功落地。在具体的大模型部署中，金融机构需要规划的大模型不是一个或两个模型，而是一个矩阵。
在火山引擎看来，每一家金融机构的模型应该是“1+N”的结构，即一个核心模型和N个垂直领域的模型。同时，部署方式可以是公有云，也可以是私有化。对于金融机构而言，选择一个好的大模型还不够，需要让模型能力落地，并且需要一系列服务兜底。
这正是火山引擎等机构一直在为金融机构量身打造的。为了解决算力的依赖，在火山引擎的公有云上，会提供一个独立的算力池来提供各种孵化，为AI训练提供高性价比、高稳定的AI基础设施。目前火山引擎云已经服务国内多家大模型企业。
在私有化解决方案的部署上，12月14日火山引擎携手国内领先的认知智能大模型企业智谱AI，共同发布高性能金融大模型“火山引擎-智谱AI金融行业大模型”（下称：火山-智谱金融大模型），为金融机构提供更丰富、强大的模型选择，并全面开启测试。
当前的金融大模型领域，已经吸引了很多巨头扎堆，而火山-智谱金融大模型为何值得金融机构关注？
首先，这源于智谱AI提供“模型领先”保障。智谱AI是谁？它被评价为国内“最具OpenAI气质和水准”的AI公司，是唯一全内资国产自研的大模型企业，也是国内唯一一个对标openAI全模型产品线的公司，曾刷新了国内大模型创业公司的累计融资额，也是国内第一家估值超百亿的大模型创业公司。
智谱AI于2023年10月推出的第三代多语言、多模态预训练模型ChatGLM3，其模型性能、功能及底层架构均完成了全方位升级，在44个中英文公开数据集测试中，ChatGLM3在国内同尺寸模型中排名首位。其Agent智能体率先开启国产大模型原生支持各类复杂场景能力，进一步提升了大模型的执行力和生产力。
其次，火山引擎为大模型服务兜底。火山引擎将会为大模型的平滑落地提供工程化解决方案，包括轻量级的模型训练方案，解决稳定性、性能优化、推理加速等算力挑战；私有化或者云端部署方案，适配国内外硬件生态；全方位的安全架构和内容安全方案；完整的大模型工具链和多场景落地方案，帮金融机构缩短落地周期。
被看好的公司会获得更多的资源，对于马太效应明显的大模型赛道而言更是如此。未来，双方将持续优化迭代火山-智谱金融大模型，可以确保模型领先性，免除金融机构的后顾之忧。
03
推动“新一代认知智能大模型”落地
众多金融机构积极拥抱大模型的根本目标，是驱动更多的业务场景实现数智化能力，包括提高营销和运营效率、提升客户体验、为客户创造价值。当生成式AI渗透进金融行业的每一个地方，金融机构如何成为金融生产力智能化的引领者？
目前，金融大模型存在的最大挑战在于如何在实际业务场景中落地，以及模型能力是否可靠。为了帮助金融机构加快大模型应用，火山引擎加快大模型的试点应用步伐，打造大模型金融应用最佳案例，并进行规模化推广复用，发布合作伙伴计划，联合业内科技公司围绕着智能体帮金融机构去做更全面的建设。
在2023年6月，火山引擎就已经发布了大模型服务平台“火山方舟”，提供的不只是模型能力，而是帮助应用方更好使用模型的能力。这些能力既包括模型试用、评测、接入、精调等，也包括训推一体、弹性调度、算子优化等。
此次火山-智谱金融大模型的发布，则是金融大模型产业链生态演进过程中的又一里程碑式的产品。测试显示，火山-智谱金融大模型在自动生成代码、自动解读研报、智能客服、智能助理、智能数据分析等行业场景已有良好表现，推动新一代认知智能大模型在金融业加速落地。
正在“通过认知大模型链接物理世界的亿级用户”的智谱AI，在挑选合作伙伴时也势必会高标准。对于火山引擎这样的合作伙伴，智谱AI CEO张鹏评价，“火山引擎具备高效的算力基础设施、开放安全的大模型生态、丰富的金融行业实践、完善的交付保障。”
实际上，目前火山引擎在金融行业已经搭建了完整的大模型解决方案，帮助金融机构解决大模型深层次应用的痛点。一是解决算力制约，提供从硬件层、容器层、调度层、框架层的技术优化，搭建异构训推一体云平台，在不同任务下，可以统筹调度不同厂商不同性能的芯片，优化模型对于国内外异构算力的适配，做好芯片的集约化利用。
二是数据服务。满足金融数据预训练和全类型的数据标注需求；向量数据库VikingDB，支持百亿级向量检索、检索性能5ms以内；自带自研算法。
三是场景落地。火山引擎在金融行业已服务3年多，有100多个金融客户，具有丰富的交付实力。在大模型落地场景上，对于创意内容生成、办公协同、客户服务、BI商业智能等领域具备成熟的内外部经验和技术优势。
针对金融机构关注的数据安全和模型幻觉等合规问题，火山提供大模型的私有化方案，保证数据安全性；公有云上提供安全可信的数据服务方案，确保模型使用方和模型提供方的数据隔离；特色的内容AI质检解决方案，优化模型幻觉问题。
“金融机构需要的大模型是一个技术和行业交叉融合的系统化工程。”火山引擎总裁谭待表示，希望火山引擎和智谱AI通过合作，共同探索大模型在金融行业的价值创新。火山引擎也将以此为契机，未来将联合业内众多相关科技公司，围绕智能体帮助金融机构进行更全面的建设。
