江南农村商业银行:全栈信创大模型应用平台的创新实践

江南农村商业银行:全栈信创大模型应用平台的创新实践
2024年06月28日 11:54 中国江苏网

  2024年,“人工智能+”首次被写入政府工作报告,是人工智能从技术理论到赋能实体发展的重要标志,人工智能领域正经历着一场由生成式人工智能大模型引领的爆发式发展。

  在此背景下,江南农村商业银行自主研发“小江智脑”大模型应用平台,在研发创新、市场营销、办公自动化等多个业务领域实现了智能化升级,加快形成以人工智能为引擎的新质生产力。该平台以国内合规的千亿参数开源大模型为基础,整合了国产向量数据库、麒麟操作系统、达梦数据库以及信创GPU显卡、信创CPU等核心组件,构建了一个全栈信创环境下的大模型应用平台,实现了大模型应用技术的自主可控,以及对文本生成、语言理解、逻辑推理、知识问答、代码生成、多模态能力等多种业务场景的全面覆盖,为行内不同岗位定制23项AI智能应用,显著增强了员工办公效能。

  智能办公AI助手:开启知识检索新纪元

  该行推出的智能办公AI助手平台,采用前沿的“大模型+向量数据库”技术架构,集成了创新的“全行知识问答助手”功能。该平台拥有卓越的自然语言处理能力,能够精准理解员工的查询意图,并从海量的知识库中迅速提取相关信息。通过向量数据库的高效应用,知识的存储与检索变得更为迅速。

  智能办公AI助手以高效的问答形式,实现了对银行内部丰富多样、高质量知识资产的深度挖掘和利用,员工能够迅速、精准地获取所需的内部规章制度和操作指引,极大地满足了日常的信息检索需求,提升了工作效率和决策质量。截至5月末,该行智能办公AI助手已经累计服务超过21万人次,产出的内容量高达5058万字符。

  文本机器人:全天候智能客服专家

  目前,该行采用大模型构建的对客24小时文本机器人,在Q&A问答整理的基础上整体提高16倍的工作效率,客户问题的有效回复率提升约30%。

  这种提升主要得益于大模型在自然语言处理(NLP)领域的应用,包括语义理解、上下文理解、自主学习、多任务处理、可扩展性等。文本机器人通过对大量文本数据的学习,能够更好地理解客户问题的语义,从而更准确地匹配对应的答案,同时其出色的上下文理解能力,能够精准捕捉客户问题中的背景信息和语境。大模型通过持续不断的学习和优化过程,不断提升自身性能,让文本机器人在时间的推移中,对客户问题的理解和回答能力愈发精进。大模型还能够根据多样化的业务需求进行灵活定制和优化,这种适应性使文本机器人能够轻松融入不同行业场景,满足不同领域的特定需求。

  辅助代码编程:解锁编程新境界

  大模型代码生成技术在自动化软件开发领域展现出巨大的潜力,尤其在提升编码效率、减少错误率以及缩短开发周期等方面表现突出。基于此技术构建的辅助代码编程助手工具,具备代码补全、代码解释、代码重构、错误检测以及单元测试案例生成等多项功能,有助于提升开发人员的工作效率和代码质量。

  该工具已成功适配IDEA、VSCode、Eclipse等主流集成开发环境,并支持Java、C++、Python、SQL等多种主流编程语言。截至2024年5月末,已在该行内部20多个开发团队中得到广泛应用,安装人数超过400人。在实际工作中,该工具使用次数已经突破4.2万次,累积了1689多万个字符的编码数据,使前线开发人员的工作效率平均提升了25%。

  虚拟数字人:科技与艺术完美结合

  “小江数字人”以大模型为核心智慧引擎,赋予了其优异的自然语言处理能力和深刻的知识理解能力。这使得“小江数字人”在提供行内知识问答服务时表现得游刃有余,同时为外部接待参观者带来了良好的互动体验。“小江数字人”凭借对大模型的深入学习和精准理解,能够迅速而准确地响应参观者提出的问题。无论是关于江南农村商业银行数十年的发展历程、广泛的业务范围,还是具体的金融产品和服务流程,它都能够提供详细且专业的解答。这种高效而精准的服务不仅提升了参观者的感受度,也充分展现了该行在科技创新和应用方面的成果。

  自2024年三月投入运行以来,“小江数字人”已圆满完成了数十次的外部接待参观任务。每一次的接待都是对“小江数字人”能力的一次全面检验和宝贵提升。通过不断地实践和学习,“小江数字人”不断优化自身的服务质量和互动效果,力求为每一位参观者带来更加优质的体验。

  多模态大模型应用:业务系统智能化升级

  为了紧跟市场趋势并满足日益增长的客户需求,江南农村商业银行引入了“多模态大模型”+“专用小模型”的组合方案,对业务系统进行了全面的智能化升级改造,为提升业务处理效率、优化客户体验开辟了新的道路。

  具体而言,多模态大模型能够高效、准确地提取业务申请书、进账单等复杂信息中的文本、图像、表格等多种数据形式。它不仅能够识别这些信息,更能深入理解其背后的含义和逻辑,为后续的业务分析和处理提供了坚实的数据基础。同时,专用小模型通过“两路一校”的方式,与大模型无缝衔接,对关键信息进行快速校验和处理,推动了业务办理流程的大幅优化,预估单笔交易可节省2分钟,全年预计节约工时高达40万小时。此外,该方案展现出的灵活性和可扩展性,随着业务需求的不断变化和演进,可以快速调整优化多模态大模型和专用小模型的功能,以适应新的业务场景和挑战。

  未来,江南农村商业银行“小江智脑”大模型应用平台将持续升级优化,从而更好地为客户提供更加智能化、个性化的金融服务,满足客户日益多样化、个性化的需求。同时该行仍将秉持创新精神,不断探索尝试新技术,进一步拓展大模型在更多业务领域的应用,例如风险管理、信贷审批、客户关系管理等,实现全面智能化运营。(江南农村商业银行首席信息官、信息技术部总经理(兼) 杨 凯)

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部