为了规范人工智能领域的科技活动，我国陆续发布了一系列法律和行政法规要求确保模型决策的安全可靠和公平公正，同时也对企业内针对模型的风险管理和内控制度提出具体要求。人工智能模型风险治理将成为未来趋势，企业应该实施切实有效的治理措施，快速灵活应对模型风险。
12月 24 日，由中国信息通信研究院主办的“2021 GOLF+ IT新治理领导力论坛”隆重开幕，论坛以“新治理融惠创新，数字化行稳致远”为主旨，围绕 “治效兼顾，构筑科技治理新生态” 和 “XOPS创新，领航运维发展新脉络”两大主题展开。论坛举办期间产学研各界嘉宾进行了精彩的主题演讲和经验分享，促进了企业间的学习交流和各行业数字化治理持续健康发展。
本次论坛上，中国信息通信研究院云计算与大数据研究所所长何宝宏先生隆重发布了人工智能模型风险治理能力成熟度首批试评估结果。
评估单位：中国信息通信研究院
中国信息通信研究院云计算与大数据研究所所长何宝宏先生为同盾科技授牌
▲评估结果公布现场
此次，我们采访了同盾科技市场公关副总裁汪华峰，副总裁、政府事务部总经理、同盾法律研究院院长牛凯，以及软件产品和解决方案部总经理&策略模型总监阅微，一同深度探讨团队在项目参与评估时的细节和故事，分享同盾科技人工智能模型风险治理实践的经验。
-Q&A-
同盾科技有限公司软件产品和解决方案部总经理&策略模型总监 阅微
Q:恭喜您通过人工智能模型风险治理能力成熟度评估，此次贵公司通过的是金融业个人账户涉赌涉诈风险模型生命周期管理模块，请您介绍一下您和您的企业，以及此次参与评估的项目。
阅微：同盾科技是中国智能分析和决策领域领军企业，以人工智能、云计算等核心技术体系为基础，为金融、保险、互联网等行业提供智能分析与决策服务。截至目前，累计已有超过一万家客户选择了同盾的产品和服务。
本次评估公司通过的是人工智能模型风险治理能力在涉赌涉诈风险场景管理成熟度优秀级。本次评估依据的标准吸取了业界优秀的实践经验、以及行业的先进理念，具备很强的科学性、权威性和前瞻性，推动当前监管热点--涉赌涉诈防控要求的规范化、标准化。
项目组针对本次评估发现的短板与问题，以评促建，当中完成了 80多个能力项的完善和升级，最终通过了人工智能模型风险治理能力成熟度的严格评估。本次参评给同盾在防赌反诈风控技术建设中带来的收益包括：
促进了防赌反诈账户风险的体系化建设；
模型生命周期管理过程中涉及的需求管理制度、模型验证制度、模型审批制度、模型退役与归档制度等各项管理制度的体系化梳理与完善升级；
在模型安全、持续性验证、多版本管理等方面得到完善和加强。
Q. 对于人工智能模型风险治理能力成熟度模型评估，您怎么看？
阅微：目前在金融领域各企业、各业务方向能做模型的非常多，水平也参差不齐，特别在近些年涉赌涉诈相关监管发文频发的背景下，此时推广该方面的模型风险治理能力成熟度模型标准，无疑是正当时。同盾非常看好在这个热点场景有一套完整、专业的模型成熟度评估及量化评判标准。
通过评估树立各行各业人工智能模型风险治理能力的行业先进标杆，不仅能够帮助各家企业、业务部门根据标准评估自身模型成熟度档位，以此不断改善优化；也是有利于甲方在选择乙方服务时有比较好的参照物，增加人工智能模型服务选择的评估维度。
Q. 请您介绍一下此次参与评估的项目。
阅微：此次参与评估的项目是金融业个人涉赌涉诈风险模型，该风险场景是最近金融业最热点的风控建设场景之一，公安、人民银行等监管机构不断加码在涉赌、反诈领域的防控力度，同盾之前已助力国内几十家大型金融机构此方面的相关建设，在参评前就拥有了深厚的该场景行业领先的金融业防赌反诈实战经验，并已取得了很好的监管认可、客户口碑及市场评价。未来我们将不遗余力在反赌反诈领域继续深耕，在与黑产攻防对抗中对风险模型治理能力成熟度更新迭代。
Q. 贵公司是如何考虑选择参与评估的？
阅微：同盾本身在金融业人工智能模型风险治理能力方面具备了成熟的解决方案和模型咨询能力，参与本次评估也是希望通过评估将模型风险治理能力再次强化提升和标准化。通过以评促建的方式，在专业机构科学、全面、权威的评审过程中，查漏补缺，提升金融领域人工智能模型风险治理水平。
Q. 贵公司是如何看待人工智能模型风险治理的？
同盾科技有限公司副总裁、政府事务部总经理、同盾法律研究院院长 牛凯
牛凯：公司在这方面有深刻的体会和理解，并拥有业内领先的管理体系和专家资源。任何一个风险模型都不可能完美，并持续有效，因此加强人工智能模型风险治理能力，需要重视模型风险及模型管理的质量，整合模型资产，做好模型全生命周期管理及风险管理，为数据、风控、分析人员减负，为业务赋能，这样也更有助于完善模型的安全性、稳定性、公平性。在实际运用中，减少应模型运用不当、模型监控管理不及时等因素带来的风险损失。
以银行为例，当前中国的商业银行已进入数据智能驱动业务发展的新阶段，模型及其应用策略将成为把数据转化成生产力的核心武器。监管部门近年来先后出台《商业银行互联网贷款管理暂行办法》等政策，对商业银行的模型风险体系化管理提出高要求。因此银行一方面要从从业务出发做好模型资产管理，提升模型开发和应用等方面的效率，另一方面也需要重视监管要求，严格管控模型风险，做好模型的全生命周期各环节的管理。
Q. 此次评估对贵团队带来了什么帮助？具体有哪些影响？
牛凯：此次评估模型团队全面梳理了在涉赌涉诈领域的参评要点，借此契机团队在该参评专题完成了模型治理成熟度标准的升级和完善，团队内每一位角色都参与到此次评估中来，是模型全生命周期体系化管理的一次大融合。不仅仅促进了公司咨询服务的全面升级，同时对于公司相关模型产品更新迭代也起到了很好的推波助澜的作用。通过本次参评过程中不断打磨、改进、调整，公司的模型+产品整体解决方案能力建设水平迈上了一个新台阶。
Q. 对于此次参评的模型，其风险治理方面做了哪些工作？治理效果怎么样？
牛凯：关于此次参评的个人账户涉赌涉诈模型，在数据准备、需求分析、模型构建、检验验证、模型部署、运行监控、模型修正、持续验证、模型下线、管理制度等十个专项方面都做了大量的工作，从需求文档标准化梳理、建模方案体系升级、再到具体落地执行层面的系统化修正，目前在涉赌涉诈风险模型领域的治理效果显著，并已在合作的十多家国有银行、股份制银行、地方性城商行进行应用和推广。
Q. 此次通过评估的过程顺利吗？遇到什么困难？如何解决的？
同盾科技有限公司市场公关副总裁 汪华峰
汪华峰：此次评估整体来看比较顺利，在实现成熟度达标的评审中，做了非常细致的梳理整合工作。关于人工智能模型风险治理能力成熟度优秀级标准非常高，且涉及面广，涵盖了需求管理、模型构建、监控运行、持续性验证、管理制度等大十项范畴，为此我们投入了大量的时间对已结项案例、在建中项目、建模流程、相关成熟产品、管理制度等进行全面梳理。其中对于模型部署回退方案的实际情况应用证明材料提供的难题，我们的解决思路，联系已部署相关模型的客户告知背景，在取得客户同意的情况下，获得模型的灰度发布测试过程，预警消息记录截图，紧急处理预案的下线记录材料，并对相关敏感信息逐一进行脱敏处理。在实施、产品、解决方案、模型专家、合作客户等多角色的协作下，最终完成了所有评审要点的多项能力要求。
Q. 关于人工智能模型风险治理工作，接下来团队有什么样的计划？
汪华峰：在人工智能模型风险治理领域，我们希望借本次评估的契机，以点带面，将咨询服务能力赋能到金融风控的各个业务领域，把当前取得成果和经验推广到更多的项目实践中去，为反赌反诈建设提供强有力的支撑和服务。同时根据金融行业风险管理的需求现状，我们会结合行业诉求，将人工智能模型风险治理咨询能力集成松耦合到同盾的相关产品生态圈中，形成模型全生命周期管理平台+风险模型、智能风控中台+风险模型、账户风险管理平台+风险模型等，一方面为行业贡献人工智能风险模型咨询实践经验，另一方面提升行业技术平台能力和运行管理水平。
《人工智能模型风险治理能力成熟度模型》是由中国信息通信研究院牵头，依托中国互联网协会信息技术(IT)风险治理工作委员会与京东、百度、中国联通、蚂蚁集团、度小满、易车互动、字节跳动、同盾科技、恩耐博、快手、三六零安全、腾讯云、京东科技、中科闻歌、滴滴、安恒信息、远江盛邦、OPPO、榕树科技等等20余家企业单位共同制定。针对组织在开发、实施和使用人工智能模型过程中面临的主要风险挑战，根据法律法规和监管要求，建立覆盖围绕人工智能模型的风险治理能力成熟度模型，规范模型生命周期各环节中的风险治理活动，从策略制度、组织架构、资源配置、技术手段等方面提供保障，提出切实有效的治理措施，快速灵活应对模型风险，推动科技向善。
评估亮点：
1、高度贴合监管趋势，指导企业落地实践。
标准制定过程中依据《个人信息保护法》《商业银行互联网贷款管理暂行办法》《关于加强科技伦理治理的指导意见(征求意见稿)》《互联网信息服务算法推荐管理规定(征求意见稿)》中人工智能模型相关监管思路和监管要求，紧密结合企业治理架构和管理体系，给出具体可落地的应对方案。
2、评估人工智能模型风险治理水平，建立行业信任体系和互认机制。
人工智能模型风险治理能力成熟度评估将重点检查验证模型生命周期各环节中的风险治理活动，模型相关组织结构、策略制度资源配置、技术手段等方面治理措施的有效性，以及模型决策结果透明度和与相关方的交互沟通机制。通过中国信息通信研究院权威评估验证，建立各行业企业互信互认机制。
3、提出差异化的管理方法，降低企业管理成本。
标准参考国际上主流的人工智能风险管理理念，根据模型的重要性和影响程度分为高风险模型、中风险模型和低风险模型，对应不同的人工智能模型风险治理能力成熟度等级。指导企业构建科学的风险管理体系和内部资源优化配置。
图为同盾科技授权中国网财经使用
(责任编辑：李伟)
来源：中国网财经
