鉴于生成式AI的火爆，国际开源安全组织发布了2023年针对大语言模型应用的十大安全威胁，而结合种种发生的事件，证明这些安全威胁并不是预言而是正在发生。由此看，安全已经是构建生成式AI应用不可回避的重要议题。那么作为全球云计算领导者的亚马逊云科技又是如何应对生成式AI应用在安全方面的挑战呢？
对此，亚马逊云科技大中华区解决方案架构部总监代闻在亚马逊云科技re:Inforce 2023中国站主题演讲中称，亚马逊云科技站在全栈的角度，从包括数据和模型的安全、应用安全以及全球合规三个方面来应对。
数据和模型安全是构建AI应用的关键
不可否认，生成式AI的井喷对一个企业的数据平台有了更高的要求。要训练构建一个生成式AI的模型，需要大量的非结构化数据。如果一个企业直接去应用一个做好的模型进行微调，这时候又需要有高质量的专业化的数据来微调这个模型。这两个方面的要求目前对于大多数企业的数据平台都是提出了更高的要求，尤其是数据和模型安全方面。
为此，亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。
以保护存储中的数据为例，亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据。而在本次大会上，亚马逊云科技就推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。
至于模型安全方面，针对大模型，几个月前，亚马逊云科技宣布推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。其中Amazon Bedrock提供了广泛的基础模型因此客户可以选择最能满足需求的模型。
具体表现在，首先，Amazon Bedrock后面接入了基础模型，它给提供了一个API可以使用大模型加速生成式AI的应用程序和开发，无须管理底层的基础设施；
其次，Amazon Bedrock会负责任地选取一些合作伙伴，例如AI21 Labs、Anthropic、Stability AI，以及自己的基础模型，另外亚马逊云科技最新推出的合作伙伴名单里也增加了Cohere，便于客户最快速地找到最合适的、能力最强的基础模型；
最后使用组织内部的数据来训练大模型，同时又保证给大模型做了私有拷贝，这个拷贝只是给客户服务，不会再跟其他任何的大模型共享；训练数据只是在客户账户里来帮助工作，Amazon Bedrock不会拿任何用户的数据来增进自己的模型。这两点非常关键，也是很多企业在采用大模型的时候对于数据主权、数据保护方面有担心的一个很重要的点，Amazon Bedrock给了一个非常完善的答案。
应用创造价值，应用安全是实现AI价值的保障
除了上述数据和模型安全是构建AI应用的关键外，在亚马逊云科技看来，应用安全是实现AI价值的保障。
对此，代闻介绍，从防护方面，亚马逊云科技分为两个阶段来防护，第一个阶段是开发流程中的安全防护，第二个阶段是生产过程中的安全防护。
其中开发流程中的安全（DevSecOps）是指安全应该贯穿到从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程。为此，亚马逊云科技利用自身经验，将AI防护应用到软件开发的全生命周期，让开发更便捷，更安全。
以Amazon CodeWhisperer和Amazon CodeGuru Security为例，Amazon CodeWhisperer是亚马逊云科技推出的AI编程助手，可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。至于Amazon CodeGuru Security，则可以扫描代码，在代码里面寻找漏洞，包括调用包漏洞，包括很多其他代码逻辑的漏洞。它还能够在CICD通过人工智能和机器学习的方式自动降低误报率，同时它基于API设计，能够非常方便地集成到开发工作流里边去，实现集中化和扩展性。
而涉及到运行中的安全，零信任自然是首当其冲。对此，亚马逊云科技推出若干工具，帮助客户在自己的亚马逊云科技环境下构建这套机制。
首先是建立一个可信任的网络通道，为此，Amazon Verified Access 可以搭建一套无需VPN的网络验证系统，使用Amazon IAM，或者客户自己的用户认证系统，来完成这个认证程序。除了对用户的认证之外，Amazon Verified Access还支持可以设置规则。这些管控，可以在几乎不对应用进行任何代码改变的情况下部署和发生。
此外，亚马逊云科技还推出了Amazon Verified Permissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。而为了方便大家来书写所有的授权规则，亚马逊云科技还发布了一个新的开源语言，叫做CEDAR，CEDAR用于编写和执行授权策略的开源的语言，它可以能够让大家更加轻松、更加快速地来创建所有的访问控制权限。
大模型带来安全新挑战，AI提升安全合规效率
在目前的整个全球环境下，安全合规变得越来越重要，目前已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规。同时由于云计算的大规模普及，越来越多的重要数据正在加速上云，而且数量和种类在增加。与此同时，业务持续变化，也给安全合规带来挑战，这之中就包含诸如像大模型运用带来的业务的变化给安全带来的挑战。
基于此，亚马逊云科技在全球获得140多个安全标准和合规认证，并将AI技术应用到其安全及合规服务中，为大规模批量审查提供安全控制，利用自动化减少手工操作以降低错误，利用AI提供一致性判断，利用AI/ML技术实现自动审查，全面提升合规效率。例如亚马逊云科技通过在其500多项自身合规审计控制项中使用AI技术，将审计时间节约了53%。
此外，亚马逊云科技APN合作伙伴网络提供数百种行业领先的安全解决方案，多层保护客户的应用和数据安全。通过全球安全伙伴提供的解决方案，携手构建1+1>2的安全合作
例如技术方面提供网络安全、主机安全、应用安全、身份认证、威胁检测和事件分析、数据治理以及安全自动化运维等；咨询方面提供方案建议、合规建议以及全面的安全咨询服务和合规服务。为此，亚马逊云科技成为IDC近期发布的《2023中国公有云托管安全服务能力报告》中获得满分最多的厂商之一及“生态建设”评估维度唯一获得满分的厂商。
