“生成式AI应用就像是海面上的冰山，安全地驾驭这项新技术，还需要关注海面下的冰川。”
亚马逊云科技大中华区解决方案架构部总监代闻在“2023亚马逊云科技re:Inforce中国站“上说。
事实上，作为一家公有云市场上的开拓者和绝对领导者，服务全球几十万大中型用户，保证其业务持续稳定运行，亚马逊云科技应对各类安全威胁的策略和方案一直是值得研究的重要课题。
亚马逊云科技很早就提出“洋葱型“的安全防护模型，将安全防护分为多个层次，每个层次都有不同的安全策略和控制措施。
数据安全仍然是重中之重
亚马逊云科技在大数据和人工智能领域有着多年的经验，提供了一个全面的数据治理流程，可以贯穿生成式AI的整个生命周期。
从数据源的采集到智能湖仓的数据分析和处理，再到将分析结果安全地传送到AI平台进行训练、调优和推理，整个链路上的数据分类和治理都可以在亚马逊云科技上得到完善的支持。
此外，亚马逊云科技还提供了一系列的产品和工具，帮助企业更好地管理和分析数据，提高数据治理的效率和质量。
当企业使用大语言模型时，保护数据安全变得尤为重要。亚马逊云科技提供了一系列的安全措施来确保数据在存储、传输和使用过程中的安全性。
首先，对于存储中的数据，亚马逊云科技采用了加密技术来防止数据的泄露和篡改。
通过加密数据，可以确保只有授权的用户能够访问和使用数据。同时，亚马逊云科技还提供了安全密钥的证书管理，确保定期轮换密钥，并严格控制访问权限。此外，通过自动检测意外的数据访问和对网络通信进行身份验证等措施，可以及时发现并阻止未经授权的数据访问。
其次，在数据传输过程中，亚马逊云科技也采取了一系列的安全措施。
例如，使用安全协议（如TLS 1.2）来加密数据的传输，确保数据在传输过程中的机密性和完整性。此外，通过虚拟化层的硬件加速和隔离运算环境等技术手段，亚马逊云科技进一步增加了数据传输过程中的安全性。
另外，在使用数据的过程中，亚马逊云科技也提供了一些解决方案来帮助用户更好地管理和保护敏感数据。
例如，敏感数据保护解决方案可以自动发现和识别存储中的敏感数据，并通过人工智能技术发出告警，提醒用户及时采取措施。这些解决方案可以帮助企业减少敏感数据泄露的风险，并确保合规性。
除了以上提到的功能，亚马逊云科技还提供了基础设施和服务来支持数据的安全传输和处理。
跨区域之间的数据传输可以通过专门的网络和连接来实现，保障了数据的可靠性和稳定性。同时，VPC内部和VPC之间的传输也受到保护，确保数据在不同环境中的安全。
此外，亚马逊云科技的一些服务节点还支持VPN、专线和私有数据的加密传输，进一步提高了数据传输的安全性。
总之，亚马逊云科技通过多层次的安全措施来保护企业在使用大语言模型时的数据安全。
从数据的存储到传输和使用，都考虑了各种可能的安全威胁，并提供了相应的解决方案。
这些安全措施不仅保障了数据的机密性和完整性，还提高了数据处理的效率和可靠性。通过采用亚马逊云科技提供的安全措施和解决方案，企业可以更好地保护自身的数据资产，并专注于业务发展而无需过多担心数据安全问题。
访问控制策略与时俱进保证模型安全
随着大模型时代的到来，企业面临着访问控制策略的复杂性和动态性的挑战。
传统的静态规则无法满足需求，因为大模型的生成结果具有不确定性和难以准确把控的特点。
因此，访问控制策略需要定期进行验证和调优，以保持其与最新需求和技术发展保持一致。
为了解决这个问题，亚马逊云科技提供了Amazon Identity and Access Management（Amazon IAM）作为支撑服务。历经12年的发展，Amazon IAM已经推出了许多相关服务，为各种访问控制需求提供了全面的支持。
用户可以通过Amazon IAM 的API调用来设置、验证和管理访问控制策略，而每秒超过10亿次的调用量证明了其在大规模场景下的强大性能和可靠性。
除了基本的权限控制外，监控模型运行也是至关重要的。
亚马逊云科技的Amazon SageMaker提供了Amazon SageMaker Model Cards、Amazon SageMaker Model Registry和Amazon SageMaker Model Monitor等功能来帮助用户集中管理模型信息和版本，确保模型的安全和高效运行。
Amazon SageMaker Model Cards是存储模型用途和元数据的工具，方便各个部门共享和使用数据进行分析。这对于技术部门来说已经足够重要，因为现在模型的使用已经扩展到了业务部门、合规部门和法务部门。通过Amazon SageMaker Model Cards，这些部门可以了解模型的具体用途，并共同判断是否适合他们的业务需求。
Amazon SageMaker Model Registry是一个私有仓库，用于存储和管理所有模型及其版本。这消除了传统电子表格管理模型版本的问题，大大提高了效率。现在，用户可以方便地创建、部署和管理自己的模型版本，而无需担心数据丢失或混乱。
Amazon SageMaker Model Monitor负责监控模型的性能和安全性。在模型上线后，用户需要了解其运行状态、基础设施需求以及安全性。Amazon SageMaker Model Monitor提供了一个全面的界面，让用户能够实时监测模型的运行情况，并在出现问题时及时采取措施解决。
为了进一步简化大模型时代的工作并增强安全性，亚马逊云科技推出了Amazon Bedrock。
Amazon Bedrock连接了大型模型API，使用户能够快速构建和开发应用程序，而无需管理底层基础设施。这大大减轻了用户的负担，同时保证了基础设施的安全。
Amazon Bedrock还负责选择合作伙伴模型，确保选择合适的模型适用于特定场景。它与AI21 Labs、Anthropic、Stability AI等合作伙伴合作，为用户提供了负责任的AI选项。用户可以根据实际需求选择适当的模型，确保模型的准确性和适用性。
最后，亚马逊云科技承诺提供负责任的人工智能。它通过集成Amazon KMS、Amazon IAM等安全功能来管理加密、权限控制和日志记录。
这确保了用户的数据安全和隐私保护。同时，公司也致力于负责任的AI实践，通过减少和消除有害内容来支持技术的发展和应用。
随着大模型时代的到来，企业需要关注访问控制策略的动态性和迭代性，同时确保模型的监控、集中管理和版本控制。
亚马逊云科技通过Amazon IAM、Amazon SageMaker、Amazon Bedrock和其他服务提供了解决方案，帮助用户在安全高效地构建和扩展大模型应用程序方面取得成功。
应用安全是实现AI价值的保障
亚马逊云科技在应用安全方面提出了DevSecOps的概念，将安全防护贯穿于整个开发生命周期。为了解决防护问题，亚马逊云科技推出了两项新服务：Amazon CodeWhisperer和Amazon CodeGuru Security。
Amazon CodeWhisperer是一个基于AI的代码自动补全工具，它不仅能够自动补全代码，还能检查代码中的漏洞。该工具可以识别开源协议的限制和要求，并生成符合要求的代码。
此外，它还能检测原型代码中可能存在的DDoS攻击。最重要的是，Amazon CodeWhisperer对个人开发者免费开放。
Amazon CodeGuru Security主要在CICD阶段发挥作用，它可以扫描代码并发现漏洞，包括调用包漏洞和其他逻辑漏洞。
通过人工智能和机器学习技术，它能够降低误报率，并方便地集成到开发工作流中，实现集中化和扩展性。这个服务能够帮助团队在整个DevOps过程中保护应用程序的安全。
除了开发阶段的安全防护，亚马逊云科技还提供了Amazon Verified Access和Amazon Verified Permissions来管理访问应用的权限。
前者可以在不需要VPN的情况下授权应用程序，后者可以在应用程序代码中嵌入策略来控制访问权限。为了方便编写授权规则，亚马逊云科技还发布了一个新的开源语言CEDAR。
在网络防护方面，亚马逊云科技提供了Amazon Shield、Amazon WAF和Amazon Firewall Manager等服务来抵御DDoS攻击和网页防火墙的支持。这些服务每天处理大量的日志流量和托管规则请求，确保了高可用性和安全性。
对于大模型的应用安全，亚马逊云科技还引入了零信任和网络控制的概念。它们不是互斥的关系，而是相互补充的机制。
亚马逊云科技通过Amazon Verified Access实现了按需授权和认证，同时结合网络控制来实现端到端的应用程序安全。
最后，亚马逊云科技还推出了Amazon GuardDuty服务来识别威胁并采取早期防护措施。该服务使用基于人工智能和机器学习的技术，减少了50%的安全事件的误报率。它可以检测数据库、容器平台和无服务器环境等数据源中的安全威胁，并提供智能化的行动建议。
结 语
亚马逊云科技通过推出Amazon CodeWhisperer、Amazon CodeGuru Security、Amazon Verified Access、Amazon Verified Permissions、CEDAR、Amazon Shield、Amazon WAF、Amazon Firewall Manager和Amazon GuardDuty等服务和应用工具，为开发者和企业提供了全面的安全防护解决方案。
这些工具和服务能够贯穿整个开发生命周期，从代码的开发到投产、监控以及整个反馈的过程中提供支持。
无论是个人开发者还是企业用户，都能够受益于亚马逊云科技提供的强大的安全防护能力。
一个层层递进的“洋葱型”安全防护体系，可以确保企业的网络、数据和应用程得等俱多方面到全面保护。
从另外层面来看，已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规，大模型运用带来的业务的变化给安全带来的挑战。
目前，亚马逊云科技在全球已经获得了超过140个安全标准和合规认证，除了更好地保护AI的应用以外，亚马逊云科技也在非常积极的利用人工智能的技术来提升自己的合规能力，从实践出发，总结出经验再惠及到所有用户。
“从构建开始，需要把安全作为企业AI战略发展中的核心环节。不能只是关注 AI 应用本身，而是从一个全栈的角度，去全面审视 应用、模型、数据、基础架构的安全规范、技术策略和平台工具。”代闻表示。
一个能在云计算市场长期领先的企业，一定是长期不断创新的结果。
亚马逊云科技结合自身长期实践前沿探索，不断重塑，对生成式AI应用兴起可能带来的安全威胁提出了新的主张和解决方案。
生成式AI安全那些事儿，亚马逊云科技早早看透了 ……
