2023年，生成式人工智能技术将出现，这将引发全球数字革命。从最初的对话、下棋，到医疗、金融、制造、教育、科研等领域，生成式AI展现出了强大的创造力和无限的潜力。
与此同时，生成式人工智能是一把双刃剑。它可以帮助企业解决实际问题，但也面临数据丢失等严重风险。今年早些时候，一家大型跨国公司在训练大型模型时泄露了其数据库中的机密信息，这对该公司造成了负面影响。而这样的事件还在不断发生。
在生成式AI的训练和使用过程中，很多环节都会面临数据泄露的可能性。如何保证安全？
8月31日，亚马逊云技术re:Inforce 2023中国站正式开幕。本次大会的主题是“AI时代的全面智能安全”。目标是帮助企业解决生成人工智能各个方面的安全问题。
安全性是构建有效人工智能应用程序的基础
亚马逊云技术大中华区解决方案架构总监代闻表示：安全是创建人工智能应用时无法回避的重大问题。从综合角度看，应构建从数据、传输、应用到整个基础设施的可靠合规体系，真正保障人工智能应用的安全。
代闻
亚马逊云技术大中华区解决方案架构总监
亚马逊云技术始终秉承客户拥有和控制数据的理念，提供卓越的技术和物理措施来防止未经授权的访问，并提供覆盖存储、传输、使用和管理各个环节的加密服务和数据安全。 。
例如，公司在训练人工智能模型时必须首先访问数据。现代企业的业务数据是创新的基础和“命脉”。一旦发生数据泄露，将会产生不可逆转的负面影响。同时，数据传输、使用、管理和访问等各个环节都存在风险。
因此，在创建人工智能生成应用程序时，安全性是不可避免的问题！
对于生成式AI，亚马逊云技术将安全性分为三类：数据和模型安全、应用程序安全和全球合规性，并基于此提供了多种安全工具。
数据安全从存储和传输开始
说到数据保护，亚马逊云技术提供的第一个服务就是Amazon KMS。它的全称是Amazon Key Management Service，它是一种基于云的安全服务，使用硬件安全模块来保护用户密钥。 Amazon KMS 允许用户创建和管理加密密钥并控制相关权限。这些密钥可用于访问存储在 Amazon 云服务和用户应用程序中的数据。
确保数据传输安全同样重要的一步是安全。通过此链接，Amazon Nitro 可用于创建独立的安全运输路线。 Amazon Nitro 是一个虚拟基础设施。 Amazon Nitro 安全芯片可用于加密和验证对虚拟机的访问，并检测未经授权的硬件修改和恶意软件安装。基于虚拟化技术，Amazon Nitro可以提供更好的网络和存储。
Amazon Nitro Enclaves 通过安全存储和交付为计算连接提供加密计算。它隔离计算实例并控制应用程序对 vCPU 和内存的访问。它通过减少对处理最敏感数据的应用程序的攻击来帮助用户保护他们的计算机。
涂鸦信息技术有限公司首席安全官刘龙伟表示：涂鸦智能是一家物联网解决方案提供商。它使用亚马逊的Amazon Nitro云技术作为安全云的基础，并通过硬件隔离确保用户数据的整个系统的完整性。加入 Amazon KMS，享受行业领先的核心安全管理，为 780,000 名开发人员和海量 IoT 设备提供服务，并使其牢不可破。
在re:Inforce 2023大会上，亚马逊云科技与涂鸦智能启动了“联合安全实验室”。双方将在智能家居、数据保护、安全文化建设、海外合规等领域重点讨论机密计算和数据隐私、Matter等问题。共同打造物联网领域的技术合作和系统设计、生成式人工智能等安全方法。
此外，亚马逊云技术中国解决方案开发中心还正式发布了敏感数据保护解决方案，可以自动检测公司的敏感数据并管理其资产公共区域的数据。例如，在Amazon S3存储中，用户可以创建数据文件夹，使用自定义或定制的数据识别规则来识别敏感数据类型，使用机器学习来匹配和识别敏感信息，并发出警报。可视化管理帮助用户管理和保护敏感数据。现在解决方案已经可用。
国防训练三个火枪手 Amazon SageMaker 模型
数据在存储、传输、计算等过程中的安全性得到了保证。另一件需要注意的事情是模型构建过程。
代闻说：Amazon IAM API每秒被调用超过10亿次，为构建大型模型提供了强大的资源。Amazon SageMaker 使用 Amazon 模型卡、Amazon 模型监视器和 Amazon 模型注册等工具提供特定于模型的访问策略，用于配置、授权、身份验证、预置以及对模型功能的完全控制。
在大规模AI模型第一次爆发期间，许多公司的模型训练过程处于“混乱”状态，这意味着数据和地面模型一开始都没有受到保护。这是数据泄露风险最高的时候。 。
针对这些痛点，Amazon SageMaker模型卡诞生了，是模型三剑客之一。它是记录机器学习模型的标准设计工具，可以实现模型信息的通用管理，包括模型描述、功能、性能等信息。 。通过亚马逊模型卡，用户可以更好地理解和评估机器学习模型，以选择最适合自己需求的模型，为下一步的监控和管理做好准备。
Amazon SageMaker Model Monitor 提供自动化监控和测试服务，可以帮助用户监控生产环境中的模型性能、数据质量和数据方差，以确保模型准确性。
在功能方面，Amazon Model Monitor提供数据、数据分析、数据报告和数据警报。它可以生成详细的消息和警报来提醒用户，有助于促进模型的持续改进和改进。
Amazon Model Registry 是 Amazon SageMaker 提供的强大工具，用于管理和控制机器学习模型的版本控制和元数据。它提供版本控制、审计、元数据管理和集成功能，使用户能够更好地管理和部署模型。
使用 Amazon SageMaker 的三种工具，用户可以自动化模型管理并提高生产力。
大模特的潮流如今已经势不可挡。如果用户在商业领域技术能力较弱，是否可以尝试搭建大型模型？
别担心，我们会立即修复它！
就在今年 4 月，亚马逊云技术发布了 Amazon Bedrock，这是一项完全托管的基础模型服务，允许用户通过 API 按需访问和使用基础模型。 Amazon Bedrock 根据用户的个人数据定制 FM，并使用工具和功能将其集成和部署到应用程序中，而无需管理基础设施。例如，如果用户想要从头开始构建大规模的文章生产模型，他们可以通过简单的操作定制亚马逊云模型需求，并使用各种建模工具将其导入并安装到应用程序中，就像乐高积木一样简单，大大降低了搭建模型的门槛。
建立防御并使用人工智能来了解彼此的优势和劣势
在令人兴奋的模型创建阶段之后，下一步是开发。很多企业级用户戏称开发难度大、容易出错、还经常出现安全问题。
针对这些痛点，亚马逊云技术推出了两套自动化工具服务套件来帮助用户解决问题。
Amazon CodeWhisperer 可以被视为人工智能编程助手。经过数十亿行代码的训练后，它可以根据用户需求和现有代码生成从代码片段到完整功能的实时代码建议。 Amazon CodeWhisperer 支持常见的编程语言和 IDE，可以为用户提供 API 安全性、性能和最佳实践建议。
机器学习和自动分析的结合是 Amazon CodeGuru Security 的成果，它是一套功能强大的漏洞评估工具，可提供漏洞修复建议并解决安全问题，例如查找编程错误、许可问题和发布敏感数据。代码的安全性和完整性得到了极大的提高。
安全高效，提供云安全保障
在设计和实现大规模人工智能模型时，现阶段的安全考虑是不可接受的。因为在实际操作中，很多安全事故都是在操作过程中发生的。当今的应用程序需要以各种方式保护用户的模型、数据和隐私，其中最有效的是：身份验证。
Amazon Verified Permissions 是 Amazon Cloud Technology 为开发者提供的一种验证用户访问权限的机制。通过该服务，开发者可以确保用户只能访问其应用程序所需的有效权限，以保护用户隐私和数据安全。
当用户授权应用程序时，Amazon 会验证并返回包含用户提供的许可证的访问令牌。开发人员可以使用此令牌来验证用户权限并在必要时采取适当的操作。
通过基于身份的身份验证，开发人员可以确保用户数据的保护并遵守隐私法律法规。同时，还通过访问控制来保证应用数据的安全。
提高全球安全合规性
在全球安全合规方面，亚马逊云技术的全球基础设施包括200多个类别广泛而深入的云服务和解决方案，包括全球安全合规、高速和可持续的云基础设施以及全球资源和文化。创新。 。
据了解，亚马逊的云技术已获得全球140多项安全标准和合规认证。利用AI技术对500多个合规审计要素进行合规审计，进一步提升合规效率，节省53%的审计时间。
此外，亚马逊的云技术利用可信系统帮助用户提高安全性、灵活性、可扩展性，并有效降低安全成本，帮助企业将安全系统构建成更安全、更高效、更安全的云。
生成式人工智能为我们提供了更多创造力、个性化服务、用户交互、创新和研究的机会。它还提供了新的工具和平台来扩展人类的创造力和独创性。
短短几个月，生成式人工智能在中国市场掀起了全行业的“百模大战”，将AI创新推向新的高峰。许多公司已经开始研究和实验，也面临着更加复杂的安全挑战。为了帮助企业应对这些日益复杂的安全挑战，亚马逊结合云技术、创新能力以及对人工智能的深刻理解，创建了一系列构建整个人工智能流程的安全服务，重点帮助企业解决应用问题。问题。问题。
正如代闻所说：从第一天开始，安全就是第一要务。
安全问题不小，关系到业务发展的生命。本次大会上，亚马逊云技术携手合作伙伴，以客户为中心，通过安全服务触及AI应用的方方面面，共同构建AI防御。
