企业越来越多地采用生成式人工智能来自动化 IT 流程、检测安全威胁并接管一线客户服务职能。一个 IBM 2023 年调查 研究发现，42%的大型企业正在积极使用人工智能，另有40%正在探索或试验人工智能。
在人工智能与云不可避免的交叉中，企业需要思考如何保护云端人工智能工具的安全。 Chris Betz 对此进行了深入思考，他于去年 8 月成为 Amazon Web Services 的 CISO。
在加入 AWS 之前，Betz 曾担任 Capital One 的执行副总裁兼 CISO。 Betz 还曾担任 Lumen Technologies 的高级副总裁兼首席安全官，以及 Apple、Microsoft 和 CBS 的安全职务。
Dark Reading 最近与 Betz 讨论了 云中人工智能工作负载的安全性。该对话的编辑版本如下。
暗读：保护云中人工智能工作负载的重大挑战有哪些？
克里斯·贝茨： 当我与许多客户谈论生成式人工智能时，这些对话通常都是这样开始的：“我拥有这些非常敏感的数据，我希望为我的客户提供一种功能。我该如何以安全可靠的方式做到这一点？”我真的很欣赏这次谈话，因为我们的客户关注他们想要实现的结果非常重要。
暗读：顾客最担心什么？
贝兹： 对话需要从“你的数据就是你的数据”的概念开始。我们有一个很大的优势，因为我可以在 IT 基础设施之上进行构建，该基础设施可以很好地保存数据。所以我给出的第一个建议是：了解你的数据在哪里。它是如何受到保护的？它是如何在生成人工智能模型中使用的？
我们谈论的第二件事是，与生成式人工智能模型的交互通常会使用客户的一些最敏感的数据。当您询问生成人工智能模型有关特定交易的信息时，您将使用有关参与该交易的人员的信息。
暗读：企业是否担心人工智能对其内部公司数据和客户数据的处理方式？
贝兹： 客户最希望在与客户的互动中使用生成式人工智能，以及挖掘和利用他们内部拥有的大量数据，并使其为内部员工或客户服务。对于公司来说，以安全可靠的方式管理极其敏感的数据非常重要，因为这是他们业务的命脉。
公司需要考虑他们的数据在哪里，以及当他们发出人工智能提示以及何时收到响应时如何保护数据。
暗读：响应的质量和数据的安全性相关吗？
贝兹： 人工智能用户始终需要考虑他们是否得到了高质量的响应。安全的原因是人们信任他们的计算机系统。如果您正在组装这个使用生成式人工智能模型向客户交付某些内容的复杂系统，那么您需要客户相信人工智能正在为他们提供正确的信息以采取行动，并且它正在保护他们的信息。
暗读：AWS 是否可以分享具体的方法来防止云中的 AI 受到攻击？我正在考虑即时注射、中毒攻击、对抗性攻击之类的事情。
贝兹： 凭借已经奠定的坚实基础，AWS 已经做好迎接挑战的准备，因为我们多年来一直在人工智能领域工作。我们有大量的内部人工智能解决方案和许多直接向客户提供的服务，安全性一直是我们开发这些解决方案的主要考虑因素。这是我们的客户所询问的，也是他们所期望的。
作为规模最大的云提供商之一，我们对全球不断变化的安全需求拥有广泛的了解。我们捕获的威胁情报被汇总并用于开发可操作的见解，这些见解可在客户工具和服务中使用，例如 警卫义务。此外，我们的威胁情报用于代表客户生成自动安全操作，以确保其数据安全。
暗读：我们听说过很多关于网络安全供应商使用人工智能和机器学习通过寻找系统上的异常行为来检测威胁的信息。公司还可以通过哪些其他方式使用人工智能来帮助保护自身安全？
贝兹： 我见过客户利用生成式人工智能做出了一些令人惊奇的事情。我们看到他们利用 CodeWhisperer [AWS 人工智能驱动的代码生成器] 快速构建原型并开发技术。我见过一些团队使用 CodeWhisperer 来帮助他们 构建安全代码 并确保我们处理代码中的漏洞。
我们还构建了与我们的一些内部安全系统相联系的生成式人工智能解决方案。正如您可以想象的那样，许多安全团队处理大量信息。生成式人工智能可以综合这些数据，使构建者和安全团队都可以非常有用地了解系统中发生的情况，提出更好的问题，并将这些数据整合在一起。
当我开始思考 网络安全人才短缺如今，生成式人工智能不仅有助于提高软件开发速度和改进安全编码，而且还有助于聚合数据。它将继续帮助我们，因为它增强了我们人类的能力。人工智能帮助我们汇集信息来解决复杂的问题，并帮助将数据提供给安全工程师和分析师，以便他们可以开始提出更好的问题。
暗读：您是否看到任何特定于人工智能和云的安全威胁？
贝兹： 我花了很多时间与安全研究人员一起研究尖端的生成式人工智能攻击以及攻击者如何看待它。在这个领域我思考了两类事情。第一类是我们看到恶意行为者开始使用生成式人工智能来更快更好地完成他们已经做的事情。社会工程内容就是一个例子。
攻击者还使用人工智能技术来帮助更快地编写代码。这与防守的位置非常相似。这项技术的部分力量在于它使一类活动变得更容易，这对攻击者来说是这样，但对防御者来说也是如此。
我看到研究人员开始更多关注的另一个领域是这些生成式人工智能模型是代码。与其他代码一样，它们也容易存在弱点。重要的是，我们了解如何保护它们并确保它们存在于有防御的环境中。
