IT 프로세스를 자동화하고, 보안 위협을 탐지하고, 일선 고객 서비스 기능을 대신하기 위해 생성 AI를 채택하는 기업이 점점 늘어나고 있습니다. 안 2023년 IBM 설문조사 대기업의 42%가 AI를 적극적으로 사용하고 있으며, 또 다른 40%는 AI를 탐색하거나 실험하고 있는 것으로 나타났습니다.

AI와 클라우드의 불가피한 교차점에서 기업은 클라우드에서 AI 도구를 보호하는 방법에 대해 고민해야 합니다. 이에 대해 많이 고민한 사람 중 한 사람이 지난 8월 Amazon Web Services의 CISO가 된 Chris Betz입니다.

AWS 이전에 Betz는 Capital One의 부사장 겸 CISO였습니다. Betz는 또한 Lumen Technologies에서 수석 부사장 겸 최고 보안 책임자로 근무했으며 Apple, Microsoft 및 CBS에서 보안 역할을 맡았습니다.

Dark Reading은 최근 Betz와 이에 대해 이야기했습니다. 클라우드의 AI 워크로드 보안. 해당 대화의 편집된 버전이 이어집니다.

Dark Reading: 클라우드에서 AI 워크로드를 보호하는 데 있어 가장 큰 과제는 무엇입니까?

크리스 베츠: 제가 생성적 AI에 대해 많은 고객과 대화할 때 이러한 대화는 종종 다음과 같은 말로 시작됩니다. “저는 매우 민감한 데이터를 가지고 있으며 고객에게 기능을 제공하려고 합니다. 안전하고 보안이 유지되는 방법으로 이를 수행하려면 어떻게 해야 합니까?” 고객이 달성하려는 결과에 집중하는 것이 매우 중요하기 때문에 이러한 대화에 정말 감사드립니다.

Dark Reading: 고객이 가장 걱정하는 것은 무엇입니까?

베츠: 대화는 '당신의 데이터가 곧 당신의 데이터'라는 개념에서 시작되어야 합니다. 우리는 해당 데이터를 현재 위치에 유지하는 데 매우 효과적인 IT 인프라를 기반으로 구축할 수 있다는 점에서 큰 이점을 가지고 있습니다. 그래서 제가 드리는 첫 번째 조언은 데이터가 어디에 있는지 이해하라는 것입니다. 어떻게 보호되고 있나요? 생성 AI 모델에서는 어떻게 사용되고 있나요?

두 번째로 이야기할 점은 생성 AI 모델과의 상호 작용이 고객의 가장 민감한 데이터 중 일부를 사용하는 경우가 많다는 것입니다. 특정 거래에 대해 생성 AI 모델에 질문하면 해당 거래에 참여한 사람들에 대한 정보를 사용하게 됩니다.

어두운 읽기: 기업은 AI가 회사 내부 데이터와 고객 데이터로 수행하는 작업에 대해 걱정하고 있습니까?

베츠: 고객은 고객과의 상호 작용, 내부에 있는 방대한 양의 데이터를 마이닝 및 활용하고 내부 직원이나 고객을 위해 해당 데이터를 활용하는 데 생성 AI를 사용하기를 가장 원합니다. 믿을 수 없을 정도로 민감한 데이터를 안전하고 보안이 유지되는 방식으로 관리하는 것은 기업에게 매우 중요합니다. 이는 기업의 생명선이기 때문입니다.

기업은 데이터가 어디에 있는지, 그리고 AI 프롬프트를 제공하고 응답을 받을 때 데이터가 어떻게 보호되는지 생각해야 합니다.

Dark Reading: 응답 품질과 데이터 보안이 관련되어 있습니까?

베츠: AI 사용자는 항상 양질의 응답을 받고 있는지 생각해야 합니다. 보안의 이유는 사람들이 자신의 컴퓨터 시스템을 신뢰하기 때문입니다. 생성 AI 모델을 사용하여 고객에게 무언가를 제공하는 이 복잡한 시스템을 구성하는 경우 AI가 조치를 취할 수 있는 올바른 정보를 제공하고 정보를 보호하고 있다는 것을 고객이 신뢰해야 합니다.

Dark Reading: AWS가 클라우드에서 AI에 대한 공격으로부터 보호하는 방법을 공유할 수 있는 구체적인 방법이 있습니까? 신속한 주사, 독살 공격, 적대적인 공격 등을 생각하고 있습니다.

베츠: AWS는 이미 강력한 기반을 갖추고 수년간 AI와 협력해왔기 때문에 이러한 과제에 대처할 준비가 잘 되어 있었습니다. 우리는 수많은 내부 AI 솔루션과 고객에게 직접 제공하는 다양한 서비스를 보유하고 있으며 이러한 솔루션을 개발하는 방법에서 보안은 주요 고려 사항이었습니다. 고객이 궁금해하는 것이 바로 이것이고 기대하는 것입니다.

최대 규모의 클라우드 제공업체 중 하나인 당사는 전 세계적으로 진화하는 보안 요구 사항에 대한 폭넓은 가시성을 보유하고 있습니다. 우리가 포착한 위협 인텔리전스는 집계되어 다음과 같은 고객 도구 및 서비스 내에서 사용되는 실행 가능한 통찰력을 개발하는 데 사용됩니다. 가드듀티. 또한 당사의 위협 인텔리전스는 고객을 대신하여 자동화된 보안 조치를 생성하여 데이터를 안전하게 유지하는 데 사용됩니다.

Dark Reading: AI와 기계 학습을 사용하여 시스템에서 비정상적인 동작을 찾아 위협을 탐지하는 사이버 보안 공급업체에 대해 많이 들었습니다. 기업이 AI를 사용하여 보안을 강화하는 다른 방법은 무엇입니까?

베츠: 저는 고객이 생성 AI를 사용하여 놀라운 일을 해내는 것을 보았습니다. 우리는 그들이 CodeWhisperer[AWS의 AI 기반 코드 생성기]를 활용하여 기술의 프로토타입을 신속하게 개발하고 기술을 개발하는 것을 보았습니다. 팀이 CodeWhisperer를 사용하여 도움을 주는 것을 보았습니다. 보안 코드 구축 코드의 공백을 처리하도록 하세요.

우리는 또한 일부 내부 보안 시스템과 연결되는 생성적 AI 솔루션도 구축했습니다. 상상할 수 있듯이 많은 보안 팀은 엄청난 양의 정보를 처리합니다. 생성적 AI를 사용하면 해당 데이터를 합성하여 빌더와 보안 팀 모두가 시스템에서 무슨 일이 일어나고 있는지 이해하고, 더 나은 질문을 하고, 해당 데이터를 통합하는 데 매우 유용하게 사용할 수 있습니다.

내가 그것에 대해 생각하기 시작했을 때 사이버보안 인재 부족, 생성적 AI는 오늘날 소프트웨어 개발 속도를 향상하고 보안 코딩을 개선하는 데 도움을 줄 뿐만 아니라 데이터 집계에도 도움을 줍니다. 그것은 인간의 능력을 증폭시키기 때문에 계속해서 우리를 도울 것입니다. AI는 복잡한 문제를 해결하기 위해 정보를 통합하고 보안 엔지니어와 분석가가 더 나은 질문을 시작할 수 있도록 데이터를 제공하는 데 도움이 됩니다.

Dark Reading: AI와 클라우드에 특정한 보안 위협이 있습니까?

베츠: 저는 최첨단 생성 AI 공격을 살펴보고 공격자가 이를 어떻게 보고 있는지에 대해 보안 연구원들과 많은 시간을 보냈습니다. 이 공간에서 제가 생각하는 것에는 두 가지 종류가 있습니다. 첫 번째 부류는 악의적인 행위자가 생성 AI를 사용하여 이미 수행 중인 작업을 더 빠르고 더 잘 수행하기 시작한다는 것입니다. 소셜 엔지니어링 콘텐츠가 이에 대한 예입니다.

공격자들은 또한 AI 기술을 사용하여 코드 작성 속도를 높이고 있습니다. 수비 위치와 매우 유사합니다. 이 기술의 힘 중 하나는 다양한 활동을 더 쉽게 만들어준다는 것입니다. 이는 공격자에게도 해당되지만 방어자에게도 마찬가지입니다.

연구자들이 더 많이 살펴보기 시작한 또 다른 영역은 이러한 생성 AI 모델이 코드라는 사실입니다. 다른 코드와 마찬가지로 약점이 있기 쉽습니다. 이를 보호하는 방법을 이해하고 방어 기능이 있는 환경에 존재하는지 확인하는 것이 중요합니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads