As empresas estão adotando cada vez mais a IA generativa para automatizar processos de TI, detectar ameaças à segurança e assumir funções de atendimento ao cliente de linha de frente. Um Pesquisa IBM em 2023 descobriram que 42% das grandes empresas usavam ativamente IA e outros 40% exploravam ou experimentavam IA.

Na inevitável intersecção entre IA e nuvem, as empresas precisam pensar em como proteger as ferramentas de IA na nuvem. Uma pessoa que pensou muito sobre isso é Chris Betz, que se tornou CISO da Amazon Web Services em agosto passado.

Antes da AWS, Betz foi vice-presidente executivo e CISO da Capital One. Betz também trabalhou como vice-presidente sênior e diretor de segurança na Lumen Technologies e em funções de segurança na Apple, Microsoft e CBS.

Dark Reading conversou recentemente com Betz sobre o segurança de cargas de trabalho de IA na nuvem. Segue uma versão editada dessa conversa.

Dark Reading: Quais são alguns dos grandes desafios na proteção de cargas de trabalho de IA na nuvem?

Chris Betz: Quando converso com muitos de nossos clientes sobre IA generativa, essas conversas geralmente começam com: “Tenho esses dados realmente confidenciais e estou procurando oferecer um recurso aos meus clientes. Como faço isso de maneira segura e protegida?” Eu realmente aprecio essa conversa porque é muito importante que nossos clientes se concentrem no resultado que estão tentando alcançar.

Dark Reading: Com o que os clientes estão mais preocupados?

Aposto: A conversa precisa começar com o conceito de que “seus dados são seus dados”. Temos uma grande vantagem porque posso construir uma infraestrutura de TI que faz um ótimo trabalho ao manter os dados onde estão. Então o primeiro conselho que dou é: Entenda onde estão seus dados. Como está sendo protegido? Como isso está sendo usado no modelo generativo de IA?

A segunda coisa sobre a qual falamos é que as interações com um modelo generativo de IA geralmente usam alguns dos dados mais confidenciais de seus clientes. Ao perguntar a um modelo generativo de IA sobre uma transação específica, você usará informações sobre as pessoas envolvidas nessa transação.

Dark Reading: As empresas estão preocupadas com o que a IA faz com os dados internos da empresa e com os dados dos clientes?

Aposto: Os clientes desejam mais usar IA generativa em suas interações com seus clientes e na mineração e aproveitamento da enorme quantidade de dados que possuem internamente e fazer com que isso funcione para funcionários internos ou para seus clientes. É muito importante para as empresas que elas gerenciem esses dados incrivelmente confidenciais de maneira segura e protegida, porque são a força vital de seus negócios.

As empresas precisam pensar sobre onde estão seus dados e como eles são protegidos quando enviam avisos de IA e quando recebem respostas.

Dark Reading: A qualidade das respostas e a segurança dos dados estão relacionadas?

Aposto: Os usuários de IA sempre precisam pensar se estão obtendo respostas de qualidade. A razão da segurança é que as pessoas confiem nos seus sistemas informáticos. Se você estiver montando esse sistema complexo que usa um modelo generativo de IA para entregar algo ao cliente, você precisa que o cliente confie que a IA está fornecendo as informações certas para agir e que está protegendo suas informações.

Dark Reading: Existem maneiras específicas que a AWS pode compartilhar sobre como está protegendo contra ataques à IA na nuvem? Estou pensando em injeção imediata, ataques de envenenamento, ataques adversários, esse tipo de coisa.

Aposto: Com bases sólidas já implementadas, a AWS estava bem preparada para enfrentar o desafio, pois trabalhamos com IA há anos. Temos um grande número de soluções internas de IA e vários serviços que oferecemos diretamente aos nossos clientes, e a segurança tem sido uma consideração importante na forma como desenvolvemos essas soluções. É o que nossos clientes perguntam e é o que eles esperam.

Como um dos provedores de nuvem de maior escala, temos ampla visibilidade da evolução das necessidades de segurança em todo o mundo. A inteligência sobre ameaças que capturamos é agregada e usada para desenvolver insights acionáveis ​​que são usados ​​em ferramentas e serviços do cliente, como Serviço de guarda. Além disso, nossa inteligência contra ameaças é usada para gerar ações de segurança automatizadas em nome dos clientes para manter seus dados protegidos.

Dark Reading: Ouvimos muito sobre fornecedores de segurança cibernética que usam IA e aprendizado de máquina para detectar ameaças, procurando comportamentos incomuns em seus sistemas. Quais são outras maneiras pelas quais as empresas estão usando a IA para ajudar a se proteger?

Aposto: Já vi clientes fazerem coisas incríveis com IA generativa. Vimos eles aproveitarem o CodeWhisperer [gerador de código baseado em IA da AWS] para prototipar e desenvolver tecnologias rapidamente. Já vi equipes usarem o CodeWhisperer para ajudá-las construir código seguro e garantir que lidamos com lacunas no código.

Também construímos soluções generativas de IA que estão em contato com alguns de nossos sistemas de segurança internos. Como você pode imaginar, muitas equipes de segurança lidam com grandes quantidades de informações. A IA generativa permite uma síntese desses dados para torná-los muito utilizáveis ​​tanto pelos construtores quanto pelas equipes de segurança para entender o que está acontecendo nos sistemas, fazer perguntas melhores e reunir esses dados.

Quando comecei a pensar sobre o escassez de talentos em segurança cibernética, a IA generativa não está apenas ajudando hoje a melhorar a velocidade do desenvolvimento de software e melhorando a codificação segura, mas também ajudando a agregar dados. Vai continuar a ajudar-nos porque amplifica as nossas capacidades humanas. A IA nos ajuda a reunir informações para resolver problemas complexos e ajuda a levar os dados aos engenheiros e analistas de segurança para que eles possam começar a fazer perguntas melhores.

Dark Reading: Você vê alguma ameaça à segurança específica da IA ​​e da nuvem?

Aposto: Passei muito tempo com pesquisadores de segurança analisando ataques de IA generativos de ponta e como os invasores os encaram. Existem duas classes de coisas em que penso neste espaço. A primeira classe é que vemos atores mal-intencionados começando a usar IA generativa para se tornarem mais rápidos e melhores naquilo que já fazem. O conteúdo de engenharia social é um exemplo disso.

Os invasores também estão usando a tecnologia de IA para ajudar a escrever código com mais rapidez. Isso é muito semelhante ao local onde a defesa está. Parte do poder dessa tecnologia é que ela facilita uma classe de atividades, e isso é verdade para os atacantes, mas também é verdade para os defensores.

A outra área que vejo os pesquisadores começarem a observar mais é o fato de que esses modelos generativos de IA são códigos. Como outros códigos, eles são suscetíveis a apresentar pontos fracos. É importante entendermos como protegê-los e garantir que existam em um ambiente que tenha defesas.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads