Zephyrnet Logo

Inteligência de dados generativa

AI

Como detectar AI Deepfakes nas redes sociais

Republicado por Platão
Republicado por Platão

Data:

Visualizações: 177

Um vídeo postado na plataforma de mídia social chinesa Weibo na semana passada mostra a estrela pop americana Taylor Swift falando mandarim fluentemente. Só que não era a cantora de 33 anos do clipe. Era um vídeo deepfake gerado por uma ferramenta de IA da start-up chinesa HeyGen.

Desde 21 de outubro, quando o deepfake de Swift foi lançado pela primeira vez compartilhado, o vídeo obteve mais de seis milhões de visualizações. Mas também desencadeou o debate sobre as potenciais armadilhas que surgem à medida que a IA se torna mais avançada, tornando difícil distinguir entre identidades ou conteúdos reais e falsos.

Deepfakes – imagens ou vídeos realistas, mas falsos, usados ​​para se passar por outra pessoa, incluindo sua voz – podem ser implantados para criar identidades digitais falsas, algo que os cibercriminosos poderiam aproveitar para cometer fraudes. As imagens e vídeos parecem e falam exatamente como a pessoa visada.

Em Maio, por exemplo, um empresário chinês perdeu 4.3 milhões de yuans [US$ 612,000] depois que um fraudador usou IA de troca de rosto para se passar por seu amigo. Não houve perda de dinheiro no deepfake de Taylor Swift, mas aqui está o que você deve observar para evitar ser enganado nas redes sociais.

Verifique o endosso de celebridades da IA

Os golpistas normalmente usam deepfakes de IA de indivíduos confiáveis ​​para atrair suas vítimas. Nos últimos meses, inúmeras celebridades falsas de IA surgiram para enganar as pessoas com falsos endossos. Versões falsas de ícones como Elon Musk e Beyoncé têm como objetivo promover marcas falsas.

Aparentemente, muitos dos anúncios falsos têm classificação mais elevada nos resultados de pesquisa do Google, provavelmente porque a empresa não faz o suficiente para filtrar conteúdo fraudulento.

No entanto, na era do conteúdo falso gerado por IA, é crucial abordar vídeos bons demais para serem verdadeiros com um olhar crítico. Alegações extraordinárias exigem provas extraordinárias. Se você encontrar vídeos virais que pareçam sensacionais, reserve um tempo para verificar sua autenticidade e fontes.

“Se você quiser conselhos sobre um produto ou serviço, leia as avaliações ou encontre um especialista que seja bem versado e possa provar isso”, diz Kim Komando, especialista em tecnologia de consumo e apresentador de rádio.

“Outra etapa inteligente: pesquise no Google o produto e o ator do anúncio, junto com a palavra 'avaliação'. Se alguém está sendo pago para endossar um produto, não há apenas um anúncio aleatório circulando nas redes sociais”, acrescentou ela em um artigo. publicado pelo New York Post.

Veja também: Taylor Swift, Emma Watson e outros alvos de surtos de pornografia com IA

Preste atenção aos detalhes

A tecnologia Deepfake é particularmente assustadora porque é muito realista. Ferramentas de IA, como Difusão Estável pode manipular vozes e movimentos da boca, tornando mais fácil para as pessoas acreditarem que uma gravação de vídeo ou áudio é autêntica.

Lembre-se da IA ​​criada pelo Ghostwriter Música de Drake e The Weeknd, que enganou milhões de pessoas, incluindo serviços de streaming de música, fazendo-as pensar que se tratava de um novo lançamento? Para detectar um deepfake, Alex Kim, cofundador e CEO da aceleradora de comércio eletrônico baseada em IA Rice, sugere:

“Preste atenção a quaisquer inconsistências incomuns no vídeo que você está assistindo. Os criadores de conteúdo que usam deepfakes geralmente estão tentando economizar tempo, então ajustar os detalhes não é algo em que eles investirão tempo”, disse Kim à MetaNews.

“Isso significa que quaisquer expressões faciais incompatíveis, movimentos não naturais, artefatos estranhos, incompatibilidade de voz ou sincronização labial provavelmente estarão presentes em um vídeo deepfaked”, disse Kim, acrescentando:

“Preste atenção específica aos olhos, pois os deepfakes são os que mais lutam contra eles.”

O caso do empresário chinês lembra que a tecnologia deepfake é uma ferramenta poderosa que pode ser usada para o bem ou para o mal. Os reguladores começaram a prestar mais atenção aos perigos da IA ​​desde que a OpenAI lançou o seu chatbot viral ChatGPT em novembro, desencadeando uma corrida global à IA.

Como MetaNews anteriormente relatado, os especialistas sugerem o desenvolvimento de novas tecnologias que possam detectar e prevenir o uso de identidades falsas. Isto poderia incluir a utilização de dados biométricos, como reconhecimento facial ou leitura de impressões digitais, para verificar a identidade dos utilizadores online.

Verifique os antecedentes em busca de pistas

Embora alguns aplicativos usem marcas d'água para identificar conteúdo gerado por IA, isso não é tão óbvio com outros. Os usuários terão que escanear o fundo em imagens ou vídeos para encontrar pistas sobre material deepfake de IA, de acordo com Alex Kim, o Arroz.ganhar CEO

“Se o fundo estiver se movendo de forma não natural ou a iluminação não corresponder às sombras do primeiro plano, provavelmente é um deepfake”, disse Kim. “Detalhes como textura nos materiais, ou a falta dela, são outros sinais.”

“Procure pixelização ou desfoque onde não deveria haver, especialmente se isso acontecer em um sujeito humano. Detalhes naturais como cabelos, orelhas, nariz ou características faciais são difíceis de obter em um deepfake, pelo menos de forma convincente.

A tecnologia de IA, que na sua maior parte permanece gratuita e facilmente acessível, está a ser utilizada por malfeitores de muitas maneiras. Imagens de celebridades femininas de destaque, incluindo Taylor Swift e Emma Watson, foram manipuladas usando IA para criar deepfake conteúdo pornográfico.

Uma nova ferramenta de IA do Instituto de Tecnologia de Massachusetts (MIT), nos EUA, promete coibir deepfakes. As pessoas podem usar FotoGuard fazer “pequenos ajustes invisíveis para manter [suas] fotos protegidas contra deepfakes e edições desagradáveis ​​– um padrão ouro promissor em segurança online”.

Alex Kim disse à MetaNews que a maneira mais óbvia e comum de identificar vídeos falsos de IA nas redes sociais é considerar os canais em que estão hospedados.

“Você vai querer ver o quanto o canal tem postado ultimamente e se houve algum grande pico ou aumento na criação de conteúdo”, disse Kim. “Se houver um grande aumento nos vídeos postados que parecem estranhos, de baixa qualidade ou estranhos, é um sinal bastante claro de que o criador está usando deepfakes.”

local_img

Inteligência mais recente

local_img

Direitos autorais @ 2024 Plato Technologies Inc.