Num mundo onde as imagens geradas por IA são cada vez mais indistinguíveis das fotografias humanas, a Meta atualizou a sua ferramenta ‘Imagine with Meta AI’.
De acordo com o blog, esta atualização introduz marcas d’água invisíveis em todas as imagens geradas pela ferramenta, marcando um passo para garantir transparência e rastreabilidade no conteúdo gerado por IA.
O recurso de marca d'água invisível da Meta AI é uma resposta às crescentes preocupações sobre o potencial uso indevido de Tecnologias AI na criação de conteúdo enganoso ou enganoso. Ao contrário das marcas d'água convencionais, estas são invisíveis ao olho humano, mas podem ser detectadas usando um modelo correspondente. Essa abordagem foi projetada para ser resiliente a manipulações comuns de imagens, incluindo cortes, alterações de brilho ou contraste de cores e capturas de tela.
A Meta também lançou um produto independente chamado ‘Imagem com Meta AI’.
É um gerador de imagens gratuito – com marcas d'água invisíveis para aumentar a transparência nas imagens de IA em breve.
Tente aqui: https://t.co/4S37p2Hy2j pic.twitter.com/U8pteh6Pc9
—Rowan Cheung (@rowancheung) 7 de dezembro de 2023
A decisão da Meta de incorporar esse recurso em suas imagens geradas por IA visa estabelecer um novo padrão na indústria, garantindo que as origens do conteúdo criado por IA sejam rastreáveis e transparentes. A marca d'água é aplicada usando um modelo de aprendizagem profunda, uma prova do esforço da Meta para aproveitar a tecnologia para aumentar a segurança e integridade digital.
A paisagem em evolução da Meta A
Meta IA, conhecido por sua capacidade de gerar imagens fotorrealistas e fornecer respostas detalhadas a uma ampla gama de solicitações, não se limita à marca d’água. A plataforma de IA expandiu suas capacidades. O recurso 'reimaginar', introduzido em Messenger e Instagram, permite aos usuários enviar e receber imagens geradas por IA, aprimorando a experiência de mídia social com um toque criativo.
Meta AI também desempenha um papel na melhoria da experiência do usuário no Facebook e Instagram. Desde a oferta de sugestões de comentários e resultados de pesquisa gerados por IA até a facilitação de aplicações criativas em Lojas, a Meta AI está se tornando parte do ecossistema da Meta.
Uma posição contra o uso indevido da IA
A mudança para incluir marcas d'água invisíveis em imagens geradas por IA faz parte de um esforço mais amplo da Meta para enfrentar os desafios éticos colocados pela tecnologia de IA. Recentemente, surgiram campanhas fraudulentas baseadas em IA, com golpistas usando ferramentas prontamente disponíveis para criar vídeos falsos, áudio e imagens de figuras públicas. Isto resultou numa desinformação significativa e até em perturbações temporárias do mercado, como testemunhado no incidente envolvendo uma imagem falsa de uma explosão perto do Pentágono.
A ação da Meta é uma medida proativa para mitigar esses riscos, garantindo que o conteúdo gerado por IA possa ser facilmente identificado e diferenciado do material gerado por humanos. Esta abordagem promove a utilização responsável da IA e ajuda a salvaguardar a confiança do público nos conteúdos digitais.
Esforços contínuos da Meta em segurança de IA
Além da marca d'água invisível, a Meta está investindo em equipes vermelhas como parte de sua incursão na segurança da IA. A equipe vermelha envolve testes de pressão, pesquisas generativas de IA e recursos para identificar riscos potenciais nos resultados. A introdução da estrutura Multi-round Automatic Red-Teaming (MART) é um passo nessa direção, com o objetivo de melhorar continuamente a segurança das aplicações de IA.
O novo artigo de pesquisa de IA da Meta - MART, ou Multi-round Automatic Red-Teaming, é uma estrutura para melhorar a segurança do LLM que treina um LLM adversário e alvo por meio de red-teaming adversário iterativo automático.
Detalhes no artigo ➡️ https://t.co/lGuJrPDsCD pic.twitter.com/KNfWqx8JTk
- IA na Meta (@AIatMeta) 15 de novembro de 2023
O desenvolvimento do Meta visa adicionar uma camada de transparência e rastreabilidade ao conteúdo gerado por IA, marcando uma mudança na forma como esse conteúdo é gerenciado e autenticado. A marca d'água invisível, indetectável a olho nu, mas identificável por meio de modelos específicos, foi projetada para ajudar a diferenciar as imagens criadas por IA daquelas produzidas por humanos. Esta medida da Meta reflete um esforço para abordar algumas preocupações éticas associadas à tecnologia de IA e ao seu potencial de uso indevido na criação de conteúdo enganoso.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://metanews.com/meta-ai-to-add-invisible-watermarks-for-increased-transparency/
