Zephyrnet Logo

Inteligência de dados generativa

AI

O treinamento Firefly da Adobe incluiu imagens de IA dos rivais

Republicado por Platão
Republicado por Platão

Data:

Visualizações: 103

A Adobe fez os usuários acreditarem que usou inteiramente seu próprio estoque de imagens para treinar seu modelo Firefly de gerador de imagens de IA, mas relatórios mostram que também incluiu imagens de IA de rivais como Midjourney.

Firefly é apontado como o gerador de imagens mais ético e comercialmente seguro usando seu próprio estoque de imagens. Mas foi descoberto que eles também usam imagens geradas por IA por ferramentas como Midjourney, contrariando as alegações de uso do Adobe Stock.

IA não tão ética

A empresa vendeu seus Vaga-lume como uma espécie de “IA ética” que treina na própria biblioteca de imagens licenciadas da Adobe. São milhões de designs, imagens e ilustrações da biblioteca do Adobe Stock.

Ao contrário disso, surgiu um novo relatório mostrando que o gerador de imagens não é tão limpo quanto a imagem que projeta no mercado. A Bloomberg relatório revelou que o fabricante do Photoshop tem “alguns esqueletos no armário”.

Algumas das imagens utilizadas durante o treinamento do Firefly foram provenientes de concorrentes Meio da jornada, que não revelou a fonte de seus dados de treinamento, embora muitos suspeitem que as imagens foram obtidas por meio de sucateamento da Internet sem qualquer licenciamento. Isso apesar do Firefly ser visto como “comercialmente seguro”.

Para Rachel Metz, não se trata de “incesto de IA” como é agora conhecido, mas de uma contradição com o que a Adobe projeta que seu gerador de imagens de IA seja aos olhos do público.

“Trata-se de fazer uma escolha deliberada de incluir imagens geradas por IA do Adobe Stock em seu conjunto de dados, ao mesmo tempo em que se posiciona publicamente como muito diferente das empresas cujas ferramentas foram usadas para criar essas imagens geradas por IA”, respondeu Metz no X.

Alguns usuários, entretanto, acham que evitar a contaminação de dados é quase impossível.

“Literalmente impossível não ter qualquer contaminação de dados de treinamento, a menos que você atribua e verifique manualmente cada imagem, o que é muito complicado”, respondeu Raj Singh.

Veja também: Gen AI Music atinge taxa de sucesso de 20% em briefings comerciais

As imagens marcadas com IA

O relatório da Bloomberg revela ainda que o Adobe Stock, que foi usado para treinar o Firefly, tem 57 milhões de imagens rotuladas como geradas por IA, o que representa cerca de 14% do total de imagens nesse banco de dados.

O fabricante do Photoshop revelou que apenas 5% das imagens usadas no treinamento do Firefly se enquadram nesta categoria, enquanto o restante “fazia parte da biblioteca do Adobe Stock, o que significa que passaram por um ‘rigoroso processo de moderação’”.

“Cada imagem enviada ao Adobe Stock, incluindo um pequeno subconjunto de imagens geradas com IA, passa por um rigoroso processo de moderação para garantir que não inclua IP, marcas registradas, personagens reconhecíveis ou nomes de artistas de referência”, disse um porta-voz à Bloomberg.

No seu lançamento, adobe disse que a Firefly era contra o roubo de direitos autorais, oferecendo uma indenização aos seus clientes comerciais, pois a empresa os convenceu de que seu modelo de IA é seguro.

Melhor que seus concorrentes

A Adobe também projetou sua ferramenta de criação de imagens de IA como uma “alternativa segura” aos concorrentes Midjourney e Dall-E porque alegou que os dados foram licenciados e “liberados para uso no treinamento do modelo”.

De acordo com o Guia do Tom, nem todos os artistas estavam tão entusiasmados na época e “sentiram que foram coagidos a concordar em deixar seu trabalho ser usado pelo gigante criativo da tecnologia”. No entanto, a ideia vendida era que as imagens feitas com Firefly eram seguras para uso “sem risco de serem processadas por roubo de direitos autorais”.

O relatório da Bloomberg, entretanto, levantou outra dimensão à “ética” do Adobe Firefly.

A Adobe diferenciou seu gerador de imagens de IA de concorrentes como Dall-E 3, Stable Diffusion e Midjourney declarando “comercialmente seguro”.

“A Adobe estabeleceu os princípios éticos de IA de responsabilidade, responsabilidade e transparência,” escreveu a empresa em uma postagem.

A empresa passou a criar um plano de remuneração para todos os artistas cujos trabalhos passaram pela primeira formação da Firefly. Alguns dos artistas, segundo Segundo Diário do Empreendedor, enviaram imagens que foram criadas pela Midjourney, mas foram compensadas pela Adobe por sua contribuição.

local_img

Inteligência mais recente

local_img

Direitos autorais @ 2024 Plato Technologies Inc.