Adobe liet gebruikers geloven dat het volledig zijn eigen afbeeldingen gebruikte om zijn AI-beeldgenerator Firefly-model te trainen, maar uit rapporten blijkt dat het ook AI-afbeeldingen van rivalen als Midjourney bevatte.

Firefly wordt aangeprezen als de meest ethische en commercieel veilige beeldgenerator die zijn eigen beeldvoorraad gebruikt. Maar er is ontdekt dat ze ook door AI gegenereerde afbeeldingen gebruiken door tools als Midjourney, in tegenstelling tot beweringen over het gebruik van Adobe Stock.

Niet zo ethische AI

Het bedrijf heeft zijn Glimworm als een soort ‘ethische AI’ die traint op Adobe’s eigen bibliotheek met gelicentieerde stockfoto’s. Dit zijn miljoenen ontwerpen, afbeeldingen en illustraties uit de Adobe Stock-bibliotheek.

In tegenstelling hiermee is er een nieuw rapport verschenen waaruit blijkt dat de beeldgenerator toch niet zo schoon is als het imago dat hij op de markt projecteert. A Bloomberg Uit een rapport blijkt dat de Photoshop-maker ‘een paar skeletten in de kast heeft’.

Sommige afbeeldingen die tijdens de training van Firefly zijn gebruikt, zijn afkomstig van de concurrent halverwege de reis, dat de bron van zijn trainingsgegevens niet heeft onthuld, hoewel velen vermoeden dat de beelden zijn verkregen door het internet zonder enige licentie te schrappen. Dit ondanks het feit dat Firefly wordt gezien als ‘commercieel veilig’.

Voor Rachel Metz gaat dit niet over ‘AI-incest’ zoals het nu bekend staat, maar over een tegenspraak met wat Adobe projecteert met zijn AI-beeldgenerator in de ogen van het publiek.

“Het gaat erom dat we een bewuste keuze maken om door AI gegenereerde afbeeldingen van Adobe Stock op te nemen in de dataset, terwijl we onszelf publiekelijk positioneren als heel anders dan de bedrijven waarvan de tools werden gebruikt om die door AI gegenereerde afbeeldingen te maken”, reageerde Metz op X.

Sommige gebruikers zijn echter van mening dat het vermijden van databesmetting vrijwel onmogelijk is.

“Letterlijk onmogelijk om geen besmetting van trainingsgegevens te hebben, tenzij je elke afbeelding handmatig toeschrijft en verifieert, wat veel te omslachtig is,” gereageerd Raj Singh.

Lees ook: Gen AI Music bereikt een succespercentage van 20% in commerciële briefings

De AI-gelabelde afbeeldingen

Uit het Bloomberg-rapport blijkt verder dat Adobe Stock, dat werd gebruikt om Firefly te trainen, 57 miljoen afbeeldingen met het label AI-gegenereerd heeft, wat ongeveer 14% is van het totale aantal afbeeldingen in die database.

De Photoshop-maker heeft onthuld dat slechts 5% van de afbeeldingen die werden gebruikt bij de training van Firefly in deze categorie vallen, terwijl de rest “deel uitmaakte van de Adobe Stock Library, wat betekende dat ze een ‘rigoureus moderatieproces’ hadden doorlopen.”

“Elke afbeelding die naar Adobe Stock wordt verzonden, inclusief een zeer kleine subset van afbeeldingen die met AI zijn gegenereerd, doorloopt een rigoureus moderatieproces om ervoor te zorgen dat deze geen IP, handelsmerken, herkenbare karakters of namen van referentiekunstenaars bevat”, vertelde een woordvoerder aan Bloomberg.

Bij zijn lancering adobe zei dat Firefly tegen diefstal van auteursrechten was en een schadevergoeding aanbood aan zijn commerciële klanten omdat het bedrijf hen ervan overtuigde dat zijn AI-model veilig is.

🚨Lepel van mij en @BrodyFord_: Adobe heeft Firefly aangeprezen als een veilig en ethisch alternatief voor concurrenten als Midjourney... maar het heeft Firefly ook stilletjes getraind in Midjourney-afbeeldingen.

Adobe's 'ethische' Firefly AI werd getraind op beelden tijdens de reis https://t.co/LIYD9RuExS

— Rachel Metz (@rachelmetz) 12 april 2024

Beter dan zijn concurrenten

Adobe projecteerde zijn tool voor het maken van AI-afbeeldingen ook als een ‘veilig alternatief’ voor concurrenten Midjourney en Dall-E, omdat het beweerde dat de gegevens onder licentie waren en ‘vrijgegeven waren voor gebruik bij het trainen van het model’.

Think Tom's gidswaren destijds niet alle kunstenaars zo enthousiast en ‘voelden ze dat ze gedwongen werden om in te stemmen met het gebruik van hun werk door de creatieve technologiegigant.’ Het verkochte idee was echter dat afbeeldingen gemaakt met Firefly veilig te gebruiken waren “zonder het risico te worden aangeklaagd wegens diefstal van auteursrechten.”

Het Bloomberg-rapport heeft echter een nieuwe dimensie toegevoegd aan de ‘ethiek’ van Adobe Firefly.

Adobe heeft zijn AI-beeldgenerator onderscheiden van concurrenten als Dall-E 3, Stable Diffusion en Midjourney. “commercieel veilig.”

“Adobe heeft de ethische AI-principes van aansprakelijkheid, verantwoordelijkheid en transparantie vastgelegd”, schreef het bedrijf in één bericht.

Het bedrijf ging vervolgens een compensatieplan opstellen voor alle artiesten wier werk doorwerkte in de eerste training van Firefly. Sommige artiesten, volgens Volgens Ondernemer dagelijks, ingezonden afbeeldingen die zijn gemaakt door Midjourney maar door Adobe zijn gecompenseerd voor hun inbreng.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/firefly-training-included-rivals-ai-images/