Kunstenaars hebben manieren bedacht om technologie als Nightshade in te zetten om generatieve AI-algoritmen te ‘vergiftigen’ om de bedreiging voor hun werk te bestrijden.

Dit komt omdat generatieve AI populair is geworden, waardoor ongeschoolde artiesten of muzikanten met weinig of geen moeite muziek en kunst produceren, wat de industrie schaadt. Beeldgeneratoren zoals Midjourney en Stabiele diffusie zijn gebruikt om afbeeldingen te produceren die er bijna echt uitzien.

De nieuwe technologie stelt kunstenaars echter in staat hun afbeeldingen met een paar pixels aan te passen “zodat ze er voor mensen goed uitzien, ‘maar de bron vergiftigen’ voor AI-tools.”

Lees ook: India's epische Mahabharata komt tot leven in de Metaverse

Nachtschade schiet te hulp

Andere AI-beeldmodellen, zoals Adobe's Firefly en die van Google of meta, gebruik gelicentieerd materiaal bij het genereren van inhoud. Adobe heeft bijvoorbeeld een deal met Shutterstock en Getty Images na het bouwen van een eigen AI-generator die is getraind op bibliotheekafbeeldingen.

Echter, vele andere AI-beeldgenerering tools gedijen goed en worden getraind door het open web af te speuren naar bronmateriaal.

Als gevolg hiervan heeft de praktijk de meningen binnen de kunstindustrie verdeeld en onvrede veroorzaakt onder creatieven die kunstwerken maken en deze online delen.

Aan de andere kant hebben technologen AI gelijkgesteld met een menselijke kunststudent die simpelweg inspiratie haalt uit kunstwerken.

Hoewel er pogingen zijn ondernomen om het schrapen door middel van no-follow-commando's op webpagina's een halt toe te roepen, hebben deze niet veel resultaat opgeleverd, omdat deze niet altijd worden nageleefd. Er is echter een nieuwe tool ontwikkeld genaamd Nightshade, waarmee artiesten de manier waarop AI wordt getraind in hun voordeel kunnen veranderen.

Think Tom's gidsleidt dit tot ‘onbedoelde gevolgen bij het genereren van afbeeldingen’.

Nachtschade gebruiken

Nachtschade verandert de pixels van een afbeelding op subtiele manieren, maar beschadigt het AI-algoritme en de computervisietechnologie. Het beeld blijft echter voor het natuurlijke menselijke oog ongewijzigd.

Als een gebruiker bijvoorbeeld een AI-beeldgenerator vraagt ​​om een ​​rode ballon tegen een blauwe lucht, krijgt hij waarschijnlijk een afbeelding van een watermeloen of een ei, in plaats van een rode bal.

Volgens Tom's Guide bewijst dit alleen al dat de datasets van de beeldgenerator zijn vergiftigd, zoals uitgelegd door TJ Thomson van RMIT University.

“Hoe hoger het aantal ‘vergiftigde’ beelden in de trainingsgegevens, hoe groter de verstoring”, legt Thomson uit, die schrijft voor The Conversation.

“Door generatief AI-werk heeft de schade van ‘vergiftigde’ afbeeldingen ook gevolgen voor gerelateerde prompt-trefwoorden.”

Wat betekent het?

Hoewel verschillende tekst-naar-afbeelding-generatoren zijn getraind op gelicentieerde gegevens, worden degenen die zijn getraind op openbaar toegankelijke inhoud geconfronteerd met rechtszaken en kritiek van kunstenaars.

“Een gematigd aantal Nightshade-aanvallen kan de algemene kenmerken van een generatief tekst-naar-beeld-model destabiliseren, waardoor het vermogen om betekenisvolle beelden te genereren effectief wordt uitgeschakeld”, zegt het team van de Universiteit van Chicago achter Nightshade in een artikel gepubliceerd in de krant arXiv pre-printserver.

Deze beschouwen de tool volgens de krant als een “laatste verdedigingslinie” die kan worden gebruikt als bedrijven de no-scrape-regels niet respecteren of auteursrechtelijk beschermd materiaal blijven gebruiken bij het genereren van afbeeldingen.

Hoewel dit op een strijd lijkt, zullen beeldgeneratoren waarschijnlijk met aanpassingen aan het algoritme komen om de door Nightshade gecreëerde veranderingen tegen te gaan.

Volgens Tom’s Guide verfijnen bedrijven hun modellen door mensen tussen verschillende afbeeldingen te laten rangschikken. Ontwikkelaars hebben mensen gevraagd om “de mooiste te rangschikken” uit twee afbeeldingen voorafgaand aan de lancering van Midjourney versie 6.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/artists-poison-generative-ai-to-protect-their-work/