Na protesten van spelers verwijdert Epic Games racistische AI-gegenereerde afbeeldingen die door gebruikers zijn geüpload naar het populaire Battle Royale-spel Fortnite, volgens een verslag by Kotaku.
Een van de kenmerken die Fortnite tot de geweldige online game hebben gemaakt die het nu is, is de mogelijkheid voor gebruikers om hun eigen kaarten te maken en speelbare ervaringen met de wereld te delen. Deze uitlaatklep voor creativiteit betekent echter dat gebruikers potentieel problematische inhoud kunnen uploaden, wat hier is gebeurd.
Onlangs begonnen gebruikers eilandkaarten op te merken met ruwe, door AI gegenereerde afbeeldingen die racistische stereotypen belichamen. Als Kotaku Naar verluidt zijn voorbeelden van kaarten onder meer kaarten met namen als ‘Arabische Zonewars’, ‘Nigeriaanse Zonewars’ en ‘China Zonewars’.
De kaarten bevatten racistische en ogenschijnlijk door AI gegenereerde afbeeldingen die stereotypen in stand houden, waaronder mannen uit het Midden-Oosten die bommen vasthouden en zwarte mannen die gebakken kip eten. Hoewel de meeste van deze maps een kleine serverpopulatie hadden, telde één map, ‘Jamaica Zonewars’, eerder deze maand meer dan 35,000 actieve spelers.
Afbeelding: Kunstwerk van een verboden eiland van de gebruiker “flaming” in Fortnite Creative.
“Veel van de genoemde eilanden zijn al verwijderd en de makers hebben actie ondernomen”, vertelde Epic Games Kotaku in een verklaring. “We hebben al meer dan 100 eilanden met inhoudsschendingen aangepakt die dit vergelijkbare miniatuurformaat gebruiken en zullen dat blijven doen.”
Epic Games voegde eraan toe dat discriminerende inhoud geen plaats heeft in Fortnite en in strijd is met de regels voor het maken van eilanden van het bedrijf, eraan toevoegend dat gebruikers die deze richtlijnen overtreden hun accounts permanent kunnen worden verboden.
“Ons menselijke moderatieteam beoordeelt alle inhoud voorafgaand aan publicatie, en we werken actief onze regels voor eilandmakers en moderatietrainingsprogramma’s bij om het aantal overtredende kaarten dat spelers bereikt te minimaliseren”, aldus Epic Games. “We moedigen spelers aan om eilanden die zij zien die mogelijk onze regels schenden, te melden.”
In een verklaring die aan decoderen's GG zei Epic Games dat alle door gebruikers gemaakte eilanden vóór publicatie door moderators worden beoordeeld, maar zei dat het team een lichte aanraking hanteert.
Afbeelding: Kunstwerk van een verboden eiland van de gebruiker “drzen” in Fortnite Creative.
“We vragen ons moderatieteam om uit te gaan van goede bedoelingen namens de maker als ze niet zeker zijn van een schending van de inhoud, zodat we niet overmatig censureren”, aldus Epic Games. “Soms betekent dit dat er dingen worden gepubliceerd die niet zouden moeten worden gepubliceerd, en we werken snel om aanstootgevende inhoud te verwijderen en nieuw trainingsmateriaal voor onze moderators te schrijven. Creators die onze regels voor creators schenden, worden geconfronteerd met verschillende handhavingsmaatregelen, waaronder een permanent verbod op publicatie en het genereren van inkomsten.'
De uitgever voegde eraan toe dat het werkt aan het updaten van zijn ‘regels voor eilandscheppers en moderatietrainingsprogramma’s’.
“We verbieden geen games vanwege het gebruik van nieuwe technologieën”, zegt Epic Games-oprichter en CEO Tim Sweeney schreef destijds op Twitter, waarbij hij opmerkte dat Epic Games eerder dat jaar volledige zelfpublicatie had geopend.
Hoewel AI-ontwikkelaars zwaar hebben geïnvesteerd in het verwijderen van aanstootgevende afbeeldingen uit hun modellen, hebben gebruikers manieren gevonden om de modellen te ‘jailbreaken’ met behulp van gespecialiseerde aanwijzingen. In oktober werden door AI gegenereerde beelden van SpongeBob SquarePants of Nintendo's Kirby-vliegtuigen die naar het World Trade Center vlogen, gingen viraal.
