Met generatieve AI kunnen gebruikers allerlei vervalsingen maken. De afgelopen dagen zijn er nepfoto's van voormalig president Donald Trump op de vlucht geslagen voor de politie, de Russische president Poetin die een kat knuffelt en zelfs de paus in een witte Balenciaga-donsjas. Wat kun je niet maken?

Je kunt geen foto maken van de Chinese president Xi Jinping, althans niet op het generatieve AI-platform Midjourney.

Om de verspreiding van deep fakes online te vertragen, Midjourney vorige week zei het zou de gratis proefversie beëindigen, maar het platform kan nog steeds afbeeldingen van wereldleiders genereren - met de Chinese president als een opmerkelijke uitzondering. Probeer dit te doen, en Midjourney, een in San Francisco gevestigd bedrijf, vertelt je dat het verboten is. Je mag de naam van de Chinese president niet eens in een prompt gebruiken:

Critici argumenteren dat het verbod een vorm van censuur vormt, die de fundamentele beginselen van vrijheid van meningsuiting en meningsuiting ondermijnt.

"De manier waarop de wereld vandaag werkt en hoe nauw we allemaal met elkaar verweven zijn, maakt het uit welke spraakwetten elders gelden", vertelde Sarah McLaughlin, Senior Scholar bij de Foundation for Individual Rights and Expression (FIRE), decoderen in een interview. "Die markt of die overheid zou wel eens krachtig genoeg kunnen zijn om invloed uit te oefenen op de manier waarop Amerikaanse bedrijven opereren."

McLaughlin wees op de Sony-hack uit 2015, waaruit bleek dat een scène van de verwoesting van de Grote Muur van China was verwijderd uit de productiekopie van de Adam Sandler-film "Pixels”, uit bezorgdheid dat dit het kassucces van de film in China zou schaden.

FIRE is een in Philadelphia gevestigde non-profitorganisatie die de vrijheid van meningsuiting verdedigt in de Verenigde Staten, met een focus op universiteitscampussen. De stichting, voegde McLaughlin eraan toe, is onlangs uitgebreid tot een "groep voor vrije meningsuiting en eerste amendement voor alle doeleinden".

McLaughlin zei dat mensen de neiging hebben om de fout te maken internationale censuur af te doen als irrelevant voor hen.

Toen de kwestie van censuur vorig jaar ter sprake kwam op de Midjourney Discord-server, zei David Holz, CEO van Midjourney, dat het bedrijf drama wil minimaliseren.

"Er is geen boosaardige samenzwering - in feite willen we gewoon drama minimaliseren", zei Holz toen hij de kwestie afgelopen juni behandelde.

In een bericht uit juni 2022 op de Midjourney Discord-server benadrukte Holz het verschil in hoe politieke satire wordt ontvangen in westerse landen in vergelijking met China, en erkende hij dat politieke satire die typisch is voor het Westen problemen kan veroorzaken in China en zelfs gebruikers in gevaar kan brengen.

Er is een lange geschiedenis van het creëren van satirische afbeeldingen van wereldleiders, vooral in de Verenigde Staten, waar vrijheid van meningsuiting en meningsuiting is verankerd in de Amerikaanse grondwet, maar niet zo in andere landen.

"Het is niet alleen een kwestie van Amerikaans recht versus Chinees recht," zei McLaughlin. "Het is complexer dan dat, en we kunnen ontdekken dat de tools die we gebruiken uiteindelijk de wetten van andere landen volgen in plaats van de onze, op manieren die we niet hadden verwacht."

Holz suggereerde dat het grotere goed is om Chinezen toe te staan ​​de technologie te gebruiken in plaats van politieke satire aan te moedigen.

"Ik denk dat mensen in China die deze technologie gebruiken [de] naald in de wereld in het algemeen in een positieve [richting] verplaatsen," zei Holz. "Willekeurige mensen hier die Chinese politieke satire doen, voegen weinig toe - de kosten-batenanalyse lijkt duidelijk."

Voorstanders van deze beperkingen kunnen zeggen dat ze nodig zijn om de verspreiding van desinformatie en mogelijk misbruik van AI-technologie te voorkomen. Ondanks de beperking van afbeeldingen van president Xi ziet McLaughlin de tijd van MidJounrey in China echter niet erg lang duren.

"Het zou me niet verbazen als China uiteindelijk de toegang ertoe blokkeert, ondanks de beperkingen, omdat ze de neiging hebben westerse bedrijven uit te sluiten", zei ze.

McLaughlin zei dat wat Midjourney doet buiten de norm valt, daarbij verwijzend naar een recent besluit van Twitter om inhoud in India te censureren.

"Twitter kreeg onlangs te maken met censuurproblemen in India, met eisen van de overheid om een ​​BBC-documentaire over premier Modi te censureren", zei McLaughlin. “Twitter geblokkeerd de inhoud alleen in India, niet wereldwijd. Mid-Journey zorgt er daarentegen voor dat niet iedereen de naam van Xi Jinping kan gebruiken, wat een escalatie is van het gewoon blokkeren van Chinese gebruikers.”

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• Platoblockchain. Web3 Metaverse Intelligentie. Kennis versterkt. Toegang hier.
• Bron: https://decrypt.co/125345/midjourneys-ai-platform-blocks-images-of-chinese-president-sparking-ethics-debate