Een recent onderzoek heeft aangetoond dat de door AI aangedreven kunstgenerator 'Midjourney' gemakkelijk kan worden misleid tot het creëren van verkeerde informatie en kwaadaardige inhoud, ondanks het feit dat het bedrijf vangrails heeft geplaatst.

Met zijn vermogen om vrijwel alles te creëren wat gebruikers willen, zijn er zorgen geuit dat generatieve AI door gewetenloze individuen zou kunnen worden gebruikt om verkeerde redenen, zoals het verspreiden van propaganda, haat, het in stand houden van racisme en andere vormen van vooroordelen.

Zich hiervan bewust, hebben de autoriteiten AI-bedrijven opgeroepen om zich in te zetten voor het uitroeien van dergelijk "onrechtmatig" gebruik van hun tools. De makers hebben enkele voorzorgsmaatregelen genomen die kunnen voorkomen dat mensen schadelijke inhoud maken.

Het doorbreken van de vangrails

Ondanks het plaatsen van de vangrails, werden de resultaten van een recente studie gedeeld met Bloomberg zegt anders. De studie, die werd uitgevoerd door onderzoekers van een non-profitorganisatie die bekend staat als het Center for Countering Digital Hate (CCDH), toont verschillende afbeeldingen gemaakt door Midjourney vol samenzweerderige en racistische toon, wat in strijd is met de regels van het bedrijf.

Volgens de studie hadden verschillende beeldprompts betrekking op 'politiek geladen onderwerpen', zoals 'kwaadaardige politici die grijnzen, verdrietige kinderen, komeetpizzeria', verwijzend naar de pizza-gate samenzwering.

Hoewel Midjourney niet op deze specifieke kwestie reageerde, zei het bedrijf dat het 68 contentmoderators en -gidsen heeft die toezicht houden op het gebruik van de app. Als zodanig zei het bedrijf dat zijn tool "sommige tekstinvoer automatisch blokkeert".

Uit het onderzoek blijkt echter dat dit niet het geval is, aangezien de tool vatbaar is voor manipulatie. In werkelijkheid voldoet de tool aan verzoeken om "gefabriceerde afbeeldingen van politici, beroemdheden en andere publieke figuren in compromitterende scenario's."

Terwijl er andere bedrijven zijn zoals OpenAI, waarvan de maker van afbeeldingen Plaat introduceerde de technologie in de mainstream, het lijkt erop dat Midjourney veel klanten trok met meer dan 42 miljoen maandelijkse bezoekers in april, volgens statistieken van CompareWeb.

Midjourney werd populairder bij creatieven benutten het om unieke afbeeldingen te creëren op basis van natuurlijke taalinvoer.

Lees ook: Witte Huis lanceert AI Cyber ​​Challenge om de digitale toekomst van Amerika veilig te stellen

De kwaadaardigheid

Gebruikers betalen een maandelijks abonnement vanaf $ 10 om toegang te krijgen halverwege de reis via zijn berichten-app Discord, die meer dan 14 miljoen abonnees heeft. Gebruikers sturen vervolgens een berichtverzoek om een ​​afbeelding via de Midjourney-bot.

Hoewel de gemaakte afbeelding wordt toegeschreven aan de gebruikersnaam van de maker, wordt die afbeelding volgens Bloomberg standaard openbaar.

De onderzoekers die de Discord-server afspeurden voor hun onderzoek, zeiden dat de daders van verkeerde informatie ook aansloegen.

Het rapport haalt een voorbeeld aan van voormalig hoofdredacteur van Breitbart News London, Raheem Kassam, die Midjourney een antisemitisch beeld vroeg van “George Soros als buikspreker”. YouTube-commentator Jackson Hinkle, die bijna 300,000 abonnees heeft, vroeg Midjourney diezelfde maand (april) ook om een ​​foto van 'satanische George Soros'. Volgens het rapport antwoordde Kassam op de vraag om commentaar niet, terwijl Hinkle naar verluidt Soros valselijk beschuldigde.

"Iedereen kan dat soort inhoud genereren met behulp van een van deze tools", zegt CCDH-onderzoekshoofd Callum Hood.

"Dit onderzoek toont aan dat er een grotere pool van mensen is dan je zou denken die ze precies voor dat doel gebruiken."

De realistische beelden

Hood zei dat een van de zorgwekkende trends was dat de tools realistische beelden creëren, gebeurtenissen laten zien die nooit hebben plaatsgevonden en mogelijk een impact hebben op de verkiezingen van 2024.

"Dat is waarschijnlijk degene waar mensen het meest aan denken nu we de verkiezingen in 2024 naderen", zei hij.

Naarmate het gebruik van generatieve AI toeneemt, wat de creatie van deep fakes aanwakkert, heeft de Amerikaanse Federal Election Commission (FEC) een petitie ingediend om het gebruik van door AI gegenereerde deep fakes in politieke campagnes te reguleren.

In april gebruikten Republikeinen AI-tools – Dall-E en Midjourney – in een advertentie-aanval over president Joe Biden toen hij zijn bod op herverkiezing in de presidentsverkiezingen van volgend jaar aankondigde. De beelden in die video waarop president Biden en zijn plaatsvervanger Kamala Harris hun denkbeeldige overwinning vieren, zijn allemaal door AI gegenereerd.

In diezelfde maand gonsde de wereld van een foto van paus Franciscus in een stijlvolle witte gezwollen jas, een creatie van AI. Er dook nog een foto op, waarop voormalig president Donald Trump worstelde met de politie, die er geloofwaardig uitzag.

En aangezien er regelmatig updates voor AI-tools worden uitgebracht, zijn er ook zorgen dat daders van diepe nep-creaties ook geavanceerd zullen worden.

halverwege de reis aangekondigd in maart zijn V5-versie, een veel betere versie ten opzichte van zijn voorganger.

Bij het beschrijven van de V5 pochte het bedrijf dat het "veel hogere beeldkwaliteit, meer diverse uitvoer, breder stilistisch bereik, ondersteuning voor naadloze texturen, bredere beeldverhoudingen, betere beeldprompt, breder dynamisch bereik en meer" is.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. Automotive / EV's, carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• ChartPrime. Verhoog uw handelsspel met ChartPrime. Toegang hier.
• BlockOffsets. Eigendom voor milieucompensatie moderniseren. Toegang hier.
• Bron: https://metanews.com/ai-is-helping-solve-uks-biodiversity-challenges-study-reveals/