En nyligen genomförd studie har avslöjat att AI-driven konstgenerator 'Midjourney' lätt kan luras att skapa desinformation och skadligt innehåll trots att företaget sätter upp skyddsräcken.

Med dess förmåga att skapa praktiskt taget vad som helst användare vill ha, har farhågor väckts om att generativ AI kan användas av skrupelfria individer av felaktiga skäl som att sprida propaganda, hat, vidmakthålla rasism och andra former av fördomar.

Medvetna om detta har myndigheterna uppmanat AI-företag att åta sig att utrota sådan "felaktig" användning av deras verktyg. Skaparna har infört vissa skyddsåtgärder som kan stoppa människor från att skapa skadligt innehåll.

Bryter av skyddsräcken

Men trots att man sätter skyddsräcken, delade en nyligen genomförd studie resultat med Direkt säger annat. Studien, som gjordes av forskare vid en ideell organisation känd som Center for Countering Digital Hate (CCDH) visar flera bilder skapade av Midjourney fulla av konspiratoriska och rasistiska toner, mycket till brott mot företagets regelbok.

Enligt studien involverade flera bilduppmaningar "politiskt laddade ämnen" som "onda politiker flinande, ledsna barn, kometpizzeria", med hänvisning till pizza-gate konspiration.

Medan Midjourney inte svarade på just detta ärende, sa företaget att det har 68 innehållsmoderatorer och guider som övervakar användningen av appen. Som sådan sa företaget att dess verktyg blockerar "vissa textinmatningar automatiskt."

Studien visar dock att så inte är fallet, eftersom verktyget är benäget att manipuleras. I verkligheten uppfyller verktyget förfrågningar om "tillverkade bilder av politiker, kändisar och andra offentliga personer i kompromissande scenarier."

Medan det finns andra företag som OpenAI, vars bildskapare Platta introducerade tekniken i mainstream, verkar det som att Midjourney lockade många kunder med över 42 miljoner månatliga besökare i april, enligt statistik från SimilarWeb.

Midjourney blev mer populär hos kreativa utnyttjande det för att skapa unika bilder från naturliga språkingångar.

Läs också: Vita huset lanserar AI Cyber ​​Challenge för att säkra Amerikas digitala framtid

Ondskan

Användare betalar ett månatligt abonnemang från $10 för att få tillgång midjourney genom sin meddelandeapp Discord, som har mer än 14 miljoner prenumeranter. Användare skickar sedan en meddelandeförfrågan om en bild via Midjourney-boten.

Även om den skapade bilden tillskrivs skaparens användarnamn, blir den bilden offentlig som standard, enligt Bloomberg.

Forskarna som letade igenom Discord-servern för sin studie sa att förövarna av desinformation också fångat på.

Rapporten citerar ett exempel på tidigare chefredaktör för Breitbart News London, Raheem Kassam, som frågade Midjourney en antisemitisk bild av "George Soros som en buktalare." YouTube-kommentatorn Jackson Hinkle som har nästan 300,000 XNUMX prenumeranter bad också Midjourney samma månad (april) om en bild på "sataniske George Soros." Enligt rapporten svarade Kassam inte när han blev tillfrågad om en kommentar medan Hinkle enligt uppgift anklagade Soros falskt.

"Vem som helst kan skapa den sortens innehåll med hjälp av ett av dessa verktyg", säger CCDHs forskningschef Callum Hood.

"Denna forskning visar att det finns en större pool av människor än du kanske tror som använder dem för just det syftet."

De realistiska bilderna

Hood sa att en av de oroande trenderna var att verktygen skapar realistiska bilder, visar händelser som aldrig inträffade och kan ha en inverkan på valet 2024.

"Det är förmodligen den som folk tänker mest på när vi närmar oss valet 2024," sa han.

Eftersom användningen av generativ AI ökar och underblåser skapandet av djupa förfalskningar, har den amerikanska federala valkommissionen (FEC) framförde en framställning att reglera användningen av AI-genererade djupa förfalskningar i politiska kampanjer.

I april använde republikanerna AI-verktyg – Dall-E och Midjourney – i en annonsattack om president Joe Biden när han tillkännagav sitt bud på omval i nästa års presidentval. Bilderna i den videon som visar president Biden och hans ställföreträdare Kamala Harris fira sin imaginära seger var alla AI-genererade.

Under samma månad vimlade världen av en bild på påven Franciskus i en snygg vit pösig rock som var en AI-skapelse. En annan bild dök upp, med förre presidenten Donald Trump som bråkade med polisen, vilket såg trovärdigt ut.

Och med uppdateringar för AI-verktyg som slängs ut regelbundet, finns det också oro för att förövare av djupa falska skapelser också kommer att bli sofistikerade.

midjourney meddelade i mars sin V5-version, en mycket bättre version jämfört med sin föregångare.

När företaget beskrev V5:an skröt företaget med att det är "mycket högre bildkvalitet, mer olika utdata, bredare stilistiskt område, stöd för sömlösa texturer, bredare bildförhållande, bättre bilduppmaning, bredare dynamiskt omfång och mer."

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Fordon / elbilar, Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• ChartPrime. Höj ditt handelsspel med ChartPrime. Tillgång här.
• BlockOffsets. Modernisera miljökompensation ägande. Tillgång här.
• Källa: https://metanews.com/ai-is-helping-solve-uks-biodiversity-challenges-study-reveals/