Verwacht wordt dat deepfakes op het gebied van verkiezings-AI de EU-regelgevers zullen overweldigen, nu meer dan tien landen in de regio in 10 naar de stembus gaan tegen de achtergrond van slecht voorbereide regeringen.

In 2024 zal het continent naar verwachting een toestroom van politiek gemotiveerde deepfakes zien in de vorm van video’s, audio en afbeeldingen. Met tools als Midjourney versie 6, die ‘ongelooflijk fotorealisme’ creëren, zal het gemakkelijk zijn om echte mensen of scènes van rellen en migrantenbewegingen te targeten.

Meerdere EU-verkiezingen

Think Brusselse signalenOostenrijk, Finland, Kroatië, België, Litouwen, IJsland, Portugal, Roemenië en Slowakije zullen het komende jaar landelijke verkiezingen houden.

Elders hebben Duitsland, Ierland, Malta en Polen lokale verkiezingen, terwijl Spanje twee regionale verkiezingen heeft.

Wereldwijd woont ongeveer 25% van de wereldbevolking in een land dat in 2024 verkiezingen houdt, bijvoorbeeld de VS.

De verkiezingsperiode komt ook in een tijd waarin de wereld een hausse ziet generatieve AI naar aanleiding van het succesverhaal van ChatGPT, dat in november 2022 werd gelanceerd.

Daarom zegt Henry Ajder, oprichter van een generatieve AI-startup in Cambridge, dat in 2024 “de meeste mensen naar verkiezingen zullen gaan, en tegelijkertijd zien we een behoorlijk bliksemsnelle evolutie en inzet van AI. ”

Lees ook: Zuid-Koreaanse regering zegt geen auteursrecht op AI-inhoud

Slechte voorbereiding

Sara Ibrahim, een advocaat bij de Londense Gatehouse Chambers die vaak werkt en schrijft over AI, is van mening dat de komende verkiezingen te maken zullen krijgen met AI-bedreigingen vanwege de slechte voorbereiding van de EU-regelgevers om tijdens de verkiezingsperiode om te gaan met het gebruik van AI.

Ze denkt dat de regio momenteel wordt gekenmerkt door “een perfecte storm van slecht voorbereide regeringen en een grootschalige mogelijkheid voor bedrog en fraude, waardoor desinformatie snel wordt verspreid.”

Rechtbanken in Europa hebben al geproefd van de impact van generatieve AI, en dit dient als een vroeg waarschuwingssignaal.

Volgens Ibrahim ervaart het rechtssysteem “al mensen die verzonnen zaken citeren die door ChatGPT zijn gehallucineerd, wat een echte druk op de publieke middelen betekent in een tijd waarin de economie nauwelijks robuust is.”

Het stoppen van de verspreiding van deepfakes met behulp van regelgeving kan nu een zware taak voor de EU zijn.

“Regelgevers kunnen een persoon op zijn computer niet tegenhouden met behulp van een ongelooflijk toegankelijke tool om audio of video te genereren, deze op een geschikt moment op Twitter te delen of te verspreiden onder Discord-groepen”, zegt Ajder.

Ondanks het hebben van de Wet op de digitale dienstverlening in de EU moet de effectiviteit ervan “nog worden bewezen”, aldus Oxford Analytica.

De bedrieglijke AI

Hoewel het wordt aangeprezen als een gamechanger vanwege zijn transformerende capaciteiten, is de wereld al getuige geweest van de valkuilen van generatieve AI. Door AI gegenereerde afbeeldingen, video’s en audio worden ‘perfect’ en moeilijk te onderscheiden van de echte, waardoor gebruikers in de problemen zitten.

In september, tijdens de verkiezingen in Bangladesh, zond een nieuwskanaal bekend als BD Politico een video uit op het X-platform met beelden van rellen omdat Amerikaanse diplomaten zich bemoeiden met de verkiezingen in het land.

Maar de video is gemaakt met Hallo Gen, een AI-videogenerator. Het nieuwsanker in de beelden, ‘Edward’, is een van de vele avatars die de videogenerator aan gebruikers aanbiedt tegen een abonnementsprijs van $ 24 per maand.

Een ander voorbeeld is dat van een audio-opname met Sir Keir Starmer scheldt verbaal uit zijn assistenten tijdens de septemberconferentie van de Britse Labour Party. De clip werd 1.5 miljoen keer bekeken.

In dezelfde maand verscheen nog een clip van Burgemeester van Londen Sadiq Khan Er werd op grote schaal aangedrongen op een herschikking van Wapenstilstand vanwege een pro-Palestijnse mars.

Volgens Brussels Signal bewezen de clips dat ze door AI waren gegenereerd.

[Ingesloten inhoud]

Kwetsbare politici

Vanwege de posities die zij bekleden zijn politici en spraakmakende personen het doelwit geweest van deepfakes op basis van AI, vooral nu er overal ter wereld verkiezingen voor de deur staan.

Ajder was het ermee eens dat politici ‘bijzonder kwetsbaar zijn’.

“Er zitten veel trainingsgegevens in de beelden ervan, en op podia staan ​​of aan een bureau zitten is iets dat bijzonder gemakkelijk te vervalsen is”, aldus Ajder.

Onlangs Pakistan Imran Khan had een door AI gegenereerde stem van hemzelf die om steun riep terwijl hij in de gevangenis zat tijdens een zeven uur durende virtuele bijeenkomst.

Op videoclips uit de conflicten in Gaza en Oekraïne zijn ook bloedige en in de steek gelaten baby's afgebeeld, maar deze waren niet echt. Bij nadere beschouwing kwamen vingers naar voren die op ‘anatomisch onmogelijke manieren of onnatuurlijke oogkleuren waren gekruld’, aldus Imran Ahmed, algemeen directeur van het in Washington DC gevestigde Center for Countering Digital Hate.

Wat gedaan kan worden?

Hoewel het produceren en uitzenden van extremistisch materiaal prijzig kan zijn, is de frequentie waarmee dergelijke inhoud op platforms als X verschijnt hoog.

Volgens Ahmed zal ongereguleerde AI ‘haat en desinformatie een boost geven’.

Hoewel toezichthouders op dit moment weinig kunnen doen, is het volgens Ajder nodig om de openbaarmaking van door AI gegenereerde inhoud door politici te garanderen.

“Of mag in ieder geval alleen worden gebruikt zonder openbaarmaking als het voor het publiek ongelooflijk duidelijk is dat het niet echt is en een parodie is”, zegt hij.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/election-ai-deepfakes-will-eu-regulators-cope/