De afgelopen vijf jaar is er in de digitale wereld een verontrustende trend ontstaan met de verspreiding van deepfake-porno. Deze video's, gemaakt met behulp van de allernieuwste AI-technologieën, plaatsen naadloos onschuldige gezichten over expliciete inhoud zonder hun medeweten of toestemming. Het aantal van dergelijke ongepaste video's is bijgevolg geëxplodeerd.
Volgens een recent onderzoekIn de eerste negen maanden van dit jaar zijn er 113,000 video's uitgebracht, een stijging van 54% ten opzichte van de voorgaande jaren. Bovendien wordt verwacht dat de statistieken van dit jaar die van alle voorgaande jaren zullen overtreffen.
Deepfake-porno ruïneert het leven van vrouwen. Nu kan de wet het eindelijk verbieden. https://t.co/rlotWb40Rr pic.twitter.com/aANo6uv2kT
— Rijke Tehrani (@rtehrani) 16 oktober 2023
Zoekmachines: onwetende medeplichtigen?
De rol van zoekmachines in deze crisis kan niet worden onderschat. Bedrijven als Google en Microsoft zijn toegangspoorten tot deze donkere wereld geworden. Als gevolg hiervan komt 50 tot 80 procent van de internetgebruikers op deze deepfake-sites terecht via onschuldige zoekopdrachten. De gemakkelijke toegang en de zichtbaarheid van deze sites verergeren het probleem.
Het is veelbetekenend dat dit ook geen lokaal probleem is, aangezien tests in verschillende landen, van Canada tot Japan, consequent deepfake-sites prominent in de zoekresultaten weergeven, wat het mondiale karakter van deze dreiging benadrukt.
Juridische interventies en de impact op slachtoffers
Te midden van dit sombere landschap is er echter een baken van hoop. De staat New York heeft de ernst van deze digitale schending erkend en heeft een krachtig standpunt ingenomen. Verdedigd door senator Michelle Hinchey, nieuwe wetgeving criminaliseert de verspreiding van door AI gegenereerde expliciete beelden zonder toestemming van het afgebeelde individu.
Degenen die schuldig worden bevonden, kunnen worden onderworpen aan aanzienlijke straffen en mogelijk gevangenisstraf. Deze wetgeving biedt een afschrikmiddel tegen wangedrag en geeft slachtoffers een wettelijke bevoegdheid om verhaal te halen bij de verantwoordelijken.
*BREAKING* Mensen die betrapt worden op het zonder toestemming delen of maken van expliciete afbeeldingen kunnen in Engeland en Wales een gevangenisstraf riskeren.
Wijzigingen in de Online Safety Bill introduceren een gevangenisstraf van zes maanden voor het delen van deepfake- en wraakporno. pic.twitter.com/p1KVXvLHuu
— Kapitaalmomenten (@CapitalMoments) 27 June 2023
Toch reiken de gevolgen voor de slachtoffers veel verder dan de onmiddellijke overtreding. De niet-consensuele inhoud schendt hun privacy en onderwerpt hen aan toenemende intimidatie en emotioneel trauma.
Bovendien verergert het voortdurende karakter van het internet dit trauma, en eenmaal geüpload blijven deze afbeeldingen en video’s voor onbepaalde tijd toegankelijk, wat leidt tot voortdurend opnieuw slachtofferschap. De emotionele en psychologische tol voor de slachtoffers is onmetelijk, en velen melden gevoelens van schending, schaamte en angst.
Het pad vooruit
Hoewel wettelijke kaders een schijn van rechtvaardigheid bieden, zijn de uitdagingen van het digitale tijdperk uniek en veelzijdig. Traditionele concepten van rechtvaardigheid komen onder druk te staan wanneer misdaden voortdurend opnieuw worden gepleegd vanwege de oneindige aard van online-inhoud. Nu de samenleving met deze nieuwe dilemma’s worstelt, is het van cruciaal belang dat we onze strategieën en perspectieven ontwikkelen.
Educatie en bewustwording zijn cruciaal. Het grote publiek moet zich bewust zijn van de gevaren en implicaties van deepfakes. Ook technologiebedrijven hebben een rol te spelen. Ze moeten investeren in technologieën die dat mogelijk maken detecteren en markeren deepfake-inhoud, zodat deze geen grip krijgt. Bovendien kunnen samenwerkingen tussen technologiegiganten, overheden en NGO’s tot meer alomvattende oplossingen leiden.
Naast @SIECUS's onvermoeibare inspanningen om te pleiten voor seksuele voorlichting, hebben ze zich ook bij ons aangesloten en er bij het Congres op aangedrongen om dit te verbieden #deepfake porno.
Mensen zijn hun baan kwijtgeraakt als gevolg van deepfakes en hun levensonderhoud is geruïneerd. Teken onze open brief om een standpunt in te nemen. https://t.co/bLYu11MbQo
— SVPA (@SVPAOfficial) 10 maart 2023
Bovendien staat emotionele steun voor de slachtoffers voorop. Adviesdiensten en hulplijnen die zich richten op het helpen van slachtoffers van deepfakes kunnen de broodnodige verlichting bieden. Publieke campagnes kunnen ook een cruciale rol spelen bij het veranderen van de maatschappelijke percepties en het verminderen van het stigma op slachtofferschap.
De opkomst van deepfake-porno onderstreept de noodzaak van een evenwichtige benadering van technologische vooruitgang. Nu de toekomst zich aandient, is het van cruciaal belang dat naast innovatie prioriteit wordt gegeven aan ethiek. Deze stijging moet aanzienlijk worden ingedamd om deze groeiende dreiging het hoofd te bieden en door collectieve inspanningen een veilige digitale omgeving te garanderen.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://metanews.com/deepfake-porn-surge-prompts-urgent-call-for-action/