Een in Hongkong gevestigde financiële professional bij een multinational werd naar verluidt 25 miljoen dollar (200 miljoen HK$) aan bedrijfsgeld opgelicht toen oplichters tijdens een videoconferentie een deepfake van zijn in Londen gevestigde financieel directeur creëerden.

De Hong Konger nam deel aan een videochat waarin zijn CFO verscheen – maar leek een beetje vreemd. Zo erg zelfs dat de medewerker aanvankelijk argwaan kreeg. Maar zijn zenuwen werden gekalmeerd toen andere collega's die hij herkende, leken deel te nemen aan de oproep: de politie van Hong Kong naar verluidt toegelicht.

De nep-CFO deed steeds dringender verzoeken om geldoverboekingen uit te voeren, en het slachtoffer volgde de instructies op die tijdens het telefoongesprek werden gegeven – en maakte uiteindelijk vijftien overboekingen naar vijf lokale bankrekeningen.

De door AI gegenereerde video's zijn naar verluidt gemaakt op basis van eerdere echte onlineconferenties. Om diepte en geloofwaardigheid aan de zwendel toe te voegen, maakten de daders gebruik van WhatsApp, e-mail en één-op-één videoconferenties met personeelsleden uit Hong Kong.

“Ik geloof dat de fraudeur van tevoren video’s heeft gedownload en vervolgens kunstmatige intelligentie heeft gebruikt om nepstemmen toe te voegen voor gebruik tijdens de videoconferentie”, meldde de hoofdinspecteur van de politie van de stad, Baron Chan Shun-ching.

Wat er nog meer precies gebeurde tijdens de noodlottige oproep, wordt betwist. Sommige rapporten suggereren dat slechts één deelnemer aan het gesprek echt was, terwijl andere suggereren dat meerdere deelnemers menselijk waren.

Ze zijn het er allemaal over eens dat er door AI gegenereerde mensen verschenen en dat helaas de naamloze financiële professional werd bedrogen. Die realiteit werd pas door het slachtoffer ontdekt nadat hij contact had opgenomen met het hoofdkantoor van het (eveneens naamloze) bedrijf.

Lokaal mediakanaal De standaard gedeclareerd het incident de eerste deepfake videoconferentie-zwendel in Hong Kong.

In een eenvoudiger, onschuldiger tijd – ongeveer anderhalf jaar geleden – Sophos-onderzoeker John Shier vertelde De Reg Deepfakes vormden niet echt een bedreiging.

Volgens Shier gaven oplichters de voorkeur aan eenvoudigere en goedkope aanvallen, zoals ouderwetse phishing.

Of het nu gedreven wordt door de aantrekkingskracht van grotere financiële prikkels, of beïnvloed wordt door de recente aanzienlijke vooruitgang in AI-technologie die de creatie ervan vergemakkelijkt, het lijkt erop dat het tijdperk van onbezorgdheid over deepfakes snel aan het verdwijnen is.

Hoewel de deepfaked CFO-zwendel misschien wel de eerste is die in Hong Kong wordt gerapporteerd waarbij gebruik wordt gemaakt van videoconferenties, is het niet de enige zwendel waarbij deze technologie wordt gebruikt. Volgens CNNDe politie van Hong Kong onthulde vrijdag tijdens een persconferentie dat ze zes arrestaties hadden verricht in verband met andere deepfake-oplichting en dat AI-deepfakes minstens twintig keer waren gebruikt om gezichtsherkenningssoftware te misleiden.

Het deepfake-probleem is ook mondiaal. Amerikaanse senatoren vorige week geïntroduceerd een tweeledig wetsvoorstel waarmee slachtoffers die worden geportretteerd in niet-consensuele, door AI gegenereerde pornografische deepfakes de makers van de video's kunnen aanklagen.

Die stap kwam na seksueel expliciete, door AI gegenereerde beelden van Taylor Swift vermeerderd op sociale mediaplatforms – inclusief op X/Twitter, waar ze tientallen miljoenen views verzamelden voordat de site van Musk zoekopdrachten naar het popicoon blokkeerde.

India heeft gehad soortgelijke problemen toen in november een minder expliciete – maar nog steeds persoonlijk en professioneel in strijd zijnde – AI-gegenereerde video van de Indiase acteur Rashmika Mandanna online verscheen.

De Indiase IT-minister Rajeev Chandrasekhar naar verluidt waarschuwden eind januari dat sociale-mediaplatforms verantwoordelijk zouden worden gehouden voor deepfakes die hun gebruikers plaatsen. ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/02/05/hong_kong_deepfaked_cfo/