Een financieel medewerker van een in Hongkong gevestigde multinational heeft naar verluidt 200 miljoen HK$ (25.6 miljoen dollar) aan bedrijfsgeld verloren nadat fraudeurs deepfake AI-technologie hadden gebruikt om zich tijdens een videoconferentie voor te doen als de financieel directeur van het bedrijf.
Volgens de politie heeft de werknemer vorige maand een bericht ontvangen van iemand die beweert de in Londen gevestigde CFO van het bedrijf te zijn. De persoon, die bleek een oplichter, vroeg de werknemer om deel te nemen aan een “gecodeerd” videogesprek met vier tot zes andere personeelsleden.
Na aanvankelijke aarzeling was de medewerker na het videogesprek overtuigd omdat de overige aanwezigen leken en klonken als mensen die hij kende van zijn werk, de Hong Kong Standard gerapporteerd.
Lees ook: Man verliest $ 600,000 aan oplichter met behulp van Face-Swapping AI
Een financiële professional oplichten
De nep-CFO verspilde geen tijd. Hij deed snel een dringende oproep om de geldoverdrachten te vergemakkelijken. Het slachtoffer geloofde dat alle anderen in het videogesprek echt waren en voldeed aan de instructies, waardoor uiteindelijk vijftien overboekingen naar vijf lokale bankrekeningen werden gedaan.
In totaal stemde de arbeider ermee in om 200 miljoen HK$ over te maken – destijds ongeveer 25.6 miljoen dollar. De medewerker kwam er een week later achter dat hij was opgelicht, nadat hij navraag had gedaan bij het hoofdkantoor van het bedrijf. Hij heeft de zaak gemeld bij de politie.
“(In de) videoconferentie met meerdere personen bleek dat iedereen [die hij zag] nep was”, zei hoofdinspecteur Baron Chan Shun-ching van de politie van Hong Kong. De politieagent heeft de naam of gegevens van het bedrijf of de werknemer niet bekendgemaakt.
Volgens Chan zijn de video's gemaakt met behulp van AI en gemaakt op basis van eerdere echte online conferenties. Om diepte en geloofwaardigheid aan de zwendel toe te voegen, gebruikten de fraudeurs WhatsApp, e-mail en één-op-één videoconferenties met personeelsleden uit Hong Kong.
“Ik geloof dat de fraudeur van tevoren video’s heeft gedownload en vervolgens kunstmatige intelligentie heeft gebruikt om nepstemmen toe te voegen voor gebruik in de videoconferentie”, zei Chan, en in een ander rapport voegde hij eraan toe:
“Ze gebruikten deepfake-technologie om de stem van hun doelwitten te imiteren terwijl ze uit een script voorlezen.”
De politie zei dat het aantal gevallen waarin AI-deepfake-technologie werd gebruikt om mensen hun geld afhandig te maken, in Hong Kong toeneemt. Tussen juli en september 2023 werden acht gestolen lokale identiteitskaarten gebruikt om 90 leningaanvragen en 54 bankrekeningregistraties in te dienen, zei Chan. gerapporteerd door CNN.
Volgens de politie van Hong Kong hadden oplichters er gebruik van gemaakt AI-deepfakes minstens twintig keer gezichtsherkenningssoftware te misleiden “door de mensen te imiteren die op de identiteitskaarten staan afgebeeld.” De politie heeft zes mensen gearresteerd in verband met dergelijke oplichting.
AI-deepfakes baren wereldleiders zorgen
Naarmate AI geavanceerder wordt, zal het volgens experts steeds moeilijker worden om onderscheid te maken tussen echte en valse identiteiten. De technologie kan de veiligheid en privacy van digitale identiteiten ondermijnen.
Het kan bijvoorbeeld worden gebruikt om deepfakes te maken, realistische maar nepafbeeldingen of video's die worden gebruikt om iemand anders na te bootsen, inclusief hun stem, zoals benadrukt in de zaak Hong Kong.
Regelgevers over de hele wereld zijn meer aandacht gaan besteden aan de gevaren van AI sinds OpenAI zijn virale chatbot lanceerde ChatGPT in november 2022.
In de VS, senatoren geïntroduceerd eind vorige maand een tweeledig wetsvoorstel dat slachtoffers die worden geportretteerd in niet-consensuele, door AI gegenereerde pornografische deepfakes de mogelijkheid zou bieden de makers van de video's aan te klagen.
De beslissing kwam na seksueel expliciete, door AI gegenereerde beelden van Taylor Swift ging viraal op sociale media, waaronder op X, waar tientallen miljoenen mensen ze bekeken voordat het platform dat voorheen bekend stond als Twitter zoekopdrachten naar de popzanger blokkeerde.
In China heeft de Cyberspace Administration van het land vorig jaar nieuwe regelgeving uitgevaardigd die het gebruik van door AI gegenereerde inhoud om ‘nepnieuws’ te verspreiden, verbiedt. De regelgeving vereist ook dat aanbieders van deepfake-technologie hun producten duidelijk als synthetisch bestempelen.
In India heeft IT-minister Rajeev Chandrasekhar dat onlangs gedaan waarschuwde dat socialemediabedrijven verantwoordelijk zouden worden gehouden voor AI-deepfakes die door mensen op hun platforms worden geplaatst. Dit komt na een semi-naakte, door AI gemaakte video van de Indiase acteur Rashmika Mandanna verscheen online in november.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://metanews.com/deepfake-cfo-dupes-employee-25-6m-in-hong-kong-ai-scam/
