Scams

Telefoonfraude neemt een angstaanjagende wending omdat fraudeurs gebruik kunnen maken van AI om de slachtoffers ernstige emotionele en financiële schade te berokkenen

Phil Muncaster

Januari 18 2024
 • 
,
4 minuut. lezen

Het is de ergste nachtmerrie van elke ouder. U wordt gebeld door een onbekend nummer en aan de andere kant van de lijn hoort u uw kind om hulp roepen. Dan komt hun ‘ontvoerder’ aan de lijn en eist losgeld, anders zie je je zoon of dochter nooit meer terug. Helaas is dit zo geen ingebeeld scenario uit een Hollywoodfilm.

In plaats daarvan is het een angstaanjagend voorbeeld van de moeite die oplichters nu kunnen doen om geld van hun slachtoffers af te persen, waarbij ze nieuwe technologie voor snode doeleinden gebruiken. Het toont ook de kwaliteit van AI-technologie voor het klonen van stemmen dat is nu overtuigend genoeg om zelfs naaste familieleden te misleiden. Gelukkig geldt dat hoe meer mensen op de hoogte zijn van deze regelingen en waar ze op moeten letten, hoe kleiner de kans is dat telefonische fraudeurs geld verdienen.

Hoe virtuele ontvoering werkt

Er zijn verschillende belangrijke fasen in een typische virtuele ontvoeringszwendel. In grote lijnen zijn deze als volgt:

• De oplichters onderzoek naar potentiële slachtoffers ze kunnen bellen en proberen geld af te persen. Deze fase zou ook kunnen worden geoptimaliseerd met behulp van AI-tools (hierover later meer).
• De oplichters identificeren een ‘ontvoeringsslachtoffer’ – hoogstwaarschijnlijk het kind van de persoon die ze in fase 1 hebben geïdentificeerd. Ze kunnen dit doen door hun sociale media of andere openbare informatie te doorzoeken.
• De groep bedenkt vervolgens een denkbeeldig scenario en zorgt ervoor dat het zo schrijnend mogelijk wordt voor de persoon die ze gaan bellen. Hoe banger u bent, hoe kleiner de kans dat u rationele beslissingen zult nemen. Zoals bij elke goede social engineering-poging willen de oplichters om deze reden de besluitvorming van het slachtoffer overhaasten.
• De fraudeurs zouden dan nog wat meer open source-onderzoek kunnen doen om te berekenen wanneer het beste moment is om te bellen. Ze kunnen sociale media of andere bronnen doorzoeken om dit uit te zoeken. Het idee is om contact met u op te nemen op een moment dat uw dierbare zich elders bevindt, idealiter op vakantie, zoals de dochter van Jennifer DeStefano.
• De oplichters creëren vervolgens de audio-deepfakes en bellen. Met behulp van gemakkelijk verkrijgbare software zullen de oplichters audio maken met de ‘stem’ van het slachtoffer en deze gebruiken om u ervan te overtuigen dat ze een familielid hebben ontvoerd. Ze kunnen andere informatie uit sociale media gebruiken om de zwendel overtuigender te laten klinken, bijvoorbeeld door details over de ‘ontvoering’ te noemen die een vreemde misschien niet kent.

Als u voor de zwendel trapt, wordt u hoogstwaarschijnlijk gevraagd om op een niet-traceerbare manier te betalen, zoals bij cryptocurrency.

Virtuele ontvoering een boost geven

Er zijn variaties op dit thema. Het meest zorgwekkend is het potentieel van ChatGPT en andere AI-tools om virtuele ontvoering een boost te geven door het voor fraudeurs gemakkelijker te maken de ideale slachtoffers te vinden. Adverteerders en marketeers al jaren hebben gebruikt ‘propensity modeling’-technieken om de juiste boodschappen op het juiste moment bij de juiste mensen te krijgen.

Genatieve AI (GenAI) zou oplichters kunnen helpen hetzelfde te doen, door te zoeken naar personen die het meest waarschijnlijk zullen betalen als ze worden blootgesteld aan een virtuele ontvoeringszwendel. Ze kunnen ook zoeken naar mensen binnen een specifiek geografisch gebied, met openbare sociale mediaprofielen en met een specifieke sociaal-economische achtergrond.

Een tweede optie zou zijn om een ​​SIM-swapping-aanval op de ‘ontvoerde’ te gebruiken om hun telefoonnummer te kapen voorafgaand aan de zwendel. Dit zou een zenuwslopende legitimiteit toevoegen aan het telefoongesprek over de ontvoering. Terwijl DeStefano uiteindelijk kon vaststellen dat haar dochter in veiligheid was en daarom haar afpersers ophing, zou dit veel moeilijker zijn als het familielid van het slachtoffer niet bereikbaar is.

Wat de toekomst brengt voor stemklonen

Helaas is de technologie voor het klonen van stemmen al zorgwekkend overtuigend, net zoals dat ook het geval is ons recente experiment bewijst. En het wordt steeds toegankelijker voor oplichters. Een inlichtingenrapport uit mei waarschuwde voor legitieme tekst-naar-spraak-tools die misbruikt zouden kunnen worden, en voor een groeiende belangstelling voor de cybercriminaliteit ondergronds in voice cloning-as-a-service (VCaaS). Als dit laatste een succes wordt, zou dit de mogelijkheid kunnen democratiseren om dergelijke aanvallen in de hele cybercriminaliteitseconomie te lanceren, vooral als deze worden gebruikt in combinatie met GenAI-tools.

Sterker nog, naast disinformatiewordt deepfake-technologie ook gebruikt voor het compromitteren van zakelijke e-mail (zoals getest door onze eigen Jake Moore) en de sextortio We staan ​​nog maar aan het begin van een lange reis.

Hoe veilig te blijven

Het goede nieuws is dat een beetje kennis een grote bijdrage kan leveren aan het verspreiden van de dreiging van deepfakes in het algemeen en virtuele ontvoeringen in het bijzonder. Er zijn dingen die u vandaag kunt doen om de kans te verkleinen dat u als slachtoffer wordt geselecteerd en dat u in een oplichtingsoproep terechtkomt als dat toch gebeurt.

Overweeg deze tips op hoog niveau:

• Deel persoonlijke informatie niet te veel op sociale media. Dit is absoluut cruciaal. Vermijd het plaatsen van details zoals adressen en telefoonnummers. Als dat mogelijk is, deel niet eens foto's of video-/audio-opnamen van uw gezin, en zeker geen details over de vakantieplannen van dierbaren.
• Houd uw sociale media-profielen privé om de kans te verkleinen dat bedreigingsactoren u online vinden.
• Wees op uw hoede voor phishing-berichten die ontworpen kunnen zijn om u te misleiden zodat u gevoelige persoonlijke informatie of logins op sociale media-accounts overhandigt.
• Laat kinderen en naaste familieleden geolocatietrackers downloaden zoals Zoek mijn iPhone.
• Als je gebeld wordt, houd de ‘ontvoerders’ aan de praat. Probeer tegelijkertijd de vermeende ontvoerder vanaf een andere lijn te bellen of iemand in de buurt te krijgen.
• Blijf kalm, deel geen persoonlijke informatie, en laat hen indien mogelijk een vraag beantwoorden die alleen de ontvoerder kent, en vraag hen om met hen te spreken.
• Waarschuw zo snel mogelijk de lokale politie.

Virtuele ontvoering is nog maar het begin. Maar blijf op de hoogte van de laatste oplichtingspraktijken en u maakt een goede kans om aanvallen in de kiem te smoren voordat ze ernstige emotionele problemen veroorzaken.