Het is bijna twintig jaar geleden dat Weldong Xu, een 38-jarige professor aan Harvard, werd aangeklaagd bij de Roxbury District Court in Massachusetts. Zittend achter een plexiglas barrière, gekleed in een leren jas en een grote pilotenbril met dun montuur, werd hij geconfronteerd met een borgsom van $ 600,000.

Xu had een bedrag van zes cijfers binnengehaald door 35 van zijn vrienden, studenten en medewerkers te beloven dat hij geld zou inzamelen voor SARS-onderzoek. Eén van die 35 heeft zelfs een nieuwe hypotheek op zijn huis genomen om te helpen. Maar uiteindelijk stuurde Xu het geheel naar Nigeriaanse e-mailoplichters.

De Harvard-professor heeft nooit de 50 miljoen dollar ontvangen die hem in ruil daarvoor was beloofd. In de jaren daarna heeft zijn verhaal gediend als een parabel voor degenen die denken dat ze te slim zijn om in een simpele oplichterij te trappen.

Intelligentie op zichzelf is niet genoeg, en niets wat we de afgelopen twintig jaar hebben geprobeerd – niet de spamfilters, de bewustmakingsinitiatieven voor phishing of de volwassenheid die gepaard gaat met meer collectieve tijd en ervaring die met internet wordt doorgebracht – is erin geslaagd mensen vast te houden om niet voor deze oudste truc uit het boek te vallen.

Nog in 2019, volgens ADTverloren Amerikanen meer dan $700,000 aan Nigeriaanse Prince-zwendel (voorheen aangeduid met de minder cultureel geladen naam ‘voorschotfraude’). En ook bedrijven zijn niet immuun. Abnormale beveiliging eerder deze maand rapporteerde het volgen van meer dan 1,000 aanvallen met voorschotten gericht op organisaties, vanuit ongeveer 70 unieke e-maildomeinen.

Mijn naam is mevrouw Rita Dominic, een staatsburger van India, gevestigd in mijn adoptieland Ivoorkust. Eigenlijk lig ik in het ziekenhuis vanwege mijn kankerziekte en heb ik contact met u opgenomen over deze gelofte.

Het probleem wordt alleen maar erger. Criminelen adopteren al generatieve AI om overtuigender verhalen te schrijven met een betere grammatica, op een schaal die nog nooit eerder haalbaar was.

Of misschien maakt dat geen enkel verschil. Misschien zullen juist de eigenschappen die generatieve AI zo nuttig maken voor andere phishers ervoor zorgen dat oplichting vooraf tot het verleden behoort.

Hoe de voorschotfraude werkt

Je hoeft niet te diep in je eigen inbox te graven om een ​​voorbeeld van een e-mail met vooruitbetaling te vinden.

“Ik heb er vanochtend een gekregen”, zegt Deborah Schaffer, emeritus hoogleraar Engels aan de Montana State University Billings, aan het begin van het interview. “Het was een mooi stukje serendipiteit.”

In 2012 publiceerde Schaffer een onderzoek naar de taalkundige kenmerken van e-mails met vooruitbetaling, die in de tien jaar daarna geen jota zijn veranderd. Het uitgangspunt is bekend: er is ergens een grote som geld, en tegen een kleine vergoeding vooraf kan de gelukkige ontvanger van de e-mail de schrijver helpen het geld te bemachtigen en vervolgens de meevaller delen. "De inhoud legt meestal net genoeg uit over de situatie van de afzender, zodat het klinkt alsof het heel belangrijk kan zijn", legt Schaffer uit.

Ik heb een dringende projectdonatie van 5.5 miljoen dollar.

“Er is altijd een element van urgentie – ‘reageer alstublieft onmiddellijk’, dat soort dingen,” vervolgt ze.

“Overheidsfunctionarissen, geheime bankrekeningen – we hebben hulp nodig om dit geld het land uit te krijgen, of om in jouw land te investeren.”

“Ze verontschuldigen zich bijna altijd als ze de aandacht van de lezer trekken, maar ze hebben iets dat te mooi is om te laten liggen.”

“De begroeting is altijd beleefd en doet soms openlijk een beroep op bepaalde interesses, zoals religieuze interesse.”

Deze zelfde basisstructuur heeft gewerkt al lang vóór het internet. “Het is te gemakkelijk voor mensen om te zeggen: 'Nou, ik hoef geen ja te zeggen, ik vraag gewoon om wat meer informatie.' En als ze dat eenmaal doen, hebben ze de deur geopend voor allerlei overtuigingsstrategieën die bij veel mensen zullen werken, tenzij ze voortdurend op hun hoede zijn”, legt Schaffer uit.

En ik wil dit project aan u overdragen als u mij terug kunt bereiken, aangezien mijn situatie hier in het ziekenhuis mij niet toestaat om door te gaan met dit goddelijke project

“Maar,” voegt ze eraan toe, “veel van deze brieven – en hier denk ik dat AI de zaken gaat veranderen – zijn slechts dode weggeefacties en zijn niet geschreven door moedertaalsprekers van het Engels.”

Hoe generatieve AI de oplichting met voorschotten kan stimuleren

Zoals velen ziet Schaffer ChatGPT als een keerpunt in de geschiedenis. “Ik ben ervan overtuigd dat generatieve AI alles gaat beïnvloeden – elke vorm van communicatie, elke manier waarop mensen over de wereld denken en met elkaar communiceren”, voorspelt de levenslange Engelse wetenschapper.

Ondanks alle positieve toepassingen stellen AI-chatbots cybercriminelen nu al in staat om dit te doen schrijf sneller overtuigender phishing-materiaal. Mensen als “Mevr. Rita Dominic” zal hier enorm van profiteren.

“Ik heb e-mails gekregen van mensen die zeggen dat ze in Engeland of Australië zijn, en dat ze duidelijk geen moedertaalsprekers van het Engels zijn. Dat zijn net genoeg waarschuwingssignalen om lezers te laten pauzeren en te zeggen: 'Wacht, is dit legitiem?'” legt Schaffer uit. Binnenkort zal die rode vlag echter verborgen zijn. “Ik vermoed dat AI alles gaat opruimen. Je zult zien dat dingen consistent in goed Engels en Pools zijn geschreven, passend bij je eigen dialect.

Hoe waarschijnlijk dit ook klinkt, het is echter niet noodzakelijkerwijs een gegeven dat beter schrijven daadwerkelijk oplichters met voorschotten zou helpen.

En ik hoop van u te horen zodra u deze mail ontvangt voor meer procedures. Verzeker mij ervan dat u dienovereenkomstig zult handelen, zoals ik hierin heb verklaard. Ik hoop onmiddellijk uw reactie te ontvangen met uw volledige contactgegevens

Zal generatieve AI oplichters daadwerkelijk helpen?

Twee maanden na de publicatie van Schaffers artikel bood een ander artikel een andere kijk op taalkunde met voorschotten. In "Waarom zeggen Nigeriaanse oplichters dat ze uit Nigeria komen?”, stelde een Microsoft-onderzoeker dat de voor de hand liggende aard van de zwendel eigenlijk het punt ervan is.

“Een e-mail met verhalen over fantastische geldbedragen en West-Afrikaanse corruptie zal op de meest goedgelovigen na als bizar overkomen”, schreef de onderzoeker. Maar dit, zo suggereerde hij, was opzettelijk. “Aangezien [de] aanval een laag aantal slachtoffers kent, heeft de Nigeriaanse oplichter een allesoverheersende behoefte om het aantal valse positieven te verminderen. Door een e-mail te sturen die iedereen, behalve de meest goedgelovigen, afstoot, krijgt de oplichter de meest veelbelovende cijfers om zelf te selecteren, en kantelt hij de verhouding tussen waar en vals positief in zijn voordeel.

Door deze logica kunnen eventuele fouten, vergissingen of andere waarschuwingssignalen in de inhoud van een e-mail met een voorschot alleen maar dienen om de doelwitten van de oplichter te filteren, waardoor hun werk efficiënter wordt. De belofte van AI van schoner proza ​​en betere verhalen is dus misschien niet eens een positief resultaat.

Schaffer van haar kant gaat niet helemaal akkoord met deze redenering: “Het is een zeer overtuigende theorie. Ik geloof er wel in, maar tegelijkertijd denk ik dat veel oplichters hun best doen en dat ze gewoon geen experts zijn op het gebied van taalmanipulatie en beheersing van het Engels.”

Of generatieve AI uiteindelijk de oplichting met voorschotten volledig revolutioneert of volledig omzeilt, de manier waarop we er allemaal mee zullen moeten omgaan zal hetzelfde zijn. "Mensen moeten meer te weten komen over de soorten oplichting die ze in welke vorm dan ook tegenkomen, en over de strategieën om deze te doorlichten", benadrukt Schaffer.

Dankzij je zuster in Christus

“Als er een tijd is geweest waarin onderwijs voor de hele wereld van groter belang is geweest, weet ik niet wanneer dat het geval was. Op dit moment moeten we allemaal leren hoe we onszelf kunnen beschermen”, besluit ze.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://www.darkreading.com/edge/will-generative-ai-kill-nigerian-prince-scam