Scams

Terwijl AI-aangedreven stemklonen de oplichting van bedriegers een boost geeft, praten we met Jake Moore van ESET om te bespreken hoe we 'hifi'-oplichtingsoproepen kunnen ophangen – en wat de toekomst in petto heeft voor de detectie van deepfake

Cameron Kamp

Januari 23 2024
 • 
,
4 minuut. lezen

Zou u trappen in een vals telefoontje van uw CEO waarin u wordt gevraagd geld over te maken? Als onze collega Jake Moore kwam erachter, misschien wel. Naarmate computers met extra rekencycli steeds meer trainingsgegevens krijgen, worden deepfakes steeds beter. Geef ze een lange CEO-toespraak en ze verwerven stembuigingen, toon en andere genuanceerde spraakpatronen die hen uiteindelijk behoorlijk overtuigend kunnen maken.

Nu, in ieder geval in de VS, is er een wedstrijd om de nep te doorbreken, en hopelijk manieren vinden om verdedigingssystemen te voorzien van manieren om een ​​gerelateerde aanval te dwarsbomen. De uitdaging van de Federal Trade Commission (FTC) zorgde ervoor dat concurrenten alle technologie die ze konden vinden, in elkaar hackten om stemvervalsingen te dwarsbomen en een prijs van $ 25,000 te winnen.

Wedstrijden zijn voor van alles gebruikt, van ruimtepakontwerpen tot zelfrijdende voertuigen tot zonne-energietechnologieën, en zijn nu bedoeld om de interesse en nieuwkomers in de deepfake-verdedigingsarena te vergroten, met als doel een race te creëren om consumenten te beschermen tegen schade door AI-gestuurde stemklonen. Zodra u zich via het portaal heeft aangemeld, kunnen uw ideeën concurreren met andere benaderingen om hopelijk het goud mee naar huis te nemen.

Ik vraag me nog steeds af of dat iemand als Jake kan tegenhouden, dus vroeg ik het hem.

Vraag: Zullen bedrijven zich tegen deze dreiging kunnen verdedigen met behulp van de huidige, algemeen beschikbare technologieën (en zo ja, welke)?

Jake: Helaas denk ik niet dat het antwoord nog ligt in technologieën voor tegenmaatregelen om dit evoluerende probleem te bestrijden. We bevinden ons nog steeds in de kinderfase van dit nieuwe AI-tijdperk en veel bedrijven koesteren het idee van de goede, slechte en lelijke toepassingen en hun mogelijkheden. Technologie wordt voortdurend ontwikkeld om mensen in nood te helpen, maar zoals in elke kinderfase van een nieuwe technologie kan het snelle tempo van een dergelijke beweging de verschuiving in de illegale eisen bij het gebruik ervan om mensen en bedrijven op te lichten niet bijhouden.

Vraag: Dezelfde vragen voor individuen, denk aan oplichting door gepensioneerden, oplichting op romantiek en dergelijke?

Jake: AI heeft oplichters in staat gesteld hun acties op veel grotere schaal uit te voeren dan voorheen, wat betekent dat het getallenspel alleen maar groter is geworden. Wanneer meer mensen het doelwit zijn, zijn de beloningen veel groter en zonder echte extra inspanningen van de fraudeurs.

Individuen moeten echter alerter blijven op alle vormen van oplichting – van klassieke fraude tot de huidige trends. Vooral nu het klonen van stemmen en het met opvallende nauwkeurigheid deepfaken van gelijkenissen is ontstaan, moeten mensen stoppen met dat denken zien (en horen) is geloven. Als we ons ervan bewust blijven dat dergelijke oplichting mogelijk is, zullen degenen die het doelwit zijn, het vertrouwen krijgen om dergelijke communicatie met meer onderzoek in twijfel te trekken en hen leren niet bang te zijn om hun daden in twijfel te trekken.

Er is veel advies op internet dat voorlichtingsadvies biedt over dergelijke oplichting, en mensen moeten zich voortdurend vernieuwen met de nieuwste informatie om beschermd te worden en te blijven.

Q: Wat kunnen institutionele fraudebestrijdingsteams doen om aanvallen op hun gebruikers/klanten af ​​te zwakken, en wie moet betalen als mensen worden opgelicht?

Jake: Standaard moeten antifraudeteams tegen elke prijs training aanbieden, die zowel jaarlijks als ad hoc moet zijn voor alle leden van een organisatie. Simulatieaanvallen en war-gaming helpen ook om de boodschap op een interessante manier over te brengen en een serieuze kwestie in een interessantere dynamiek te brengen, waardoor mislukking in een veilige omgeving mogelijk wordt gemaakt.

Zodra mensen het idee van een moderne aanval hebben ervaren en uit de eerste hand getuige zijn geweest van de omvang van deze nieuwe technologie, zullen ze zich het advies eerder herinneren op het moment van een echte aanval. AI is nog steeds erg indrukwekkend, dus het zien van deepfakes in een veilige omgeving biedt de mogelijkheid om de potentieel gevaarlijke resultaten die het kan opleveren te laten zien zonder al te veel angst te creëren.

Vraag: Dit is duidelijk een kat-en-muisspel, dus wie zal er winnen?

Jake: Sinds het begin is er een achtervolging geweest tussen “politie en overvallers”, waarbij de overvallers meestal een paar stappen voor zijn. Naarmate de technologie verbetert, moeten we er echter voor zorgen dat we niet achterop raken en een nog groter voordeel aan de oplichters overhandigen.

Het is van cruciaal belang dat mensen over de juiste middelen en kennis beschikken om deze onvermijdelijke stakingen het beste te kunnen bestrijden, zodat fraudeurs niet altijd winnen. Door op de hoogte te blijven van de nieuwste aanvalsvectoren en zich ontwikkelende vormen van oplichting, hebben individuen en bedrijven de beste kansen om zich te verdedigen tegen deze nieuwe golf van technologische aanvallen.

Eén ding is zeker: dit is niet langer een theoretische dreiging. Verwacht dat 2024 en daarna het moment zal zijn waarop oplichters nieuwe geautomatiseerde manieren zullen vinden om spraakgestuurde aanvallen zeer snel uit te voeren, vooral als reactie op rampzalige gebeurtenissen waarbij een vertrouwde functionaris u “vraagt” om iets te doen. Het zal allemaal overtuigend klinken, compleet met een vleugje urgentie en met wat lijkt op auditieve meerfactorauthenticatie, maar je kunt nog steeds worden opgelicht, zelfs als je ‘persoonlijk van een functionaris hebt gehoord’.

Bedankt voor je tijd, Jake.