Escroqueries

La fraude téléphonique prend une tournure effrayante, car les fraudeurs peuvent exploiter l'IA pour causer de graves dommages émotionnels et financiers aux victimes.

Phil Muncaster

18 Jan 2024
 • 
,
4 minute. lis

C’est le pire cauchemar de tous les parents. Vous recevez un appel d’un numéro inconnu et, à l’autre bout du fil, vous entendez votre enfant crier à l’aide. Ensuite, leur « kidnappeur » entre en ligne et demande une rançon, sinon vous ne reverrez plus jamais votre fils ou votre fille. Malheureusement, c'est pas un scénario imaginé d'un film hollywoodien.

Au lieu de cela, il s’agit d’un exemple terrifiant des efforts déployés par les fraudeurs pour extorquer de l’argent à leurs victimes, en cooptant les nouvelles technologies à des fins néfastes. Cela montre également la qualité de Technologie de clonage vocal IA c’est désormais suffisamment convaincant pour tromper même les membres de la famille proche. Heureusement, plus les gens connaissent ces stratagèmes et savent ce qu'il faut surveiller, moins les fraudeurs par téléphone sont susceptibles de gagner de l'argent.

Comment fonctionne le kidnapping virtuel

Il existe plusieurs étapes clés dans une escroquerie typique d’enlèvement virtuel. D'une manière générale, ils sont les suivants :

• Les escrocs rechercher des victimes potentielles ils peuvent appeler et essayer d'extorquer de l'argent. Cette étape pourrait également être optimisée grâce à l’utilisation d’outils d’IA (nous en reparlerons plus tard).
• Les escrocs identifient une victime d’« enlèvement » – très probablement l’enfant de la personne qu’ils ont identifiée à l’étape 1. Ils pourraient le faire en parcourant leurs réseaux sociaux ou d’autres informations rendues publiques.
• Le groupe crée ensuite un scénario imaginé, en s’assurant de le rendre aussi pénible que possible pour la personne qu’il s’apprête à appeler. Plus vous avez peur, moins vous aurez de chances de prendre des décisions rationnelles. Comme toute bonne tentative d’ingénierie sociale, les escrocs veulent pour cette raison précipiter la prise de décision de la victime.
• Les fraudeurs pourraient alors effectuer des recherches open source supplémentaires pour calculer le meilleur moment pour appeler. Ils peuvent parcourir les réseaux sociaux ou d’autres sources pour résoudre ce problème. L'idée est de vous contacter à un moment où votre proche est ailleurs, idéalement en vacances, comme le fille de Jennifer DeStefano.
• Les escrocs créent ensuite des deepfakes audio et passent l’appel. À l’aide d’un logiciel facilement disponible, les escrocs créeront un son avec la « voix » de la victime et l’utiliseront pour tenter de vous convaincre qu’ils ont kidnappé un proche. Ils peuvent utiliser d’autres informations glanées sur les réseaux sociaux pour rendre l’arnaque plus convaincante, par exemple en mentionnant des détails sur le « kidnappé » qu’un étranger pourrait ne pas connaître.

Si vous tombez dans le piège de l’arnaque, il vous sera très probablement demandé de payer de manière non traçable, comme la cryptomonnaie.

Surcharger les enlèvements virtuels

Il existe des variations sur ce thème. Le plus préoccupant est le potentiel de ChatGPT et d’autres outils d’IA pour dynamiser les enlèvements virtuels en permettant aux fraudeurs de trouver plus facilement les victimes idéales. Annonceurs et spécialistes du marketing je l'ai depuis des années utilise des techniques de « modélisation de propension » pour transmettre les bons messages aux bonnes personnes et au bon moment.

L’IA générative (GenAI) pourrait aider les fraudeurs à faire de même, en recherchant les individus les plus susceptibles de payer s’ils sont exposés à une escroquerie virtuelle par enlèvement. Ils pourraient également rechercher des personnes dans une zone géographique spécifique, ayant des profils publics sur les réseaux sociaux et appartenant à un milieu socio-économique spécifique.

Une deuxième option consisterait à utiliser une attaque par échange de carte SIM contre le « kidnappé » afin de détourner son numéro de téléphone avant l’arnaque. Cela ajouterait une légitimité troublante à l’appel téléphonique pour enlèvement. Alors que DeStefano a finalement pu s'assurer que sa fille était en sécurité et en bonne santé, et donc raccrocher au nez de ses extorsionnistes, cela serait beaucoup plus difficile à faire si le proche de la victime est injoignable.

Quel avenir pour le clonage vocal

Malheureusement, la technologie de clonage vocal est déjà convaincante et inquiétante, tout comme notre récente expérience prouve. Et c’est de plus en plus accessible aux escrocs. Un rapport de renseignement de mai a mis en garde contre les outils légitimes de synthèse vocale qui pourraient être utilisés à mauvais escient et contre l'intérêt croissant pour la cybercriminalité clandestine pour le clonage vocal en tant que service (VCaaS). Si cette dernière décolle, elle pourrait démocratiser la capacité de lancer de telles attaques dans l’économie de la cybercriminalité, surtout si elle est utilisée en combinaison avec les outils GenAI.

En fait, à côté désinformation, la technologie deepfake est également utilisée pour compromettre la messagerie professionnelle (comme testé par notre propre Jake Moore) et Sextorsion Nous ne sommes qu'au début d'un long voyage.

Comment rester en sécurité

La bonne nouvelle est qu’un peu de connaissances peut grandement contribuer à dissiper la menace des deepfakes en général et des enlèvements virtuels en particulier. Il y a des choses que vous pouvez faire aujourd'hui pour minimiser les chances d'être sélectionné comme victime et de tomber dans le piège d'un appel frauduleux si cela se produit.

Tenez compte de ces conseils de haut niveau :

• Ne partagez pas trop d’informations personnelles sur les réseaux sociaux. C’est absolument crucial. Évitez de publier des détails tels que des adresses et des numéros de téléphone. Si possible, ne partage même pas de photos ou des enregistrements vidéo/audio de votre famille, et certainement pas des détails sur les projets de vacances de vos proches.
• Gardez vos profils de réseaux sociaux privés afin de minimiser les chances que des acteurs malveillants vous trouvent en ligne.
• Soyez à l'affût des messages de phishing qui pourrait être conçu pour vous inciter à transmettre des informations personnelles sensibles ou des connexions à des comptes de réseaux sociaux.
• Demandez aux enfants et à la famille proche de télécharger des trackers de géolocalisation comme Localiser mon iPhone.
• Si vous recevez un appel, laissez parler les « kidnappeurs ». Essayez en même temps d'appeler la personne présumée kidnappée à partir d'une autre ligne ou de contacter quelqu'un à proximité.
• Restez calme, ne partagez aucune information personnelle, et si possible, demandez-leur de répondre à une question que seul le kidnappé connaîtrait et demanderait à leur parler.
• Avertissez la police locale dès que possible.

Le kidnapping virtuel n’est qu’un début. Mais restez informé des dernières escroqueries et vous avez de bonnes chances d’étouffer les attaques dans l’œuf avant qu’elles ne provoquent une grave détresse émotionnelle.