Scams

Lừa đảo qua điện thoại có một bước ngoặt đáng sợ khi những kẻ lừa đảo có thể khai thác AI để gây ra thiệt hại nghiêm trọng về mặt tinh thần và tài chính cho nạn nhân

Phil Muncaster

18 Jan 2024
 • 
,
4 phút đọc

Đó là cơn ác mộng tồi tệ nhất của mọi bậc cha mẹ. Bạn nhận được cuộc gọi từ số lạ và ở đầu dây bên kia bạn nghe thấy tiếng con bạn đang kêu cứu. Sau đó, 'kẻ bắt cóc' của họ đến đòi tiền chuộc nếu không bạn sẽ không bao giờ gặp lại con trai hoặc con gái mình. Thật không may, đây là không phải là một kịch bản tưởng tượng từ một bộ phim Hollywood.

Thay vào đó, đó là một ví dụ đáng sợ về khoảng thời gian mà những kẻ lừa đảo hiện có thể thực hiện để tống tiền nạn nhân, đồng thời sử dụng công nghệ mới cho các mục đích bất chính. Nó cũng thể hiện chất lượng của Công nghệ nhân bản giọng nói AI điều đó hiện đã đủ thuyết phục để lừa cả những người thân trong gia đình. May mắn thay, càng có nhiều người biết về những âm mưu này và những điều cần chú ý thì những kẻ lừa đảo qua điện thoại càng ít có khả năng kiếm được tiền.

Vụ bắt cóc ảo diễn ra như thế nào

Có một số giai đoạn chính của một vụ lừa đảo bắt cóc ảo điển hình. Nói rộng ra thì chúng như sau:

• Những kẻ lừa đảo nghiên cứu nạn nhân tiềm năng họ có thể gọi điện và cố gắng tống tiền. Giai đoạn này cũng có thể được tối ưu hóa bằng cách sử dụng các công cụ AI (sẽ nói thêm về điều này sau).
• Những kẻ lừa đảo xác định nạn nhân 'bắt cóc' - rất có thể là con của người mà chúng đã xác định ở giai đoạn 1. Chúng có thể làm điều này bằng cách tìm kiếm trên mạng xã hội của chúng hoặc các thông tin công khai khác.
• Sau đó, nhóm tạo ra một kịch bản tưởng tượng, đảm bảo khiến người mà họ sắp gọi điện cảm thấy khó chịu nhất có thể. Bạn càng sợ hãi thì bạn càng ít có khả năng đưa ra những quyết định hợp lý. Giống như bất kỳ nỗ lực kỹ thuật xã hội tốt nào, những kẻ lừa đảo muốn thúc đẩy nạn nhân đưa ra quyết định vì lý do này.
• Sau đó, những kẻ lừa đảo có thể thực hiện một số nghiên cứu nguồn mở hơn để tính toán thời điểm tốt nhất để gọi điện. Họ có thể lùng sục trên mạng xã hội hoặc các nguồn khác để giải quyết vấn đề này. Ý tưởng là liên hệ với bạn vào thời điểm người thân của bạn đang ở nơi khác, lý tưởng nhất là vào kỳ nghỉ, chẳng hạn như con gái của Jennifer DeStefano.
• Sau đó, những kẻ lừa đảo tạo ra các đoạn âm thanh sâu và thực hiện cuộc gọi. Bằng cách sử dụng phần mềm có sẵn, những kẻ lừa đảo sẽ tạo ra âm thanh bằng 'giọng nói' của nạn nhân và sử dụng nó để thuyết phục bạn rằng chúng đã bắt cóc một người thân. Họ có thể sử dụng thông tin khác thu thập được từ mạng xã hội để khiến trò lừa đảo nghe có vẻ thuyết phục hơn, chẳng hạn như bằng cách đề cập đến các chi tiết về ‘vụ bắt cóc’ mà một người lạ có thể không biết.

Nếu rơi vào bẫy lừa đảo, rất có thể bạn sẽ được yêu cầu thanh toán theo cách không thể truy nguyên, chẳng hạn như tiền điện tử.

Tăng cường bắt cóc ảo

Có nhiều biến thể về chủ đề này. Điều đáng lo ngại nhất là khả năng ChatGPT và các công cụ AI khác tăng cường bắt cóc ảo bằng cách giúp những kẻ lừa đảo dễ dàng tìm thấy nạn nhân lý tưởng hơn. Các nhà quảng cáo và tiếp thị có trong nhiều năm đang sử dụng kỹ thuật “mô hình hóa xu hướng” để truyền tải đúng thông điệp đến đúng người vào đúng thời điểm.

AI sáng tạo (GenAI) có thể giúp những kẻ lừa đảo làm điều tương tự, bằng cách tìm kiếm những cá nhân có nhiều khả năng trả tiền nhất nếu gặp phải một vụ lừa đảo bắt cóc ảo. Họ cũng có thể tìm kiếm những người trong một khu vực địa lý cụ thể, có hồ sơ công khai trên mạng xã hội và có nền tảng kinh tế xã hội cụ thể.

Lựa chọn thứ hai là sử dụng một cuộc tấn công hoán đổi SIM đối với 'kẻ bắt cóc' để chiếm đoạt số điện thoại của họ trước khi lừa đảo. Điều này sẽ tăng thêm tính hợp pháp đáng lo ngại cho cuộc điện thoại bắt cóc. Trong khi DeStefano cuối cùng đã có thể chắc chắn rằng con gái cô vẫn an toàn và khỏe mạnh, và do đó từ chối những kẻ tống tiền, điều này sẽ khó thực hiện hơn nhiều nếu không thể liên lạc được với người thân của nạn nhân.

Tương lai của việc nhân bản giọng nói là gì

Thật không may, công nghệ nhân bản giọng nói đã có sức thuyết phục đáng lo ngại. thí nghiệm gần đây của chúng tôi chứng minh. Và nó ngày càng dễ tiếp cận với những kẻ lừa đảo. MỘT báo cáo tình báo từ tháng 5 đã cảnh báo về các công cụ chuyển văn bản thành giọng nói hợp pháp có thể bị lạm dụng và mối quan tâm ngày càng tăng đối với tội phạm mạng ngầm trong dịch vụ nhân bản giọng nói (VCaaS). Nếu sau này thành công, nó có thể dân chủ hóa khả năng thực hiện các cuộc tấn công như vậy trên nền kinh tế tội phạm mạng, đặc biệt nếu được sử dụng kết hợp với các công cụ GenAI.

Trên thực tế, bên cạnh làm mất thông tin, công nghệ deepfake cũng đang được sử dụng để xâm phạm email doanh nghiệp (như đã được thử nghiệm bởi Jake Moore của chúng tôi) và nội dung Chúng ta chỉ mới bắt đầu một cuộc hành trình dài.

Làm thế nào để giữ an toàn

Tin tốt là một chút kiến ​​thức có thể giúp bạn giảm bớt mối đe dọa từ deepfake nói chung và bắt cóc ảo nói riêng. Có những điều bạn có thể làm ngay hôm nay để giảm thiểu nguy cơ bị chọn làm nạn nhân và rơi vào bẫy lừa đảo nếu điều đó xảy ra.

Hãy xem xét những lời khuyên cấp cao sau:

• Đừng chia sẻ quá nhiều thông tin cá nhân trên mạng xã hội. Điều này là hoàn toàn quan trọng. Tránh đăng các chi tiết như địa chỉ và số điện thoại. Nếu có thể, thậm chí không chia sẻ ảnh hoặc các bản ghi video/âm thanh của gia đình bạn và chắc chắn không phải thông tin chi tiết về kế hoạch kỳ nghỉ của những người thân yêu.
• Giữ hồ sơ truyền thông xã hội của bạn ở chế độ riêng tư để giảm thiểu khả năng các tác nhân đe dọa tìm thấy bạn trực tuyến.
• Hãy cảnh giác với những tin nhắn lừa đảo có thể được thiết kế để lừa bạn cung cấp thông tin cá nhân nhạy cảm hoặc đăng nhập vào tài khoản mạng xã hội.
• Yêu cầu trẻ em và gia đình thân thiết tải xuống trình theo dõi vị trí địa lý chẳng hạn như Tìm iPhone của tôi.
• Nếu bạn nhận được cuộc gọi, hãy tiếp tục nói chuyện với 'kẻ bắt cóc'. Đồng thời cố gắng gọi cho kẻ bị cáo buộc bắt cóc từ một đường dây khác hoặc nhờ ai đó ở gần.
• Hãy bình tĩnh, không chia sẻ bất kỳ thông tin cá nhân nào, và nếu có thể hãy yêu cầu họ trả lời một câu hỏi mà chỉ kẻ bắt cóc mới biết và yêu cầu được nói chuyện với họ.
• Hãy báo cho cảnh sát địa phương càng sớm càng tốt.

Vụ bắt cóc ảo chỉ là sự khởi đầu. Nhưng hãy cập nhật những trò gian lận mới nhất và bạn có cơ hội ngăn chặn các cuộc tấn công ngay từ đầu trước khi chúng gây ra tổn thương tinh thần nghiêm trọng.