Ủy ban Thương mại Liên bang (FTC) đang hứa hẹn phần thưởng trị giá 25,000 đô la cho giải pháp tốt nhất để chống lại mối đe dọa ngày càng tăng của việc nhân bản giọng nói AI.

Đôi khi được gọi là âm thanh giả mạo sâu, số lượng dịch vụ trực tuyến cung cấp phương tiện nhân bản giọng nói dễ sử dụng đã tăng lên kể từ khi AI tổng hợp trở nên phổ biến, làm dấy lên mối lo ngại về khả năng lạm dụng nó trong các cuộc tấn công mạng.

Ví dụ: một mối đe dọa phổ biến có thể liên quan đến việc giả mạo giọng nói của các CEO để mạo danh họ và hướng dẫn bộ phận tài chính chuyển tiền vào tài khoản của kẻ tấn công. Bạn bè và gia đình cũng có thể bị lừa gửi tiền cho người thân và nghệ sĩ biểu diễn sinh kế của họ có thể bị đe dọa nếu công nghệ tiếp tục phát triển.

Các bên quan tâm có thời hạn đến ngày 12 tháng XNUMX để gửi ý tưởng của mình nhằm giúp giải quyết gian lận nhân bản giọng nói dựa trên AI, tập trung chủ yếu vào việc ngăn chặn, giám sát và đánh giá công nghệ.

“Nỗ lực này có thể giúp thúc đẩy các ý tưởng nhằm giảm thiểu rủi ro ở thượng nguồn – bảo vệ người tiêu dùng, chuyên gia sáng tạo và doanh nghiệp nhỏ trước tác hại của việc sao chép giọng nói trước khi tác hại đến với người tiêu dùng,” FTC nói. 

“Nó cũng có thể giúp thúc đẩy các ý tưởng nhằm giảm thiểu rủi ro ở cấp độ người tiêu dùng. Và nếu những ý tưởng khả thi không xuất hiện, điều này sẽ gửi cảnh báo sớm và quan trọng tới các nhà hoạch định chính sách rằng họ nên xem xét các giới hạn chặt chẽ hơn đối với việc sử dụng công nghệ này, trước thách thức trong việc ngăn chặn sự phát triển có hại của các ứng dụng trên thị trường.”

Các đệ trình sẽ được đánh giá dựa trên mức độ khả thi trong việc thực thi và quản lý, mức độ phục hồi trước những thay đổi công nghệ và mức độ cân nhắc kỹ lưỡng về trách nhiệm pháp lý và trách nhiệm đối với các công ty, cùng với các biện pháp khác.

Giải thưởng cao nhất được đưa ra là 25,000 USD, nghe có vẻ không giống một mỏ vàng khi xét đến những ứng dụng rộng rãi tiềm năng mà một giải pháp khéo léo có thể có.

Một người về nhì cũng sẽ nhận được 4,000 USD, ba người được đề cập danh dự sẽ được trả 2,000 USD cho mỗi người vì những rắc rối của họ và các tổ chức từ 10 người trở lên sẽ nhận được giải thưởng công nhận không dùng tiền mặt.

Lạm dụng giọng nói AI đang hoạt động

Hiệu quả của việc nhân bản giọng nói AI đã được chứng minh trong nhiều trường hợp lặp lại trong năm qua. Các chuyên gia tại cửa hàng bảo mật Slovakia ESET cho thấy làm thế nào có thể thực hiện được ví dụ nói trên về các CEO giả mạo.

Trên thực tế, nó đã là một vấn đề trong nhiều năm trước khi AI có thể tạo ra đến tay người bình thường. Một công ty năng lượng của Anh đã tiêu hết 243,000 USD vào năm 2019 sau khi Giám đốc điều hành của công ty được chỉ thị gửi một khoản tiền lớn cho một nhà cung cấp Hungary.

Một tờ New York Times báo cáo, một lần nữa từ 12 tháng trước, trình bày chi tiết một loạt trường hợp nhắm mục tiêu thành công vào lĩnh vực tài chính, lừa các ngân hàng chuyển tiền từ những người mà họ tin là khách hàng thực sự. El Reg cũng đã đưa tin tương tự các cuộc tấn công diễn ra ở UAE như xa trở lại như 2021.

Lừa đảo tình cảm cũng tràn lan, trong đó có một người Anh phải lòng một Kevin Costner giả mạo, và bọn tội phạm cũng đã cho thấy chúng không ngại thực hiện Lừa đảo “khẩn cấp gia đình” – chẳng hạn như những mục tiêu nhắm vào các bậc cha mẹ bằng giọng nói nhân bản của con cái họ xin tiền để được tại ngoại.

Hơn ví dụ nham hiểm đã chứng kiến ​​những bà mẹ nhận cuộc gọi từ con gái họ bị “những kẻ bắt cóc” bắt làm con tin và đòi những khoản tiền chuộc khổng lồ.

Việc nhân bản giọng nói có thể thực hiện được bằng cách cung cấp cho mô hình AI đủ dữ liệu đào tạo để hiểu âm thanh, âm sắc, nhịp độ, biến điệu và các sắc thái khác trong giọng nói của một cá nhân. Những người nổi tiếng và các nhân vật của công chúng khác được cho là có nguy cơ cao bị các cuộc tấn công này do số lượng bản ghi âm giọng nói của họ tồn tại trực tuyến.

Với sự phát triển của văn hóa sáng tạo nội dung video và mạng xã hội, nhiều người không nổi tiếng và thậm chí cả trẻ em cũng có đủ tài liệu trực tuyến để đào tạo người mẫu một cách hiệu quả.

Các nhà nghiên cứu của Kaspersky đã xem xét sự gia tăng của việc nhân bản giọng nói AI vào năm ngoái và phát hiện ra rất nhiều công cụ nguồn mở, có sẵn miễn phí có thể tạo ra giọng nói nhân bản bằng công nghệ AI. Tuy nhiên, họ cho rằng để có được một bản sao thuyết phục và chạy được, cần phải có một chút bí quyết về Python và một chút mày mò về phần của người sao chép.

Tuy nhiên, các dịch vụ trả phí có xu hướng hiệu quả hơn nhiều. Các nhà nghiên cứu chỉ ra Mô hình VALL-E của Microsoft được cho là có thể tạo ra một bản sao tốt chỉ với ba giây âm thanh giọng nói được sử dụng làm dữ liệu huấn luyện.

Ngoài ra còn có các giải pháp trả phí khác hoạt động tốt hơn các giải pháp miễn phí, nhưng chúng vẫn chỉ ở giai đoạn phát triển ban đầu, vì vậy chúng ta có thể mong đợi độ chính xác và hiệu quả của các mô hình này sẽ cải thiện theo thời gian. ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/