Trong thời đại mà ranh giới giữa thực tế và hư cấu ngày càng mờ nhạt, công nghệ deepfake đang đẩy những nhân vật tin tức đáng tin cậy vào tầm ngắm đáng lo ngại.

Theo Forbes gần đây báo cáo, các nhà báo nổi tiếng và các mạng truyền hình nổi tiếng giờ đây vô tình thấy mình là trung tâm của những câu chuyện tin tức bịa đặt, làm gia tăng lo lắng về sự gia tăng của thông tin sai lệch, đặc biệt là khi Hoa Kỳ tiến tới cuộc bầu cử năm 2024.

Bắt chước những điều quen thuộc để đưa thông tin sai lệch

Khả năng đáng báo động của công nghệ deepfake nằm ở khả năng điều khiển liền mạch hình ảnh và giọng nói của các nhân vật nổi tiếng, tạo ra nội dung có vẻ chân thực.

Những video này có thể không thể phân biệt được với các chương trình phát sóng tin tức hợp pháp đối với người xem không nghi ngờ. Điều này là do người đưa tin thường là người được công chúng tin tưởng hoặc công nhận.

Các phân đoạn tin tức deepfake, bao gồm cả những phân đoạn có TikTok và ngôi sao YouTube Krishna Sahay, đã sử dụng yếu tố tin cậy này để tạo ra nội dung gây hiểu lầm. Các video của Sahay, được cho là đã thu hút sự chú ý vì chế nhạo các sự kiện nghiêm trọng như vụ xả súng ở trường học và vụ tấn công ngày 11 tháng XNUMX, có sự xuất hiện của nhiều người dẫn chương trình tin tức nổi tiếng khác nhau.

Việc Krishna Sahay, người sáng tạo TikTok, sử dụng AI tổng hợp là….. một cái gì đó pic.twitter.com/hvBtpgIfp4

— Jules Terpak (@julesterpak) Tháng Tám 23, 2023

Bất chấp các nền tảng như TikTok có hành động chống lại nội dung gây hiểu lầm như vậy, những video này thường tìm đường quay trở lại trực tuyến và được đăng lại bởi những người dùng khác.

Tác động thực tế của lừa đảo kỹ thuật số

Phương tiện truyền thông bị thao túng như vậy không chỉ giới hạn ở các ngôi sao truyền thông xã hội. Mới đây, một video chân thực của CNN Clarissa Ward đã bị giả mạo, làm méo âm thanh để xuyên tạc tình hình mà cô tường thuật trực tiếp gần Israel-Gaza ranh giới. Kết quả là sự thể hiện sai lệch thực tế gây ra những rủi ro nghiêm trọng.

Ngoài ra, ảnh hưởng của những video deepfake này là đáng báo động. Ví dụ: một trong những phân đoạn bịa đặt của Sahay có Margaret Brennan của Face The Nation đã thu thập được hơn 300,000 lượt thích trên TikTok, vượt xa video chân thực phổ biến nhất trên tài khoản chính thức của Face The Nation, vốn chỉ tích lũy được 7,000 lượt thích.

Một cái nhìn thoáng qua về tương lai của cuộc bầu cử?

Với khả năng những tác động sâu sắc này sẽ tác động mạnh mẽ đến dư luận, ngày càng có nhiều lo ngại về tác động của chúng đối với các cuộc bầu cử trong tương lai. Kevin Goldberg, chuyên gia về Tu chính án thứ nhất, bày tỏ lo ngại về việc sử dụng những video như vậy như một công cụ cung cấp thông tin sai lệch mạnh mẽ, đặc biệt là khi Hoa Kỳ chuẩn bị cho cuộc bầu cử năm 2024. Tuy nhiên, ông cũng nhấn mạnh cần có cách tiếp cận cân bằng, cảnh báo không nên phản ứng thái quá.

Khi deepfake ngày càng tinh vi hơn, việc đảm bảo rằng công chúng luôn được cập nhật thông tin và phê bình nội dung của chúng trở thành điều tối quan trọng. Như Hany Farid, giáo sư chuyên về deepfake của UC Berkeley, đã chỉ ra:

“Chúng ta sẽ phải nghiêm túc hơn trong việc bảo vệ quyền lợi của những người có ngoại hình và giọng nói đang được đồng chọn.”

Xử lý pháp lý đối với deepfake

Để giải quyết những lo ngại ngày càng tăng xung quanh việc sao chép AI trái phép, một nhóm thượng nghị sĩ lưỡng đảng của Hoa Kỳ đã giới thiệu một dự thảo Luật, Đạo luật Nuôi dưỡng Bản gốc, Nuôi dưỡng Nghệ thuật và Giữ An toàn cho Giải trí (KHÔNG CÓ GIẢ). Đạo luật được đề xuất nhằm mục đích áp dụng hình phạt đối với các thực thể tạo hoặc lưu trữ các bản sao AI trái phép, với mức phạt bắt đầu từ 5,000 USD cho mỗi vi phạm. Tuy nhiên, dự luật có ngoại lệ đối với các trường hợp cụ thể được bảo vệ bởi Tu chính án thứ nhất, chẳng hạn như báo cáo tin tức hoặc châm biếm.

Thượng nghị sĩ Chris Coons đã gói gọn quan điểm này, nhấn mạnh sự cần thiết của Quốc hội để đạt được sự cân bằng. Ông đã tuyên bố một cách khéo léo rằng điều quan trọng là phải “bảo vệ quyền cá nhân, tuân thủ Bản sửa đổi thứ nhất và thúc đẩy sự đổi mới và sáng tạo của AI”.

Deepfakes là con dao hai lưỡi. Mặc dù chúng thể hiện những tiến bộ trong AI và công nghệ nhưng chúng cũng gây ra mối đe dọa đáng kể đối với tính toàn vẹn của tin tức và các nhân vật của công chúng.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://metanews.com/ai-manipulates-trusted-news-figures-into-delivering-fabricated-stories-forbes/