Các nhà nghiên cứu tiết lộ, khi các nhà phát triển AI tiếp tục tinh chỉnh các mô hình của họ đến mức tinh vi, việc phân biệt giữa hình ảnh thật và sáng tạo AI cũng ngày càng trở nên khó khăn.

Một nghiên cứu của các nhà nghiên cứu tại trường đại học Waterloo chứng minh rằng mọi người đang gặp khó khăn trong việc tìm ra hình ảnh của người thật và của người do AI tạo ra.

Dưới ngưỡng dự kiến

Khi thực hiện nghiên cứu, các nhà nghiên cứu tại Đại học Waterloo đã cung cấp 20 bức ảnh không nhãn cho 260 người tham gia. Một nửa số ảnh là người thật được chụp từ Google Images trong khi nửa còn lại là do AI tạo ra bằng các công cụ như Dall-E và Khuếch tán ổn định.

Sau đó, những người tham gia được yêu cầu dán nhãn cho các hình ảnh, nếu chúng là thật hoặc do AI tạo ra, để giải thích cho câu trả lời của họ.

Mặc dù 61% người tham gia có thể nhận ra sự khác biệt giữa hình ảnh thật và hình ảnh do AI tạo ra, nhưng tỷ lệ này vẫn thấp hơn nhiều so với ngưỡng 85% dự kiến.

Trong khi xem xét kỹ lưỡng các hình ảnh, những người tham gia chú ý đến các chi tiết như mắt, ngón tay, răng và các chỉ số khác cho thấy khi tìm kiếm hình ảnh do AI tạo ra, nhưng “đánh giá của họ không phải lúc nào cũng chính xác”.

“Mọi người không giỏi trong việc tạo ra sự khác biệt như họ nghĩ,” nói tác giả chính của nghiên cứu Andrea Pocol, người cũng là nghiên cứu sinh tiến sĩ về Khoa học máy tính tại trường đại học.

Mặc dù người dùng Internet có thể xem các hình ảnh lướt qua nhưng các nhà nghiên cứu của Waterloo cho biết họ cho phép người tham gia dành thời gian để phân tích các hình ảnh.

Pocol cho biết: “Những người chỉ lướt qua hoặc không có thời gian sẽ không nhận ra những tín hiệu này.

Ngoài ra đọc: Giám đốc điều hành Leonardo nhấn mạnh sự ngu ngốc của người dùng trước các mối đe dọa AI tại Davos

Lạm dụng công nghệ

Của họ nghiên cứu, có tiêu đề “Không còn tin tưởng nữa: Một cuộc khảo sát về tình trạng của Deepfakes, Con người do AI tạo ra và các phương tiện phi thực tế khác,” xuất hiện trên tạp chí Những tiến bộ trong đồ họa máy tính, cũng nêu bật những rủi ro liên quan đến những tiến bộ trong công nghệ AI tạo ra .

Các nhà nghiên cứu cũng lo ngại về tốc độ công nghệ AI tổng hợp đang thay đổi nhanh chóng, ngày càng tinh vi hơn mỗi ngày. Nghiên cứu học thuật và pháp luật không theo kịp sự phát triển của ngành công nghiệp sáng tạo.

Pocol cho biết hình ảnh AI ngày càng trở nên chân thực hơn khiến một số người khó có thể dễ dàng phân biệt giữa hình ảnh thật và hình ảnh do AI tạo ra. Pocol cho biết, điều này đang tạo ra mảnh đất màu mỡ cho những kẻ xấu lợi dụng công nghệ để truyền bá ác ý và duy trì thông tin sai lệch hoặc lừa gạt mọi người.

Pocol nói: “Thông tin sai lệch không phải là mới, nhưng các công cụ đưa thông tin sai lệch đã liên tục thay đổi và phát triển.

“Có thể đến mức mọi người, dù được đào tạo đến đâu, vẫn sẽ gặp khó khăn trong việc phân biệt hình ảnh thật và giả. Đó là lý do tại sao chúng ta cần phát triển các công cụ để xác định và chống lại điều này. Nó giống như một cuộc chạy đua vũ trang AI mới.”

Các nhà nghiên cứu cũng thừa nhận những thách thức mà công nghệ đặt ra, đặc biệt là khi nói đến sự lan truyền của deepfake.

Công nghệ rơi vào tay kẻ xấu

Với những khó khăn mà người bình thường gặp phải trong việc phân biệt giữa hình ảnh thật và hình ảnh giả, ngày càng có nhiều lo ngại về sự gia tăng lan truyền của các tác phẩm deepfake. Các chuyên gia đã cảnh báo những kẻ xấu sẽ lợi dụng công nghệ AI tiên tiến để truyền bá những thông tin sai lệch về bầu cử nhằm đánh lừa cử tri.

Sản phẩm Trung tâm chống lại sự căm ghét kỹ thuật số (CCDH), một tổ chức phi lợi nhuận giám sát lời nói căm thù trực tuyến đã cảnh báo trong báo cáo của họ rằng các trình tạo hình ảnh được hỗ trợ bởi AI đang làm trầm trọng thêm thông tin sai lệch về cuộc bầu cử năm 2024.

Các nhà nghiên cứu của CCDH cho biết trong báo cáo của họ: “Khả năng những hình ảnh do AI tạo ra như vậy đóng vai trò là 'bằng chứng hình ảnh' có thể làm trầm trọng thêm sự lan truyền của các tuyên bố sai sự thật, đặt ra thách thức đáng kể trong việc duy trì tính toàn vẹn của các cuộc bầu cử”.

Tuy nhiên, điều này được đưa ra trong bối cảnh có thông báo rằng khoảng 20 công ty công nghệ lớn bao gồm OpenAI, Microsoft và AI ổn định đã ký một thỏa thuận cùng nhau hợp tác để ngăn chặn nội dung lừa đảo AI “can thiệp vào cuộc bầu cử diễn ra trên toàn cầu trong năm nay.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/