YouTube sẽ sớm yêu cầu người sáng tạo nội dung gắn nhãn các video được tạo bằng AI hoặc các công cụ kỹ thuật số khác như một phần trong nỗ lực chống lại các hành vi deepfake có thể gây hiểu lầm cho người xem, công ty cho biết trong bản cập nhật chính sách mới được công bố ngày 14 tháng XNUMX.

Trang web lưu trữ video cảnh báo rằng những người sáng tạo không làm như vậy có nguy cơ bị xóa tài khoản hoặc bị đình chỉ kiếm doanh thu quảng cáo trên YouTube.

Nó cũng sẽ cho phép người dùng yêu cầu kéo xuống các video do AI tạo ra mô phỏng một người có thể nhận dạng được. Chính sách mới sẽ có hiệu lực trong những tháng tới.

Ngoài ra đọc: Công cụ AI sắp ra mắt của YouTube cho phép người hâm mộ nghe như nghệ sĩ

Xác định nội dung AI 'thực tế'

Trong một bài viết trên blog, Phó chủ tịch quản lý sản phẩm của YouTube Jennifer Flannery O'Connor và Emily Moxley cho biết nền tảng này hiện yêu cầu người sáng tạo tiết lộ và gắn nhãn các video có “nội dung bị thao túng hoặc tổng hợp mang tính thực tế, bao gồm cả việc sử dụng các công cụ AI”.

Ví dụ: các giám đốc điều hành cho biết các video “mô tả chân thực một sự kiện chưa từng xảy ra” và/hoặc video giả mạo sâu “cho thấy ai đó nói hoặc làm điều gì đó mà họ không thực sự làm” sẽ cần có nhãn rõ ràng trong phần mô tả cho thấy chúng được tạo bằng AI.

Flannery O'Connor và Moxley cho biết: “Điều này đặc biệt quan trọng trong trường hợp nội dung thảo luận về các chủ đề nhạy cảm, chẳng hạn như bầu cử, xung đột đang diễn ra, khủng hoảng sức khỏe cộng đồng hoặc các quan chức”.

YouTube đã cấm “nội dung bị thao túng về mặt kỹ thuật nhằm đánh lừa người xem và có thể gây ra nguy cơ gây tổn hại nghiêm trọng”, công ty viết trong bài đăng trên blog của mình.

“Tuy nhiên, các hình thức kể chuyện mới mạnh mẽ của AI cũng có thể được sử dụng để tạo ra nội dung có khả năng đánh lừa người xem — đặc biệt nếu họ không biết rằng video đã bị thay đổi hoặc được tạo ra một cách giả tạo,” nó cho biết.

Chính sách mới được thiết kế để giúp người xem dễ dàng tách video tổng hợp khỏi video thật và mở rộng các biện pháp mà YouTube đã công bố vào tháng XNUMX yêu cầu tiết lộ thông tin về quảng cáo chính trị do AI tạo trên trang web.

Nó xuất hiện trong bối cảnh tranh luận về những cạm bẫy tiềm tàng nảy sinh khi AI ngày càng tiên tiến hơn, gây khó khăn cho việc phân biệt giữa nội dung giống thật và giả, còn được gọi là “deepfake” trên mạng xã hội và các nơi khác trên Internet.

YouTube ưu tiên 'chủ đề nhạy cảm' như bầu cử

Deepfakes là những hình ảnh hoặc video thực tế nhưng giả mạo được tạo bằng trí tuệ nhân tạo, dùng để mạo danh người khác, bao gồm cả giọng nói của họ, thường vì lý do ác ý. Nỗi lo lắng đó đã khiến một số nền tảng trực tuyến thay đổi quy tắc của họ để giải quyết vấn đề.

Như MetaNews gần đây báo cáoMeta Platforms của chủ sở hữu Facebook và Instagram sẽ yêu cầu các nhà quảng cáo tiết lộ việc sử dụng AI trong quảng cáo về bầu cử, chính trị và các vấn đề xã hội bắt đầu từ năm tới. Nó cũng ngăn các nhà quảng cáo chính trị sử dụng công cụ AI của riêng họ để tạo quảng cáo.

Nền tảng chia sẻ video ngắn TikTok đã giới thiệu nhãn mới cho nội dung do AI tạo ra vào đầu năm nay và yêu cầu người dùng tiết lộ thời điểm nội dung mô tả “cảnh thực tế” được tạo bằng AI. Nó cũng cấm các hành vi deepfake do AI tạo ra đối với những người trẻ tuổi và các nhân vật riêng tư.

Nhãn của YouTube sẽ xuất hiện trong bảng mô tả của video. Tuy nhiên, đối với những video thảo luận về các chủ đề nhạy cảm như bầu cử và xung đột, nhãn sẽ được đặt nổi bật hơn trong trình phát video để đảm bảo người xem biết được nguồn gốc của nội dung.

Ngoài ra, nội dung được tạo bằng các công cụ AI tổng hợp của YouTube, chẳng hạn như công cụ chuyển văn bản thành giọng nói và nhạc thành hình ảnh, cũng sẽ được dán nhãn rõ ràng. Tài liệu do AI tạo vi phạm nguyên tắc cộng đồng của YouTube sẽ bị xóa hoàn toàn khỏi trang web.

YouTube giải thích: “Ví dụ: một video được tạo tổng hợp thể hiện bạo lực thực tế vẫn có thể bị xóa nếu mục tiêu của nó là gây sốc hoặc khiến người xem cảm thấy ghê tởm”.

YouTube yêu cầu người sáng tạo phải chịu trách nhiệm tuân thủ các yêu cầu ghi nhãn nội dung AI mới. Những người sáng tạo không gắn nhãn nội dung tổng hợp cần được tiết lộ theo chính sách mới có thể phải đối mặt với các hình phạt như xóa nội dung hoặc tắt tính năng kiếm tiền của video.

Người dùng có thể yêu cầu xóa nội dung AI

Ngoài nhãn nội dung, YouTube cũng đang phát triển một tính năng mới cho phép người dùng yêu cầu xóa các mô tả tổng hợp hoặc do AI tạo ra về người thật. Sự thay đổi này diễn ra sau sự gia tăng các video sâu có hình ảnh phụ nữ nổi tiếng trong nội dung khiêu dâm không có sự đồng thuận.

Công ty cho biết theo quy định về quyền riêng tư của mình, người dùng sẽ được phép gắn cờ các video “mô phỏng một cá nhân có thể nhận dạng được, bao gồm cả khuôn mặt hoặc giọng nói của họ”. YouTube sẽ đánh giá từng yêu cầu gỡ bỏ, xem xét các yếu tố như liệu video đó có nhằm mục đích nhại lại hay châm biếm hay không.

Nó cũng sẽ xem xét liệu những người được miêu tả trong video có thể được xác định hay không, cũng như sự nổi bật của các cá nhân có liên quan. Đối với những nhân vật nổi tiếng hoặc quan chức nhà nước, ngưỡng loại bỏ cao hơn có thể được áp dụng.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://metanews.com/youtube-now-requires-creators-to-label-ai-content-to-combat-deepfakes/