Meta đang xây dựng các công cụ để phát hiện và gắn nhãn các hình ảnh do AI tạo được đăng trên nền tảng truyền thông xã hội của mình và đang thử nghiệm các mô hình ngôn ngữ lớn để tự động kiểm duyệt nội dung trực tuyến.

Vào thứ Ba, chủ tịch phụ trách các vấn đề toàn cầu của Meta (và cựu Phó Thủ tướng Vương quốc Anh) Nick Clegg đã công bố kế hoạch kết hợp các biểu tượng, hình mờ và siêu dữ liệu cho các bức ảnh giả được tạo bởi các mô hình chuyển văn bản thành hình ảnh trên Facebook, Instagram và Threads. 

Clegg nói các kỹ sư tại Meta hiện đang phát triển các công cụ để gắn thẻ các hình ảnh do AI tạo ra với chú thích “Được tưởng tượng bằng AI” trên các ứng dụng truyền thông xã hội của mình và sẽ áp dụng nhãn này trong những tháng tới. Phần mềm cần thiết để tự động xác định và nhúng hình mờ vô hình vào các loại nội dung tổng hợp khác, như âm thanh và video, vẫn đang được phát triển.

Thay vào đó, Meta sẽ bắt đầu yêu cầu người dùng tiết lộ liệu họ có đăng đoạn phim hoặc âm thanh do AI tạo ra hay không. Clegg cho biết: “Chúng tôi sẽ yêu cầu mọi người sử dụng công cụ gắn nhãn và tiết lộ này khi họ đăng nội dung không phải trả tiền có video chân thực hoặc âm thanh có âm thanh trung thực được tạo hoặc thay đổi bằng kỹ thuật số và chúng tôi có thể áp dụng các hình phạt nếu họ không làm như vậy”.

Các công cụ của Meta hỗ trợ các tiêu chuẩn do Liên minh xác thực và chứng minh nội dung đặt ra (C2PA) và Hội đồng Viễn thông Báo chí Quốc tế (IPTC). Đây là những sáng kiến ​​​​khác nhau trong ngành được hỗ trợ bởi các nhóm công nghệ và truyền thông đang cố gắng giúp việc xác định nội dung do máy tạo ra dễ dàng hơn. 

Người dùng cuối cùng sẽ có thể nhìn thấy một biểu tượng trong hình ảnh tổng hợp do Meta tạo ra và xem chi tiết về thời điểm nó được tạo ra, bởi mô hình nào và bởi ai trong siêu dữ liệu liên quan của nó. Biz cũng muốn phát hiện và phân loại hình ảnh tổng hợp được tạo bởi các công cụ AI khác cũng tuân thủ nguyên tắc C2PA hoặc IPTC. 

Các chiến lược mới nhất của Meta giải quyết nội dung AI được đưa ra ngay sau khi Ban giám sát của nó, một nhóm chuyên gia độc lập xem xét kỹ lưỡng các chính sách kiểm duyệt nội dung của nó, phàn nàn rằng các quy định hiện hành về phương tiện bị thao túng là “không mạch lạc”. Hội đồng đã đưa ra một thăm dò năm ngoái về lý do Meta quyết định cho phép một video giả mạo về Tổng thống Biden đã được thay đổi kỹ thuật số để khẳng định ông là kẻ ấu dâm. 

Ngoài các công cụ được hỗ trợ bởi C2PA và IPTC, Meta đang thử nghiệm khả năng tự động xác định xem một bài đăng có vi phạm chính sách của các mô hình ngôn ngữ lớn hay không.

Mạng xã hội Biz đang đào tạo các hệ thống này dựa trên dữ liệu của chính họ và tin rằng phần mềm có thể cắt giảm nội dung cần được con người đánh giá, cho phép họ tập trung vào các trường hợp phức tạp hơn. 

Clegg nói: “Khi sự khác biệt giữa nội dung của con người và nội dung tổng hợp ngày càng mờ đi, mọi người muốn biết ranh giới nằm ở đâu”.

“Mọi người thường lần đầu tiên nhìn thấy nội dung do AI tạo ra và người dùng của chúng tôi đã nói với chúng tôi rằng họ đánh giá cao tính minh bạch xung quanh công nghệ mới này. Chúng tôi sẽ áp dụng cách tiếp cận này trong năm tới, trong thời gian đó một số cuộc bầu cử quan trọng sẽ diễn ra trên khắp thế giới.” ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/