Để giúp các nhà phát triển bảo vệ ứng dụng của họ chống lại việc lạm dụng có thể xảy ra, chúng tôi đang giới thiệu Điểm cuối kiểm duyệt. Điểm cuối này cung cấp cho các nhà phát triển API OpenAI quyền truy cập miễn phí vào Dựa trên GPT bộ phân loại phát hiện nội dung không mong muốn—một thể hiện của sử dụng hệ thống AI để hỗ trợ sự giám sát của con người đối với các hệ thống này. Chúng tôi cũng đã phát hành cả hai giấy kỹ thuật mô tả phương pháp luận của chúng tôi và tập dữ liệu được sử dụng để đánh giá.

Khi được nhập văn bản, điểm cuối Kiểm duyệt sẽ đánh giá xem nội dung đó có khiêu dâm, thù địch, bạo lực hay khuyến khích tự làm hại bản thân hay không—nội dung bị cấm bởi chúng tôi chính sách nội dung. Điểm cuối đã được đào tạo để nhanh chóng, chính xác và hoạt động mạnh mẽ trên nhiều ứng dụng. Quan trọng là, điều này làm giảm khả năng các sản phẩm “nói sai”, ngay cả khi được triển khai cho người dùng trên quy mô lớn. Do đó, AI có thể mở khóa các lợi ích trong các cài đặt nhạy cảm, như giáo dục, nơi mà nó không thể được sử dụng một cách tự tin.

Điểm cuối Kiểm duyệt giúp các nhà phát triển hưởng lợi từ các khoản đầu tư vào cơ sở hạ tầng của chúng tôi. Thay vì xây dựng và duy trì các bộ phân loại của riêng họ — một quá trình mở rộng, như chúng tôi ghi lại trong giấy— Thay vào đó, họ có thể truy cập các bộ phân loại chính xác thông qua một lệnh gọi API.

Là một phần của OpenAI's cam kết đến làm cho hệ sinh thái AI an toàn hơn, chúng tôi đang cung cấp điểm cuối này để cho phép kiểm duyệt miễn phí tất cả nội dung do API OpenAI tạo. Ví dụ, Trong thế giới, một khách hàng API OpenAI, sử dụng điểm cuối Kiểm duyệt để giúp các nhân vật ảo dựa trên AI của họ vẫn phù hợp với khán giả của họ. Bằng cách tận dụng công nghệ của OpenAI, Inworld có thể tập trung vào sản phẩm cốt lõi của họ: tạo ra các nhân vật đáng nhớ. Chúng tôi hiện không hỗ trợ giám sát lưu lượng của bên thứ ba.

Bắt đầu với điểm cuối Kiểm duyệt bằng cách kiểm tra tài liệu. Thông tin chi tiết về quá trình đào tạo và hiệu suất mô hình có sẵn trong giấy. Chúng tôi cũng đã phát hành một tập dữ liệu đánh giá, có dữ liệu Thu thập thông tin chung được gắn nhãn trong các danh mục này, mà chúng tôi hy vọng sẽ thúc đẩy nghiên cứu sâu hơn trong lĩnh vực này.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• nguồn: https://openai.com/blog/new-and-improved-content-moderation-tooling/