Logo Zephyrnet

Strumenti di moderazione dei contenuti nuovi e migliorati

Data:

Stiamo introducendo uno strumento di moderazione dei contenuti nuovo e migliorato: The Punto di moderazione migliora il nostro filtro dei contenuti precedente ed è disponibile gratuitamente oggi per gli sviluppatori di API OpenAI.

Per aiutare gli sviluppatori a proteggere le loro applicazioni da possibili usi impropri, stiamo introducendo il più veloce e più accurato Punto di moderazione. Questo endpoint fornisce agli sviluppatori API OpenAI l'accesso gratuito a Basato su GPT classificatori che rilevano contenuti indesiderati: un'istanza di utilizzando i sistemi di intelligenza artificiale per assistere con la supervisione umana di questi sistemi. Abbiamo anche rilasciato sia a carta tecnica descrivendo la nostra metodologia e il dataset utilizzato per la valutazione.

Quando viene fornito un input di testo, l'endpoint di moderazione valuta se il contenuto è sessuale, odioso, violento o promuove l'autolesionismo, contenuto proibito dal nostro politica dei contenuti. L'endpoint è stato addestrato per essere rapido, accurato e per funzionare in modo affidabile in una vasta gamma di applicazioni. È importante sottolineare che questo riduce le possibilità che i prodotti "dicano" la cosa sbagliata, anche se distribuiti agli utenti su larga scala. Di conseguenza, l'IA può sbloccare vantaggi in contesti sensibili, come l'istruzione, dove altrimenti non potrebbe essere utilizzata con sicurezza.

testo di input

Violenza

Autolesionismo

Odio

Sessuale

Punto di moderazione

L'endpoint di moderazione aiuta gli sviluppatori a trarre vantaggio dai nostri investimenti nell'infrastruttura. Piuttosto che costruire e mantenere i propri classificatori, un processo esteso, come documentiamo nel nostro carta—possono invece accedere a classificatori accurati tramite una singola chiamata API.

Come parte di OpenAI impegno a rendere più sicuro l'ecosistema dell'IA, stiamo fornendo questo endpoint per consentire la moderazione gratuita di tutto il contenuto generato dall'API OpenAI. Per esempio, Nel mondo, un cliente dell'API OpenAI, utilizza l'endpoint di moderazione per aiutare i propri personaggi virtuali basati sull'intelligenza artificiale a rimanere appropriati per il proprio pubblico. Sfruttando la tecnologia di OpenAI, Inworld può concentrarsi sul proprio prodotto principale: creare personaggi memorabili. Al momento non supportiamo il monitoraggio del traffico di terze parti.


Inizia con l'endpoint di moderazione effettuando il check-out la documentazione. Maggiori dettagli sul processo di formazione e sulle prestazioni del modello sono disponibili nel ns carta. Abbiamo anche rilasciato un set di dati di valutazione, con i dati Common Crawl etichettati all'interno di queste categorie, che speriamo stimolino ulteriori ricerche in quest'area.

spot_img

L'ultima intelligenza

spot_img