Video Die Seinfeld-Parodie „Nothing, Forever“ – eine mit generativer KI entwickelte Sitcom – wurde vorübergehend auf Twitch gesperrt, nachdem einer der Charaktere versehentlich transphobe Obszönitäten von sich gegeben hatte.
Die bizarre Show Schlagzeilen machte letzte Woche für die Verwendung von KI zur Improvisation von Bildern und Drehbüchern einer endlosen Episode von Seinfeld. In der Komödie, die Kunst imitiert, Sitcom 30 Rock vorhergesagt so etwas vor über 15 Jahren.
Die Charaktere, die den Charakteren der legendären Comedy-Serien Jerry, George, Elaine und Kramer nachempfunden sind, sprechen einen Dialog, der vollständig mit den GPT-3-Sprachmodellen von OpenAI erstellt wurde. Der Text wird mithilfe von Text-to-Speech-Algorithmen in Audio übersetzt, und die Hintergründe und Szenen werden ebenfalls von der KI generiert. „Nothing, Forever“ wurde rund um die Uhr auf Twitch gestreamt und hat viele Follower angezogen, seit es im Dezember letzten Jahres ausgestrahlt wurde.
Aber der Kanal Hosting der Show wurde am Montag für abgeschaltet verletzend Inhaltsrichtlinien von Twitch. Skyler Hartle, Mitbegründer von Mismatch Media und einer der Macher von Nothing, Forever, erzählt Das Register Das Verbot wurde erlassen, weil die Hauptfigur Larry Feinberg beleidigende Kommentare machte, in denen er sagte, Transgender würden „das Gefüge der Gesellschaft ruinieren“, Transgender zu sein sei eine Geisteskrankheit und „alle Liberalen seien insgeheim schwul“.
Sie können die schlechte Stand-up-Szene unten sehen.
Hartle sagte, das Drehbuch der Show sei vom Kurs abgekommen, als seine Schöpfer von der Verwendung des GPT-3-Modells Davinci von OpenAI zu einer weniger leistungsstarken und billigeren Version namens Curie wechselten und keine Softwarefunktionen implementierten, um den Inhalt zu moderieren.
„Wir hatten letzte Nacht ein Problem mit unserer Verbindung zu Davinci und mussten auf das Curie-Modell umsteigen, während sich das Problem von selbst löste. Zu diesem Zeitpunkt wurde der unangemessene Text generiert und wir haben ihn sofort abgeschaltet. Wir haben das Problem weiter untersucht und festgestellt, dass wir die Content-Moderations-Tools von OpenAI nicht richtig genutzt haben“, sagte er uns.
Hartle bestätigte, dass das Verbot vorübergehend ist und 14 Tage dauern soll. Mismatch Media arbeitet nun an der Bereitstellung der Inhaltsmoderationstools von OpenAI und erwägt auch ein sekundäres System, um die Ergebnisse des Modells zu verfolgen.
„Der von uns erstellte Text war ein Fehler, wir sind sehr verlegen, und dass die erstellten generativen Inhalte in keiner Weise die Werte oder Meinungen unserer Mitarbeiter widerspiegeln. Wir bedauern dies sehr und hoffen, bald wieder auf Sendung zu sein, mit allen angemessenen Sicherheitsvorkehrungen“, sagte er.
Große Sprachmodelle wie GPT-3 werden aus Text trainiert, der aus dem Internet geschabt wurde, und können unangemessene, anstößige Sprache erzeugen. Inhaltsfilter können den schlimmsten Text minimieren, aber Snippets schleichen sich auch mit Schutzmaßnahmen durch.
Ein Sprecher von Twitch schickte Das Register die Community-Richtlinien des Unternehmens, die sich mit hasserfülltem Verhalten befassen, und sagte:
„Aus Datenschutzgründen kommentieren wir keine konkreten Verstöße, aber wir ergreifen geeignete Maßnahmen, wenn wir Beweise dafür haben, dass ein Kanal gegen unsere Community-Richtlinien oder Nutzungsbedingungen verstoßen hat.“ ®
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. Hier zugreifen.
- Quelle: https://go.theregister.com/feed/www.theregister.com/2023/02/07/twitch_ai_seinfeld/
