Zephyrnet-logo

Twitch verbiedt AI-gegenereerde Seinfeld-show voor het maken van transfobe grappen

Datum:

Video De Seinfeld-spoof Nothing, Forever – een sitcom ontwikkeld met behulp van generatieve AI – is tijdelijk verbannen op Twitch nadat een van de personages per ongeluk transfobe godslastering uitspuugde.

De bizarre voorstelling haalde de krantenkoppen vorige week voor het gebruik van AI om visuals en scripts te improviseren voor een nooit eindigende aflevering van Seinfeld. In komedie die kunst imiteert, sitcom 30 Rock voorspeld zoiets meer dan 15 jaar geleden.

De personages, gemodelleerd naar de iconische personages uit de comedyserie Jerry, George, Elaine en Kramer, voeren een dialoog uit die volledig is verzonnen met behulp van de GPT-3-taalmodellen van OpenAI. De tekst wordt vertaald naar audio met behulp van tekst-naar-spraak-algoritmen en de achtergronden en scènes worden ook door AI gegenereerd. Niets, voor altijd gestreamd op Twitch 24/7 en heeft veel volgers getrokken sinds de uitzending vorig jaar in december begon.

De kanaal het hosten van de show werd maandag afgebroken voor schenden Het inhoudsbeleid van Twitch. Skyler Hartle, mede-oprichter van Mismatch Media en een van de makers achter Nothing, Forever, vertelde Het register het verbod werd uitgevaardigd omdat de hoofdpersoon, Larry Feinberg, aanstootgevende opmerkingen maakte waarin hij zei dat transgenders "de structuur van de samenleving verpesten", dat transgender zijn een psychische aandoening is en dat "alle liberalen stiekem homo zijn".

Je kunt de slechte stand-upscène hieronder bekijken.

Youtube Video

Hartle zei dat het script van de show van de baan raakte toen de makers overstapten van het gebruik van OpenAI's GPT-3-model Davinci-model naar een minder krachtige en goedkopere versie genaamd Curie, en geen softwarefuncties implementeerden om de inhoud ervan te modereren.

“We ondervonden gisteravond een probleem met onze verbinding met Davinci en moesten overschakelen naar het Curie-model terwijl het probleem zichzelf oploste. Dit was toen de ongepaste tekst werd gegenereerd en we hebben deze onmiddellijk afgesloten. We hebben het probleem verder onderzocht en ontdekten dat we de OpenAI-tools voor het modereren van inhoud niet correct gebruikten”, vertelde hij ons.

Hartle bevestigde dat het verbod tijdelijk is en 14 dagen zou moeten duren. Mismatch Media werkt nu aan de implementatie van OpenAI's tools voor inhoudsmoderatie en overweegt ook een secundair systeem om de output van het model te volgen. 

“De tekst die we hebben gegenereerd was een vergissing, we schamen ons super en dat de gegenereerde inhoud die is gemaakt op geen enkele manier de waarden of meningen van onze medewerkers weerspiegelt. We betreuren het ten zeerste dat dit is gebeurd en hopen snel weer in de ether te zijn, met alle nodige voorzorgsmaatregelen”, zei hij.

Grote taalmodellen zoals GPT-3 worden getraind op basis van tekst die van internet is geschraapt en kunnen ongepast, aanstootgevend taalgebruik genereren. Inhoudsfilters kunnen de slechtste tekst minimaliseren, maar fragmenten sluipen er nog steeds doorheen, zelfs als er voorzorgsmaatregelen zijn genomen. 

Een woordvoerder van Twitch stuurde Het register de gemeenschapsrichtlijnen van het bedrijf met betrekking tot haatdragend gedrag, en zei:

"We geven geen commentaar op specifieke schendingen om privacyredenen, maar we nemen passende maatregelen wanneer we bewijs hebben dat een kanaal in strijd heeft gehandeld met onze Communityrichtlijnen of Servicevoorwaarden." ®

spot_img

Laatste intelligentie

spot_img