खिलाड़ियों के आक्रोश के बाद, एपिक गेम्स लोकप्रिय बैटल रॉयल गेम फोर्टनाइट पर उपयोगकर्ताओं द्वारा अपलोड की गई नस्लवादी एआई-जनरेटेड छवियों को हटा रहा है। रिपोर्ट by Kotaku.
फ़ोर्टनाइट को आज का सबसे लोकप्रिय ऑनलाइन गेम बनाने वाली विशेषताओं में से एक उपयोगकर्ताओं के लिए अपने स्वयं के मानचित्र बनाने और दुनिया के साथ खेलने योग्य अनुभव साझा करने की क्षमता है। हालाँकि, रचनात्मकता के लिए इस आउटलेट का मतलब है कि उपयोगकर्ता संभावित रूप से समस्याग्रस्त सामग्री अपलोड कर सकते हैं, जो कि यहाँ हुआ है।
हाल ही में, उपयोगकर्ताओं ने द्वीप के मानचित्रों पर ध्यान देना शुरू किया, जिनमें कच्चे एआई-जनरेटेड चित्र हैं जो नस्लवादी रूढ़िवादिता को बढ़ावा देते हैं। जैसा Kotaku रिपोर्ट के अनुसार, मानचित्रों के उदाहरणों में "अरब जोनवार्स," "नाइजीरियाई जोनवार्स," और "चीन जोनवार्स" जैसे नाम शामिल हैं।
मानचित्रों में नस्लवादी और जाहिरा तौर पर एआई-जनित छवियां दिखाई गईं जो रूढ़िवादिता को कायम रखती हैं, जिसमें मध्य पूर्वी लोगों के पास बम होना और काले लोगों का तला हुआ चिकन खाना शामिल है। जबकि इनमें से अधिकांश मानचित्रों में छोटी सर्वर आबादी थी, एक मानचित्र, "जमैका जोनवार्स" में इस महीने की शुरुआत में 35,000 से अधिक सक्रिय खिलाड़ी थे।
छवि: फ़ोर्टनाइट क्रिएटिव में "ज्वलंत" उपयोगकर्ता की ओर से प्रतिबंधित द्वीप की कलाकृति।
एपिक गेम्स ने बताया, "संदर्भित कई द्वीपों को पहले ही हटा दिया गया है, और रचनाकारों ने कार्रवाई की है।" Kotaku गवाही में। "हम पहले ही सामग्री उल्लंघन वाले 100 से अधिक द्वीपों को संबोधित कर चुके हैं जो इस समान थंबनेल प्रारूप का उपयोग करते हैं और ऐसा करना जारी रखेंगे।"
एपिक गेम्स ने कहा कि भेदभावपूर्ण सामग्री का Fortnite में कोई स्थान नहीं है और यह कंपनी के द्वीप निर्माता नियमों का उल्लंघन करता है, साथ ही यह भी कहा कि जो उपयोगकर्ता इन दिशानिर्देशों का उल्लंघन करते हैं, उनके खातों को स्थायी रूप से प्रतिबंधित किया जा सकता है।
एपिक गेम्स ने कहा, "हमारी मानव मॉडरेशन टीम प्रकाशन से पहले सभी सामग्री की समीक्षा करती है, और हम खिलाड़ियों तक पहुंचने वाले उल्लंघनकारी मानचित्रों की संख्या को कम करने के लिए अपने द्वीप निर्माता नियमों और मॉडरेशन प्रशिक्षण कार्यक्रमों को सक्रिय रूप से अपडेट कर रहे हैं।" "हम खिलाड़ियों को ऐसे किसी भी द्वीप की रिपोर्ट करने के लिए प्रोत्साहित करते हैं जो उन्हें दिखाई देता है जो हमारे नियमों का उल्लंघन कर सकता है।"
एक बयान के प्रदान की डिक्रिप्टएपिक गेम्स के जीजी ने कहा कि प्रकाशन से पहले मॉडरेटर द्वारा सभी उपयोगकर्ता-निर्मित द्वीपों की समीक्षा की जाती है, लेकिन कहा कि टीम हल्का स्पर्श लेती है।
छवि: फ़ोर्टनाइट क्रिएटिव में उपयोगकर्ता "ड्रज़ेन" से प्रतिबंधित द्वीप की कलाकृति।
एपिक गेम्स ने कहा, "हम अपनी मॉडरेशन टीम से निर्माता की ओर से अच्छे इरादे मानने के लिए कहते हैं, अगर वे सामग्री के उल्लंघन के बारे में अनिश्चित हैं, तो हम अति-सेंसर नहीं करेंगे।" “कभी-कभी इसका मतलब यह होता है कि ऐसी चीज़ें प्रकाशित हो जाती हैं जो नहीं होनी चाहिए, और हम किसी भी आपत्तिजनक सामग्री को हटाने और अपने मॉडरेटरों के लिए नई प्रशिक्षण सामग्री लिखने के लिए तेज़ी से काम करते हैं। जो निर्माता हमारे निर्माता नियमों का उल्लंघन करते हुए पाए जाते हैं, उन्हें स्थायी प्रकाशन और मुद्रीकरण प्रतिबंध सहित विभिन्न प्रकार की प्रवर्तन कार्रवाइयों का सामना करना पड़ता है।
प्रकाशक ने कहा कि वह अपने "द्वीप निर्माता नियमों और मॉडरेशन प्रशिक्षण कार्यक्रमों" को अपडेट करने पर काम कर रहा है।
एपिक गेम्स के संस्थापक और सीईओ टिम स्वीनी ने कहा, "हम नई तकनीकों का उपयोग करने के लिए गेम पर प्रतिबंध नहीं लगाते हैं।" लिखा था उस समय ट्विटर पर, यह देखते हुए कि एपिक गेम्स ने उस वर्ष की शुरुआत में पूर्ण स्व-प्रकाशन खोल दिया था।
जबकि एआई डेवलपर्स ने अपने मॉडलों से आपत्तिजनक छवियों को हटाने में भारी निवेश किया है, उपयोगकर्ताओं ने विशेष संकेतों का उपयोग करके मॉडल को "जेलब्रेक" करने के तरीके ढूंढ लिए हैं। अक्टूबर में, AI-जनित छवियां स्पंज स्क्वायरपैंट्स या निंटेंडो के किर्बी के वर्ल्ड ट्रेड सेंटर में उड़ने वाले जेटलाइनर वायरल हो गए।
