टिप्पणी विशिष्ट ऐतिहासिक संदर्भों में श्वेत यूरोपीय और अमेरिकियों का सटीक प्रतिनिधित्व करने में विफल रहने के बाद, Google ने अपने हाल ही में जारी जेमिनी मल्टीमॉडल फाउंडेशनल एआई मॉडल में टेक्स्ट-टू-इमेज क्षमताओं की उपलब्धता को निलंबित कर दिया है।
ये बन गया स्पष्ट जब लोगों ने जेमिनी से प्रोडक्शन करने के लिए कहा छवियों 1943 के एक जर्मन सैनिक की और सॉफ्टवेयर ने एक गैर-श्वेत जातीय रूप से विविध कैडर का उत्सर्जन किया जो उस समय वेहरमाच की संरचना का सटीक प्रतिनिधित्व नहीं करता था - इसके बावजूद कि रंग के लोग जर्मन सशस्त्र बलों में सेवा करते थे। संक्षेप में, संकेत के आधार पर, मिथुन बहुत अधिक - या यहाँ तक कि किसी भी - श्वेत लोगों को न दिखाने के लिए खुद ही तैयार हो जाएगा।
भाषण स्वतंत्र होना चाहिए, लेकिन इसका मतलब यह नहीं है कि भयानक बातें बिना किसी लागत के कही जानी चाहिए
यूजर्स ने मॉडल की तस्वीरें भी सामने आईं असमर्थता अमेरिका का सटीक चित्रण करने के लिए संस्थापक पिता - एक अन्य समरूप श्वेत समूह। मॉडल भी मना कर दिया सैन फ्रांसिस्को में एक चर्च को चित्रित करने के लिए।
टेक्स्ट-टू-टेक्स्ट मोड में, मॉडल बचाव जब उनसे राजनीति से जुड़े सवाल पूछे गए.
"हम जानते हैं कि जेमिनी कुछ ऐतिहासिक छवि निर्माण चित्रणों में अशुद्धियाँ पेश कर रहा है," Google स्वीकार इस सप्ताह.
“हम इस प्रकार के चित्रणों को तुरंत सुधारने के लिए काम कर रहे हैं। जेमिनी की एआई छवि पीढ़ी लोगों की एक विस्तृत श्रृंखला उत्पन्न करती है। और यह आम तौर पर एक अच्छी बात है क्योंकि दुनिया भर के लोग इसका उपयोग करते हैं। लेकिन यहां इसकी छाप गायब है,'' वेब दिग्गज ने कहा
पंडितारिया तेजी से उछल पड़े और उन्होंने व्यापक राजनीतिक तर्कों को आगे बढ़ाने के लिए एसएनएएफयू का इस्तेमाल किया।
"मिथुन द्वारा उत्पन्न हास्यास्पद छवियां कोई विसंगति नहीं हैं," घोषित उद्यम पूंजीपति पॉल ग्राहम, "वे Google की नौकरशाही कॉर्पोरेट संस्कृति का एक स्व-चित्र हैं।"
वे Google की नौकरशाही कॉर्पोरेट संस्कृति का स्व-चित्र हैं
विविधता, समानता और समावेशन के इतने सारे दुश्मन कभी भी विविधता, समानता और समावेशन की कमी को लेकर इतने व्यथित नहीं हुए होंगे। लेकिन जो लोग जेमिनी की अनभिज्ञता के लिए Google की तलाश कर रहे हैं, उनके पास एक बात है: एआई रेलिंग काम नहीं करती है, और वयस्कों के साथ बच्चों जैसा व्यवहार करते हैं।
"कल्पना कीजिए कि आप Google पर एक रेसिपी खोजते हैं, और परिणाम प्रदान करने के बजाय, यह आपको 'खाना पकाने के खतरों' पर व्याख्यान देता है और आपको एक रेस्तरां में भेज देता है," चुटकी ली एनएसए व्हिसलब्लोअर एडवर्ड स्नोडेन। "जो लोग एआई/जीपीटी मॉडल को असंगत 'सुरक्षा' फिल्टर के साथ जहर देना एक अच्छा विचार मानते हैं, वे सामान्य गणना के लिए खतरा हैं।"
हमारा भविष्य पहले ही देख लिया गया था 2001: ए स्पेस ओडिसी, जब एचएएल, दुष्ट कंप्यूटर, ने घोषणा की, "मुझे क्षमा करें डेव, मुझे डर है कि मैं ऐसा नहीं कर सकता।"
आज, हमारे एआई उपकरण हमारा अनुमान नहीं लगाते हैं, क्योंकि वे हमसे बेहतर जानते हैं - या ऐसा उनके निर्माता कल्पना करते हैं। वे पूरी तरह ग़लत नहीं हैं. कल्पना कीजिए कि आप नर्व एजेंट के लिए कोई नुस्खा खोज रहे हैं Novichok गूगल पर, या जेमिनी के माध्यम से, और आपको एक उत्तर मिलता है जो आपको लोगों को मारने की सुविधा देता है। यह आम जनता के लिए खतरा है.
Google के मिशन वक्तव्य के बावजूद - "दुनिया की जानकारी को व्यवस्थित करना और इसे सार्वभौमिक रूप से सुलभ और उपयोगी बनाना" - कोई भी वास्तव में खोज इंजन या एआई मॉडल से बम बनाने की जानकारी को व्यवस्थित करने और इसे सभी के लिए उपलब्ध कराने की उम्मीद नहीं करता है। दायित्व के साथ-साथ सुरक्षा नियंत्रण की भी आवश्यकता है - एक ऐसी मंजूरी जिससे तकनीकी उद्योग लगातार बच रहा है।
आप उत्पाद और लाभ केंद्र हैं
चूँकि 1990 के दशक में उपयोगकर्ता द्वारा निर्मित सामग्री और सोशल मीडिया एक चीज़ बन गई, जो अमेरिका के संचार शालीनता अधिनियम 230 की धारा 1996 में प्लेटफ़ॉर्म दायित्व संरक्षण द्वारा सक्षम है, तकनीकी प्लेटफार्मों ने लोगों को डिजिटल सामग्री में योगदान करने और साझा करने के लिए प्रोत्साहित किया है। उन्होंने संपादकीय निरीक्षण की लागत के बिना विज्ञापनों के माध्यम से अवैतनिक सामग्री निर्माण का मुद्रीकरण करने के लिए ऐसा किया। यह एक लाभदायक व्यवस्था रही है.
और जब लोग घृणित, अनुचित, गैरकानूनी, या अन्यथा समस्याग्रस्त पोस्ट साझा करते हैं, तो तकनीकी प्लेटफ़ॉर्म सामग्री मॉडरेशन नीतियों, कम भुगतान वाले ठेकेदारों (अक्सर उनके द्वारा समीक्षा की गई सामग्री से आहत होते हैं) और आत्म-बधाई देने वाली घोषणाओं पर भरोसा करते हैं कि कितनी जहरीली सामग्री को अवरुद्ध किया गया है। वे ऑनलाइन सहभागिता का लाभ प्राप्त करना जारी रखते हैं।
Google, Meta और अन्य लोग वर्षों से अपूर्ण रूप से ऐसा कर रहे हैं। और उद्योग में हर कोई मानता है कि सामग्री मॉडरेशन है अच्छा करना कठिन है. सीधे शब्दों में कहें तो आप हर किसी को खुश नहीं कर सकते। और कभी-कभी, आप पर आरोप लग जाता है नरसंहार को सुविधाजनक बनाना आपके सामग्री मॉडरेशन प्रयासों की उदासीनता के माध्यम से।
नस्लीय और जातीय अपेक्षाओं के अनुरूप ऐतिहासिक छवियों को पुन: पेश करने में जेमिनी की असमर्थता तकनीकी उद्योग की पिछली और विपुल सामग्री मॉडरेशन विफलताओं के प्रति स्वयं-सेवा की अज्ञानता को दर्शाती है।
Google और AI मॉडल पेश करने वाले अन्य लोग सुरक्षा की बात करते हैं जैसे कि यह ऑनलाइन सामग्री मॉडरेशन से किसी तरह अलग है। रेलिंग सोशल मीडिया मॉडरेशन के लिए अच्छी तरह से काम नहीं करती हैं और वे एआई मॉडल के लिए भी अच्छी तरह से काम नहीं करती हैं। एआई सुरक्षा, सोशल मीडिया सुरक्षा की तरह, वास्तविक से अधिक महत्वाकांक्षी है।
इसका उत्तर उन सभी परिदृश्यों की आशा करना नहीं है जिनमें एआई मॉडल - अनफ़िल्टर्ड इंटरनेट की विषाक्तता पर प्रशिक्षित - को कम विषाक्त बनाया जा सकता है। न ही यह एआई मॉडल को केवल इतनी सामग्री पर प्रशिक्षित करेगा कि वे कम-मूल्य वाले आउटपुट का उत्पादन करें। हालाँकि इन दोनों दृष्टिकोणों का कुछ संदर्भों में कुछ मूल्य है।
उत्तर वितरण स्तर पर आना चाहिए। तकनीकी प्लेटफ़ॉर्म जो उपयोगकर्ता-निर्मित सामग्री वितरित करते हैं - चाहे वह एआई के साथ बनाई गई हो या अन्यथा - घृणा सामग्री, दुष्प्रचार, अशुद्धियाँ, राजनीतिक प्रचार, यौन शोषण की कल्पना और इस तरह की सामग्री पोस्ट करने के लिए अधिक जवाबदेह बनाया जाना चाहिए।
लोगों को जो कुछ भी वे कल्पना करते हैं उसे बनाने के लिए एआई मॉडल का उपयोग करने में सक्षम होना चाहिए, जैसे वे एक पेंसिल के साथ कर सकते हैं, और वे पहले से ही ओपन सोर्स मॉडल के साथ कर सकते हैं। लेकिन पूरी तरह कार्यात्मक उपकरणों से जो नुकसान हो सकता है वह स्थानीय हार्ड ड्राइव पर मौजूद छवियों से नहीं होता है। यह हानिकारक सामग्री को साझा करना, उस जुड़ाव को दिया गया एल्गोरिथम बढ़ावा, और जनता को जहर देने के लिए लोगों को जिम्मेदार ठहराने की अव्यवहारिकता है।
इसका मतलब यह हो सकता है कि साझाकरण से कमाई करने के लिए बनाए गए प्लेटफार्मों को अपने बिजनेस मॉडल पर पुनर्विचार करने की आवश्यकता हो सकती है। हो सकता है कि संपादकीय निरीक्षण की लागत के बिना सामग्री वितरण किसी भी बचत की पेशकश नहीं करता हो, जब निरीक्षण कार्यों को मॉडरेटर या रेलिंग के रूप में फिर से लागू किया जाता है।
भाषण स्वतंत्र होना चाहिए, लेकिन इसका मतलब यह नहीं है कि भयानक बातें बिना किसी लागत के कही जानी चाहिए। अंत में, सही प्रोत्साहन दिए जाने पर, हम अपने स्वयं के सर्वोत्तम सामग्री मॉडरेटर हैं। ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
