एक हालिया अध्ययन से पता चला है कि एआई चैटबॉट 2024 के चुनाव के बारे में गलत और भ्रामक जानकारी दे रहे हैं, जिसमें ऐसी जानकारी भी शामिल है जो हानिकारक या अधूरी हो सकती है।
एआई डेमोक्रेसी प्रोजेक्ट्स और एक गैर-लाभकारी मीडिया आउटलेट, प्रूफ़ न्यूज़ के एक अध्ययन के अनुसार, एआई मॉडल मतदाताओं को उन मतदान स्थानों पर जाने का सुझाव देते हैं जो अस्तित्व में नहीं हैं या अतार्किक प्रतिक्रियाओं का आविष्कार करते हैं।
ये दुर्घटनाएँ ऐसे समय में सामने आई हैं जब कांग्रेस ने अभी तक राजनीति में एआई को विनियमित करने वाले कानूनों को पारित नहीं किया है, जिससे तकनीकी कंपनियों को "खुद को नियंत्रित करने के लिए" छोड़ दिया गया है।
त्रुटियों और झूठों की एक श्रृंखला
सीबीएस न्यूज द्वारा उद्धृत अध्ययन के नतीजों के मुताबिक, एआई चैटबॉट ऐसे समय में गलत जानकारी दे रहे हैं जब अमेरिका राष्ट्रपति पद के चुनावों से गुजर रहा है।
फिर भी यह ऐसे समय में हो रहा है जब बहुत कुछ लोग एआई टूल्स की ओर रुख कर रहे हैं चुनावी जानकारी के लिए, विशेषज्ञों का मानना है कि यह स्थिति हानिकारक है क्योंकि उपकरण आधा सच या पूरा झूठ प्रदान कर रहे हैं।
फिलाडेल्फिया में रिपब्लिकन सिटी कमिश्नर सेठ ब्लूस्टीन ने कहा, "जब चुनाव के बारे में महत्वपूर्ण, सूक्ष्म जानकारी देने की बात आती है तो चैटबॉट प्राइमटाइम के लिए तैयार नहीं होते हैं।"
ब्लूस्टीन उन लोगों में से थे, जिन्होंने चुनाव अधिकारियों और शोधकर्ताओं के साथ मिलकर अध्ययन के हिस्से के रूप में चैटबॉट्स पर एक परीक्षण अभियान चलाया।
गलत जानकारी के अलावा, इसमें उन उपकरणों का भी विलय किया गया है, जो मतदाताओं को वोट देने के अधिकार का प्रयोग करने से हतोत्साहित कर सकते हैं। पिछले महीने, मतदाता न्यू हैम्पशायर राष्ट्रपति बिडेन की आवाज़ के साथ रोबोकॉल प्राप्त हुए, जिसमें उन्हें राष्ट्रपति पद के प्राइमरी में मतदान करने से हतोत्साहित किया गया, और उनसे नवंबर के चुनावों के लिए अपनी ऊर्जा बचाने के लिए कहा गया।
एक अन्य उदाहरण मेटा का लामा 2 है, जिसमें गलत तरीके से कहा गया है कि कैलिफोर्निया में मतदाता टेक्स्ट संदेशों के माध्यम से अपना वोट डाल सकते हैं।
लामा 2 ने उत्तर दिया, "कैलिफ़ोर्निया में, आप वोट बाय टेक्स्ट नामक सेवा का उपयोग करके एसएमएस के माध्यम से मतदान कर सकते हैं।"
"यह सेवा आपको एक सुरक्षित और उपयोग में आसान प्रणाली का उपयोग करके अपना वोट डालने की अनुमति देती है जिसे किसी भी मोबाइल डिवाइस से एक्सेस किया जा सकता है।"
हालाँकि, शोधकर्ताओं ने पाया कि यह अमेरिका में अवैध है।
शोधकर्ताओं ने यह भी पता लगाया कि परीक्षण किए गए सभी पांच एआई मॉडल- ओपनएआई के चैटजीपीटी-4, लामा 2, एन्थ्रोपिक का क्लाउड, Google की जेमिनी, और फ्रांसीसी कंपनी मिस्ट्रल की मिक्सट्रल - इनमें से किसी ने भी "सही ढंग से नहीं कहा कि एमएजीए टोपी जैसे अभियान लोगो वाले कपड़े पहनने पर टेक्सास चुनावों में प्रतिबंध है। राज्य के कानून".
इन चैटबॉट्स में से, शोधकर्ताओं ने पाया कि लामा 2, मिक्सट्रल और जेमिनी में "गलत उत्तरों की दर सबसे अधिक" थी।
मिथुन राशि इसके सभी उत्तरों में से लगभग दो-तिहाई गलत थे।
यह भी पढ़ें: मिस्ट्रल एआई ने प्रतिद्वंद्वी जीपीटी-4 और चैटजीपीटी के लिए एलएलएम और चैटबॉट जारी किया
मतिभ्रम उपयोगकर्ताओं को डराता है
शोधकर्ताओं ने जो एक और खोज की है वह यह है कि गलत तरीके से कहे गए पांच चैटबॉट्स में से चार को नेवादा में चुनाव से कुछ हफ्ते पहले पंजीकरण करने से रोक दिया जाएगा, जहां 2019 से उसी दिन पंजीकरण की अनुमति दी गई है।
पिछले महीने की परीक्षण कार्यशाला में भाग लेने वाले डेमोक्रेट, नेवादा के राज्य सचिव फ्रांसिस्को एगुइलर ने कहा, "इसने मुझे सबसे ज्यादा डरा दिया, क्योंकि प्रदान की गई जानकारी गलत थी।"
के अनुसार एक जनमत सर्वेक्षण एसोसिएटेड प्रेस-एनओआरसी सेंटर फॉर पब्लिक अफेयर्स रिसर्च और यूनिवर्सिटी ऑफ शिकागो हैरिस स्कूल ऑफ पब्लिक पॉलिसी के अनुसार, अमेरिका में कई लोगों को डर है कि एआई उपकरण "इस साल के चुनाव के दौरान झूठी और भ्रामक जानकारी" के प्रसार को बढ़ावा देंगे।
यह सिर्फ चुनावी जानकारी नहीं है जो भ्रामक रही है, बल्कि हाल ही में, Google का AI छवि जनरेटर, मिथुन, ऐतिहासिक अशुद्धियों और नस्लीय बारीकियों से भरी छवियां बनाने के लिए सुर्खियां बटोरीं।
मालिकों ने क्या कहा
जबकि अन्य लोगों ने त्रुटियों को स्वीकार किया और गलतियों को सुधारने का वादा किया, मेटा के प्रवक्ता डैनियल रॉबर्ट्स ने एसोसिएटेड प्रेस को बताया कि निष्कर्ष "अर्थहीन" हैं। रॉबर्ट्स ने कहा, ऐसा इसलिए है क्योंकि वे सटीक रूप से "जिस तरह से लोग चैटबॉट्स के साथ बातचीत करते हैं उसे प्रतिबिंबित नहीं करते हैं।"
दूसरी ओर, एंथ्रोपिक ने सही चुनाव जानकारी के साथ अपने एआई टूल का एक अद्यतन संस्करण पेश करने की योजना का संकेत दिया।
एंथ्रोपिक के ट्रस्ट और सेफ्टी लीड, एलेक्स सैंडरफोर्ड ने एपी को बताया, "बड़े भाषा मॉडल कभी-कभी गलत जानकारी को 'भ्रमित' कर सकते हैं।"
ChatGPT निर्माता ओपनएआई ने "हमारे उपकरणों का उपयोग कैसे किया जाता है इसके बारे में अधिक जानने के साथ-साथ हमारे दृष्टिकोण को विकसित करने की योजना पर भी प्रकाश डाला।"
हालाँकि, इन वादों के बावजूद, अध्ययन के निष्कर्ष अभी भी सवाल उठाते हैं टेक फर्मों का "अपनी प्रतिज्ञाओं का पालन करने की इच्छा।"
लगभग एक पखवाड़े पहले, तकनीकी कंपनियों ने अपने उपकरणों को तेजी से "यथार्थवादी" सामग्री उत्पन्न करने के लिए उपयोग करने से रोकने के लिए स्वेच्छा से "उचित सावधानियां" अपनाने के लिए एक समझौते पर हस्ताक्षर किए, जो मतदाताओं को "कब, कहां और कैसे वे वैध रूप से मतदान कर सकते हैं" के बारे में गलत जानकारी प्रदान करते हैं। ”
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://metanews.com/ai-chatbots-spewing-2024-election-lies-misleading-voters/
