सीसीसी ने इस वर्ष के एएएएस वार्षिक सम्मेलन में तीन वैज्ञानिक सत्रों का समर्थन किया, और यदि आप व्यक्तिगत रूप से भाग लेने में सक्षम नहीं थे, तो हम प्रत्येक सत्र का पुनर्कथन करेंगे। आज, हम सत्र के प्रश्नोत्तर भाग की मुख्य बातों का सारांश प्रस्तुत करेंगे, “बड़े भाषा मॉडल: सहायक सहायक, रोमांटिक पार्टनर या कॉन कलाकार?यह पैनल, द्वारा संचालित है डॉ. मारिया गिन्नी, सीसीसी काउंसिल के सदस्य और मिनेसोटा विश्वविद्यालय में कंप्यूटर विज्ञान और इंजीनियरिंग के प्रोफेसर, विशेष रुप से प्रदर्शित डॉ. ऐस कमर, माइक्रोसॉफ्ट रिसर्च में एआई फ्रंटियर्स के प्रबंध निदेशक, डॉ. हाल डौमे III, मैरीलैंड विश्वविद्यालय में कंप्यूटर विज्ञान के प्रोफेसर, और डॉ. जोनाथन मे, दक्षिणी कैलिफोर्निया विश्वविद्यालय सूचना विज्ञान संस्थान में कंप्यूटर विज्ञान के प्रोफेसर।
नीचे प्रश्नोत्तरी भाग का आकर्षक सारांश दिया गया है "बड़े भाषा मॉडल: सहायक सहायक, रोमांटिक पार्टनर या कॉन कलाकार?"पैनल. क्या AI प्यार करने में सक्षम है? इन मॉडलों का बच्चों पर किस प्रकार का प्रभाव हो सकता है? संयुक्त राज्य अमेरिका की AI क्षमताएं किस प्रकार खड़ी हैं? नीचे जानें:
प्रश्न: बहुभाषी और बहुसांस्कृतिक संदर्भों में एआई भाषा मॉडल को तैनात करते समय, हमें क्या अभ्यास करना चाहिए?
डॉ. मे: प्रौद्योगिकी विकसित करने और दीवारें कम करने में, लोगों के लिए वह करना आसान बनाया जाना चाहिए जो वे करना चाहते हैं। जो सिर्फ मैं ही नहीं, बल्कि हर कोई करना चाहता है। धन्यवाद एआई, मुझ पर ध्यान केंद्रित करना बहुत अच्छा है, लेकिन हमें सामान्य तौर पर बाकी दुनिया पर भी ध्यान देना चाहिए।
प्रश्न: इनमें से कुछ सामान्य मुद्दे - यह पहली बार नहीं हैं कि उन्हें सामने लाया गया है। ऐसा लगता है कि समुदाय स्वयं इनके पास नहीं आने वाला है। मैं सोच रहा हूं कि क्या आप सभी के पास इस बारे में कोई विचार है कि इन वार्तालापों को कैसे क्रियान्वित किया जाए?
डॉ. कमर: कई अलग-अलग पार्टियों के लिए भूमिकाएँ हैं। विभिन्न संस्कृतियों और आबादी का प्रतिनिधित्व करने में मूल्यांकन बहुत मायने रखता है। जब डेटा सेट में विश्व प्रतिनिधित्व में विविधता नहीं होती है, तो परिणामी सिस्टम प्रतिनिधि नहीं होते हैं। मूल्यांकन की सर्वोत्तम प्रथाओं, विनियमों और अनुपालन उपायों को बनाने में बहुत काम करने की आवश्यकता है। व्हाइट हाउस ने प्रतिबद्धताएं जताई हैं, और एआई बिल ऑफ राइट्स का ब्लूप्रिंट शुरू हो रहा है। पूरे उद्योग में ऐसी प्रक्रियाएं लागू की गई हैं, जिनमें कई महान दिमाग एक साथ काम कर रहे हैं (सही नहीं है, लेकिन पूरे उद्योग में सामान्यीकरण की संभावना है)। वर्तमान में मानकों के रूप में शुरुआत करने पर सहमति प्राप्त करने के लिए बैठकें हो रही हैं; संभवतः भविष्य के विनियमन में। हम मूल्यांकन, सुरक्षा विश्लेषण इत्यादि कैसे करते हैं? इनमें से किसी भी बातचीत में वह विविधता नहीं है जो कमरे में होनी चाहिए। इस बारे में सोचें कि जब निर्णय लिए जा रहे हों तो कमरे में कौन होना चाहिए।
डॉ. ड्यूमे: मुझे लगता है कि जब लोग विनियमन के बारे में बात करते हैं, खासकर एआई में, तो हर कोई दंडात्मक नियमों के बारे में सोचता है। लेकिन यह प्रोत्साहन देने वाला विनियमन भी हो सकता है। नीति निर्माताओं और एनएसएफ को वित्त पोषित करने से ऐसे उपकरण विकसित करने को बढ़ावा मिल सकता है जो एक राष्ट्र और दुनिया के रूप में हमारी मदद करते हैं।
प्रश्न: दुनिया के अन्य स्थानों की तुलना में अमेरिका में एआई के लिए फंडिंग काफी पीछे है। एनएसएफ द्वारा नया निवेश लगभग 20 मिलियन है, जो उद्योग निवेश की तुलना में बहुत कम है। संघीय सरकार ने वर्षों के अध्ययनों से रिपोर्ट जारी की है, और निष्कर्ष यह है कि अमेरिका को आगे बढ़ना होगा। मुझे ईसीई की चरण परिवर्तन सादृश्यता पसंद है। संख्या के साथ थर्मोडायनामिक सीमा बढ़ रही है। हम ओपन एआई चाहते हैं, इसके लिए भुगतान कौन करेगा? पर्याप्त पैसा नहीं है. आपके क्या सुझाव हैं? एआई खोलें? लेकिन हमारे पास प्रकाशन की खुली पहुंच भी नहीं है। क्या आप राष्ट्रपति को कानून न बनाने की सिफ़ारिश करेंगे?
डॉ. मे: मुझे लगता है कि पैसा है; किसी ने मुझे बताया कि आप सरकार को कणों को घुमाने के लिए मनाने में कामयाब रहे हैं, लेकिन इसे हमारी ओर मोड़ने में सक्षम नहीं हैं।
डॉ. कमर: इन मॉडलों का निर्माण करने वाली कंपनियों को ये आउटपुट संसाधनों के केंद्रीकरण के माध्यम से मिल रहे हैं। पैमाने से आपको बहुत कुछ मिलता है। इस बारे में सोचना चाहिए कि हम अकादमिक क्षेत्र में निवेश को कैसे केंद्रीकृत करें ताकि हमें कई अलग-अलग मॉडलों के बजाय एक साझा संसाधन मिल सके। हम देख रहे हैं कि यह केवल पैमाने के बारे में नहीं है। ऐसा कुछ नहीं जो हमें अभी करना है, लेकिन वर्तमान वास्तुकला बढ़िया नहीं है। अच्छी एआई क्षमताओं का मतलब सिर्फ अधिक पैसा और अधिक शक्ति नहीं होना चाहिए।
प्रश्न: उत्तरों में अतिप्रस्तुतिकरण पूर्वाग्रह। क्या हम जानते हैं कि यह कहाँ से आ रहा है? मैं गणित का शौकीन हूं और मेरे विचार यह हैं कि क्या गोलाई में त्रुटियों का मिश्रण पूर्वाग्रह जोड़ रहा है? यदि समान प्रतिनिधित्व हो, तो मुझे लगता है कि इससे समान प्रतिनिधित्व प्राप्त होगा, या यह अभी भी रहेगा?
डॉ. मे: कार्यों में तेजी लाने के लिए बहुत कुछ करना पड़ता है। सॉफ्ट मैक्सिमम प्रशिक्षण का एक महत्वपूर्ण हिस्सा है। सर्वोच्च #1 बनना चाहता है. ऐसा नहीं है कि कोई संपूर्ण भाषा आउटपुट है, लेकिन हम कुछ पूर्वाग्रह रखना चाहते हैं।' हम बस लोगों को होने वाले नुकसान को कम करना चाहते हैं और कई बार हम इन्हें पहचान नहीं पाते हैं। बिना समझे तैनाती एक समस्या है.
डॉ. ड्यूमे: इन मॉडलों के साथ एक चुनौती यह है कि अब कोई संकीर्ण एआई मॉडल नहीं हैं। वे कहते हैं कि वे कुछ भी कर सकते हैं, इसलिए हर चीज़ का परीक्षण करना कठिन है।
प्रश्न: आपने एआई को एक उपकरण या प्रतिस्थापन बताया, आप इसे किस दिशा में देखते हैं?
डॉ. ड्यूमे: प्रतिस्थापन में अधिक पैसा खर्च हो रहा है।
प्रश्न: शीर्षक में रोमांटिक एआई का उल्लेख है। मैं इसके बारे में और जानना चाहता हूं.
डॉ. मे: मॉडलों में व्यवहार्य रोमांटिक प्रतिस्थापन होने के लिए पर्याप्त इरादा नहीं है, लेकिन पैटर्न मौजूद न होने पर भी वे पैटर्न को पहचानने में इंसानों जितने ही अच्छे हैं।
डॉ. कमर: मैं आपको सलाह देता हूं कि एआई के बारे में यह न सोचें कि यह अभी क्या है। भविष्य में प्रोजेक्ट करने का प्रयास करें-कल्पना करें कि कुछ वर्षों में, ये प्रणालियाँ आपके लिए वैयक्तिकृत हो जाएंगी। उस सिस्टम के साथ आपका क्या संबंध होगा?
डॉ. मे: लेकिन क्या यह आपसे प्यार करेगा?
डॉ. कमर: यह आपको बताएगा कि यह आपसे प्यार करता है।
डॉ. मे: लेकिन क्या यह पर्याप्त है?
प्रश्न: मैं उन लोगों के लिए सलाह सुनना चाहता हूं जो एआई के क्षेत्र में नहीं हैं। हम इन उपकरणों से कैसे जुड़ सकते हैं? हमें क्या जानना चाहिए?
डॉ. ड्यूमे: मैरीलैंड विश्वविद्यालय में, हम इस तरह की बातचीत खूब कर रहे हैं। मेरे लिए यह कहना आसान है कि 5 वर्षों में पत्रकारिता और अन्य क्षेत्र भी अलग होंगे। यह कहना असुविधाजनक है कि प्रोफेसर की भूमिका 5 वर्षों में अलग होगी, लेकिन यह होगी। मेरे ऐसे सहकर्मी हैं जो प्रस्तावों और कागजात के लिए विभिन्न एलएलएम प्लग-इन का उपयोग करते हैं; यह पहले से ही हो रहा है. मेरे पास नियमित रूप से टूल द्वारा लिखे गए परीक्षा प्रश्न होते हैं, लेकिन मुझे सटीकता की जांच करनी होती है। परीक्षा प्रश्न लिखने से मुझे खुशी नहीं मिलती है, इसलिए AI इसे मेरी प्लेट से हटा सकता है। उच्च शिक्षा में हमें इस बारे में और अधिक सोचना होगा। यह हमारी नौकरियों को कैसे बदल रहा है? विश्वविद्यालयों में बहुत सारी चर्चाएं चल रही हैं, लेकिन बहुत सारे संसाधन एकत्र नहीं किए जा रहे हैं।
प्रश्न: भविष्य में सैन्य अनुप्रयोगों पर विचार करते समय एआई का मूल्यांकन कितना स्वागतयोग्य है? इस सत्र में सैन्य अनुप्रयोगों का कोई उल्लेख नहीं किया गया है - मुझे पता है कि अगर मैंने लोगों को आधा सही ढंग से पढ़ा है तो उस विषय पर राय में भिन्नता है।
डॉ. मे: सेना व्यापक है, मेरा बहुत सारा काम रक्षा विभाग द्वारा प्रायोजित है। विशेष रूप से उत्तर देना कठिन है, सामान्य तौर पर रक्षा विभाग (उनके लिए नहीं बोल रहा) अमेरिका की सुरक्षा को प्राथमिकता दे रहा है, और ऐसा करना जारी रखेगा और अमेरिका को सुरक्षित रखने में मदद करने के लिए एलएलएम और एआई का लाभ उठाएगा।
डॉ. कमर: हमें दोहरे उपयोग के बारे में भी बात करनी होगी। यदि आप जीव विज्ञान या साइबर सुरक्षा में चल रहे सैन्य कार्य को लेते हैं, तो हम अभी हमारे पास मौजूद बहुत ही आशाजनक उपकरण ले सकते हैं और उनका उपयोग कर सकते हैं क्योंकि हम सुरक्षित सिस्टम और नई दवाएं चाहते हैं। लेकिन हर अच्छे उपयोग के साथ आपका बुरा उपयोग भी होगा। ऐसे कौन से उपयोग के मामले हैं जिनमें हम नहीं चाहते कि AI का उपयोग किया जाए? खुले स्रोत अनुप्रयोगों में, लोग इन मॉडलों को दोहरा सकते हैं। हम इन मामलों में लोगों को नुकसान पहुंचाने से कैसे रोक सकते हैं?
प्रश्न: भाषा मॉडलों के साथ बातचीत करते समय, वयस्क समझते हैं कि यह जीवित/स्वयं जागरूक नहीं है, लेकिन बाद की कई पीढ़ियों के बारे में क्या; जिन बच्चों को यह तब से हुआ है जब से उन्हें सामाजिक मेलजोल याद है? उनके पास एक ट्यूटर या शिक्षक है जो पूरी तरह से एआई है; सिस्टम एक प्रशिक्षक के साथ अंतर्निहित है। वे निर्देश के साथ एक बंधन बना सकते हैं, सोचते हैं कि उनका एक अच्छा रिश्ता है, और फिर प्रोग्राम हटा दिया जाता है। गैर-व्यक्ति संस्थाओं के साथ सामाजिक भावनात्मक बंधन का बाल मनोविज्ञान क्या है?
डॉ. कमर: हमें अनुसंधान, अंतःविषय अनुसंधान की आवश्यकता है, और हमें इसकी शीघ्र आवश्यकता है। 5 वर्षों में, हमें ये उत्तर मिल सकते हैं, लेकिन उस समय में AI मेरे 10 साल के बच्चे के जीवन का एक बड़ा हिस्सा बन सकता है। आपका प्रश्न अत्यंत महत्वपूर्ण है. ऐसे शोध हैं जो दिखाते हैं कि निर्दोष प्रणालियों में भी पिछले दरवाजे हो सकते हैं। आज हमें सुरक्षा विशेषज्ञों और बाल विकास विशेषज्ञों से बातचीत करने की आवश्यकता है।
डॉ. ड्यूमे: मुझे नहीं पता कि किसी को बार्बी की निगरानी याद है या नहीं-यहां गोपनीयता का एक बड़ा मुद्दा है। यह एक अधिक दिलचस्प सामाजिक मुद्दा है. प्रतिक्रियाएँ अत्यधिक सकारात्मक थीं। बच्चे ऐसी बातें कहते जैसे मैं पागल हूँ क्योंकि सैली मेरे साथ नहीं खेलती, और यह सामाजिक रूप से उचित सुझाव नहीं देता। मैं बहुत सकारात्मक एजेंटों के बारे में चिंतित हूं, क्योंकि सकारात्मकता हमेशा सही उत्तर नहीं होती है।
पढ़ने के लिए आपका बहुत-बहुत धन्यवाद, और AAAS 2024 में हमारे तीसरे और अंतिम पैनल के पुनर्कथन के लिए बने रहें।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/
