साक्षात्कार झूठा छवियों डोनाल्ड ट्रम्प को काले मतदाताओं का समर्थन प्राप्त है, मिडिल-स्कूल के छात्र अपनी महिला सहपाठियों के अश्लील डीपफेक बना रहे हैं, और Google का जेमिनी चैटबॉट में नाकाम रहने श्वेत लोगों की सटीक तस्वीरें बनाने के लिए।
ये पर सूचीबद्ध कुछ नवीनतम आपदाएँ हैं एआई हादसा डेटाबेस - एक वेबसाइट जो प्रौद्योगिकी के गलत होने के सभी विभिन्न तरीकों पर नज़र रखती है।
प्रारंभ में पार्टनरशिप ऑन एआई के तत्वावधान में एक परियोजना के रूप में लॉन्च किया गया, एक समूह जो एआई से समाज को लाभ सुनिश्चित करने की कोशिश करता है, एआई इंसीडेंट डेटाबेस अब अंडरराइटर्स लेबोरेटरीज द्वारा वित्त पोषित एक गैर-लाभकारी संगठन है - सबसे बड़ा और सबसे पुराना (अनुमानित 1894) स्वतंत्र संयुक्त राज्य अमेरिका में परीक्षण प्रयोगशाला। यह सभी प्रकार के उत्पादों का परीक्षण करता है - फर्नीचर से लेकर कंप्यूटर माउस तक - और इसकी वेबसाइट ने अब तक 600 से अधिक अद्वितीय स्वचालन और एआई-संबंधित घटनाओं को सूचीबद्ध किया है।
"एआई सिस्टम के निर्माताओं और सार्वजनिक उपभोक्ताओं के बीच एक बड़ी सूचना विषमता है - और यह उचित नहीं है", जॉर्ज वॉशिंगटन यूनिवर्सिटी स्कूल ऑफ बिजनेस के सहायक प्रोफेसर पैट्रिक हॉल ने तर्क दिया, जो वर्तमान में एआई इंसीडेंट डेटाबेस के निदेशक मंडल में कार्यरत हैं। . उन्होंने बताया रजिस्टर: "हमें अधिक पारदर्शिता की आवश्यकता है, और हमें लगता है कि उस जानकारी को साझा करना हमारा काम है।"
एआई इंसीडेंट डेटाबेस गैर-लाभकारी संस्था द्वारा स्थापित सीवीई प्रोग्राम पर आधारित है मित्राया, राष्ट्रीय राजमार्ग परिवहन सुरक्षा प्रशासन वेबसाइट रिपोर्टिंग ने सार्वजनिक रूप से साइबर सुरक्षा कमजोरियों और वाहन दुर्घटनाओं का खुलासा किया। "जब भी कोई विमान दुर्घटना, ट्रेन दुर्घटना, या कोई बड़ी साइबर सुरक्षा घटना होती है, तो जो कुछ हुआ उसे रिकॉर्ड करना दशकों से आम बात हो गई है ताकि हम यह समझने की कोशिश कर सकें कि क्या गलत हुआ और फिर उसे दोहराना नहीं चाहिए।"
वेबसाइट को वर्तमान में लगभग दस लोगों द्वारा प्रबंधित किया जाता है, साथ ही मुट्ठी भर स्वयंसेवक और ठेकेदार भी हैं जो एआई से संबंधित घटनाओं की समीक्षा करते हैं और उन्हें ऑनलाइन पोस्ट करते हैं। हीथर फ्रेज़, जॉर्जटाउन के एक वरिष्ठ साथी सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी एआई असेसमेंट पर केंद्रित और एआई इंसीडेंट डेटाबेस निदेशक ने दावा किया कि वेबसाइट इस मायने में अद्वितीय है कि यह एआई के जोखिमों और नुकसानों से वास्तविक दुनिया के प्रभावों पर ध्यान केंद्रित करती है - न कि केवल सॉफ्टवेयर में कमजोरियों और बगों पर।
संगठन वर्तमान में मीडिया कवरेज से घटनाएं एकत्र करता है और ट्विटर पर लोगों द्वारा रिपोर्ट किए गए मुद्दों की समीक्षा करता है। एआई इंसीडेंट डेटाबेस ने नवंबर 250 में चैटजीपीटी के रिलीज़ होने से पहले 2022 अद्वितीय घटनाओं को लॉग किया था, और अब 600 से अधिक अद्वितीय घटनाओं को सूचीबद्ध करता है।
समय के साथ एआई के साथ समस्याओं की निगरानी से दिलचस्प रुझान का पता चलता है, और लोगों को प्रौद्योगिकी के वास्तविक, वर्तमान नुकसान को समझने में मदद मिल सकती है।
जॉर्ज वॉशिंगटन यूनिवर्सिटी के हॉल ने खुलासा किया कि डेटाबेस में लगभग आधी रिपोर्ट जेनरेटिव एआई से संबंधित हैं। उनमें से कुछ "मज़ेदार, मूर्खतापूर्ण चीज़ें" जैसी हैं संदिग्ध उत्पाद अमेज़ॅन पर शीर्षक से बेचा गया: "मैं उस अनुरोध को पूरा नहीं कर सकता" - एक स्पष्ट संकेत है कि विक्रेता ने विवरण लिखने के लिए एक बड़े भाषा मॉडल का उपयोग किया - या एआई-जनित स्पैम के अन्य उदाहरण। लेकिन कुछ "वास्तव में निराशाजनक और गंभीर" हैं - जैसे सैन फ्रांसिस्को में एक दुर्घटना में क्रूज़ रोबोटैक्सी का दौड़ना और एक महिला को अपने पहियों के नीचे खींचना।
उन्होंने अफसोस जताया, "फिलहाल एआई ज्यादातर जंगली पश्चिम है, और रवैया तेजी से आगे बढ़ने और चीजों को तोड़ने का है।" यह स्पष्ट नहीं है कि तकनीक समाज को कैसे आकार दे रही है, और टीम को उम्मीद है कि एआई इंसीडेंट डेटाबेस इसके दुरुपयोग के तरीकों के बारे में जानकारी प्रदान कर सकता है और अनपेक्षित परिणामों को उजागर कर सकता है - इस उम्मीद में कि डेवलपर्स और नीति निर्माताओं को बेहतर जानकारी होगी ताकि वे अपने मॉडल में सुधार कर सकें या विनियमन कर सकें। सबसे गंभीर जोखिम.
“चारों ओर बहुत प्रचार है। लोग अस्तित्वगत जोखिम के बारे में बात करते हैं। मुझे यकीन है कि एआई मानव सभ्यता के लिए बहुत गंभीर जोखिम पैदा कर सकता है, लेकिन मेरे लिए यह स्पष्ट है कि इनमें से कुछ अधिक वास्तविक दुनिया के जोखिम हैं - जैसे सेल्फ ड्राइविंग कारों से जुड़ी बहुत सारी चोटें या, आप जानते हैं, उपयोग किए जाने वाले एल्गोरिदम के माध्यम से पूर्वाग्रह को बनाए रखना उपभोक्ता वित्त या रोजगार में। हम यही देखते हैं।”
“मुझे पता है कि हम बहुत कुछ खो रहे हैं, ठीक है? हर चीज़ को मीडिया द्वारा रिपोर्ट या कैप्चर नहीं किया जा रहा है। कई बार लोगों को यह एहसास भी नहीं होता कि उन्हें जो नुकसान हो रहा है वह एआई से आ रहा है,'' फ्रेज़ ने कहा। “मुझे उम्मीद है कि शारीरिक क्षति बहुत बढ़ जाएगी। हम बड़े भाषा मॉडलों से [ज्यादातर] मनोवैज्ञानिक नुकसान और अन्य अमूर्त नुकसान होते हुए देख रहे हैं - लेकिन एक बार जब हमारे पास जेनरेटिव रोबोटिक्स होगा, तो मुझे लगता है कि शारीरिक नुकसान बहुत बढ़ जाएगा।
फ्रेज़ इस बात को लेकर सबसे अधिक चिंतित हैं कि एआई किस तरह से मानवाधिकारों और नागरिक स्वतंत्रता को नष्ट कर सकता है। उनका मानना है कि एआई घटनाओं को एकत्रित करने से पता चलेगा कि क्या नीतियों ने समय के साथ प्रौद्योगिकी को सुरक्षित बना दिया है।
हॉल ने कहा, "आपको चीजों को ठीक करने के लिए चीजों को मापना होगा।"
संगठन हमेशा स्वयंसेवकों की तलाश में रहता है और वर्तमान में अधिक घटनाओं को पकड़ने और जागरूकता बढ़ाने पर ध्यान केंद्रित कर रहा है। फ्रेज़ ने इस बात पर जोर दिया कि समूह के सदस्य एआई लुडाइट नहीं हैं: “हम शायद काफी हद तक एआई विरोधी के रूप में सामने आ रहे हैं, लेकिन हम नहीं हैं। हम वास्तव में इसका उपयोग करना चाहते हैं. हम सिर्फ अच्छी चीज़ें चाहते हैं।”
हॉल सहमत हो गया. उन्होंने कहा, "प्रौद्योगिकी को आगे बढ़ाने के लिए, किसी को इसे सुरक्षित बनाने के लिए काम करना होगा।" ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/03/08/ai_mishaps_are_surging_and/
