आर्टिफिशियल इंटेलिजेंस ने लोगों की नौकरियां छीनने से लेकर दुष्प्रचार फैलाने और कॉपीराइट का उल्लंघन करने तक हर चीज के लिए मीडिया का बहुत ध्यान आकर्षित किया है, लेकिन साइबर सुरक्षा पर एआई का प्रभाव इसका सबसे गंभीर तात्कालिक मुद्दा हो सकता है।
सुरक्षा टीमों पर एआई का प्रभाव अनुमानतः दोतरफा है। जब ठीक से लागू किया जाता है, तो यह कंप्यूटर गति पर बड़ी मात्रा में डेटा संसाधित करने, दूर के डेटा बिंदुओं के बीच कनेक्शन ढूंढने, पैटर्न की खोज करने, हमलों का पता लगाने और हमले की प्रगति की भविष्यवाणी करने जैसे माध्यमों के माध्यम से साइबर सुरक्षा चिकित्सकों के लिए एक शक्तिशाली बल गुणक हो सकता है। लेकिन, जैसा कि सुरक्षा व्यवसायी अच्छी तरह से जानते हैं, एआई को हमेशा ठीक से लागू नहीं किया जाता है। यह पहचान से समझौता और फ़िशिंग से लेकर रैंसमवेयर और आपूर्ति श्रृंखला हमलों तक, साइबर सुरक्षा खतरों की पहले से ही लागू श्रृंखला को तीव्र करता है।
सीआईएसओ और सुरक्षा टीमों को एआई के फायदे और जोखिम दोनों को समझने की जरूरत है, जिसके लिए कौशल के पर्याप्त पुनर्संतुलन की आवश्यकता है। उदाहरण के लिए, सुरक्षा इंजीनियरों को मशीन लर्निंग, मॉडल गुणवत्ता और पूर्वाग्रह, आत्मविश्वास के स्तर और प्रदर्शन मेट्रिक्स की मूल बातें समझनी चाहिए। डेटा वैज्ञानिकों हाइब्रिड टीमों में प्रभावी ढंग से योगदान करने के लिए साइबर सुरक्षा के बुनियादी सिद्धांतों, हमले के पैटर्न और जोखिम मॉडलिंग को सीखने की जरूरत है।
साइबर सुरक्षा में सहायता के लिए एआई मॉडल को उचित प्रशिक्षण की आवश्यकता है
एआई-ईंधन वाले खतरों के प्रसार से निपटने का कार्य सीआईएसओ और पहले से ही अधिक काम करने वाली सुरक्षा टीमों के लिए चुनौतियों को बढ़ा देता है, जिन्हें न केवल नए परिष्कृत फ़िशिंग अभियानों से निपटना होगा। बड़ी भाषा मॉडल (एलएलएम) चैटजीपीटी की तरह, लेकिन फिर भी डीएमजेड में एक अप्रकाशित सर्वर के बारे में चिंता करनी होगी जो एक बड़ा खतरा पैदा कर सकता है।
दूसरी ओर, एआई जोखिम मूल्यांकन और खतरों का पता लगाने में टीमों का बहुत समय और प्रयास बचा सकता है। यह प्रतिक्रिया में भी मदद कर सकता है - हालाँकि यह सावधानी से किया जाना चाहिए। एक एआई मॉडल विश्लेषकों को यह सीखने में मदद कर सकता है कि वे घटनाओं का आकलन कैसे करते हैं, और फिर या तो उन कार्यों को स्वयं निष्पादित करते हैं या मानव समीक्षा के लिए मामलों को प्राथमिकता देते हैं। लेकिन टीमों को यह सुनिश्चित करना होगा कि सही लोग एआई निर्देश दे रहे हैं।
उदाहरण के लिए, वर्षों पहले, मैंने एक प्रयोग चलाया था, जहां अलग-अलग कौशल स्तरों के 10 विश्लेषकों ने संदिग्ध डेटा घुसपैठ के 100 मामलों की समीक्षा की थी। दो वरिष्ठ विश्लेषकों ने सभी सकारात्मक और नकारात्मक पहलुओं की सही पहचान की, तीन कम अनुभवी विश्लेषकों ने लगभग सभी मामलों को गलत पाया, और शेष पांच को यादृच्छिक परिणाम मिले। इससे कोई फर्क नहीं पड़ता कि एआई मॉडल कितना अच्छा है, अगर ऐसी टीम द्वारा प्रशिक्षित किया जाए तो यह बेकार होगा।
एआई एक शक्तिशाली कार की तरह है: यह एक अनुभवी ड्राइवर के हाथों में चमत्कार कर सकती है या एक अनुभवहीन के हाथों में बहुत अधिक नुकसान कर सकती है। यह एक ऐसा क्षेत्र है जहां कौशल की कमी एआई के साइबर सुरक्षा प्रभाव को प्रभावित कर सकती है।
सीटीओ एआई समाधान कैसे चुन सकते हैं?
एआई के बारे में प्रचार को देखते हुए, संगठन प्रौद्योगिकी को अपनाने में जल्दबाजी कर सकते हैं। लेकिन एआई को उचित रूप से प्रशिक्षित करने के अलावा, ऐसे प्रश्न भी हैं जिनका उत्तर सीटीओ को देने की आवश्यकता है, जो उपयुक्तता के मुद्दों से शुरू होते हैं:
- क्या AI संगठन के पारिस्थितिकी तंत्र में फिट बैठता है? इसमें प्लेटफ़ॉर्म, बाहरी घटक जैसे डेटाबेस और खोज इंजन, मुफ़्त और ओपन-सोर्स सॉफ़्टवेयर और लाइसेंसिंग, और संगठन की सुरक्षा और प्रमाणन, बैकअप और फ़ेलओवर भी शामिल हैं।
- क्या AI उद्यम के आकार का पैमाना है?
- एआई को बनाए रखने और संचालित करने के लिए सुरक्षा टीम को कौन से कौशल की आवश्यकता है?
सीटीओ को एआई समाधान के लिए विशेष रूप से प्रश्नों का समाधान भी करना चाहिए:
- किसी विशिष्ट AI उत्पाद के दावा किए गए कार्यों में से कौन सा आपके व्यावसायिक उद्देश्यों से मेल खाता है?
- क्या मौजूदा टूल का उपयोग करके समान कार्यक्षमता प्राप्त की जा सकती है?
- क्या समाधान वास्तव में खतरों का पता लगाता है?
उस अंतिम प्रश्न का उत्तर देना कठिन हो सकता है क्योंकि दुर्भावनापूर्ण साइबर सुरक्षा घटनाएं वैध गतिविधि की तुलना में बहुत छोटे पैमाने पर होती हैं। लाइव डेटा का उपयोग करते हुए एक सीमित प्रूफ-ऑफ-कॉन्सेप्ट अध्ययन में, एक एआई उपकरण कुछ भी नहीं होने पर कुछ भी पता नहीं लगा सकता है। विक्रेता अक्सर एआई की क्षमता प्रदर्शित करने के लिए सिंथेटिक डेटा या रेड टीम हमलों का उपयोग करते हैं, लेकिन सवाल यह है कि क्या यह सही पहचान क्षमता का प्रदर्शन कर रहा है या केवल उस धारणा को मान्य कर रहा है जिसके तहत संकेतक उत्पन्न किए गए थे।
यह निर्धारित करना मुश्किल है कि एआई क्यों सोचता है कि कुछ हमला था क्योंकि एआई एल्गोरिदम अनिवार्य रूप से ब्लैक बॉक्स हैं, फिर भी यह समझाने में असमर्थ हैं कि वे एक निश्चित निष्कर्ष पर कैसे पहुंचे - जैसा कि डीएआरपीए द्वारा प्रदर्शित किया गया है व्याख्या करने योग्य एआई (एक्सएआई) कार्यक्रम.
एआई के जोखिमों को कम करना
एक एआई समाधान उतना ही अच्छा होता है जितना डेटा के साथ वह काम करता है। नैतिक व्यवहार सुनिश्चित करने के लिए, एआई मॉडल को नैतिक डेटा पर प्रशिक्षित किया जाना चाहिए, न कि वर्ल्ड वाइड वेब पर मौजूद कचरे के थोक संग्रह पर। और कोई भी डेटा वैज्ञानिक जानता है कि किसी मॉडल को प्रशिक्षित करने के लिए एक अच्छी तरह से संतुलित, निष्पक्ष, स्वच्छ डेटासेट तैयार करना एक कठिन, थकाऊ और अस्वाभाविक कार्य है।
इस वजह से, एलएलएम सहित एआई मॉडल को अंततः उसी तरह से प्रबंधित किया जा सकता है जैसे वे साइबर सुरक्षा की सर्वोत्तम सेवा करेंगे - विशेष मॉडल के रूप में ("सर्व-जानने वाले" सामान्य प्रयोजन मॉडल के विपरीत) जो विशेष क्षेत्रों की सेवा करते हैं और प्रशिक्षित होते हैं क्षेत्र में विषय वस्तु विशेषज्ञों द्वारा संकलित डेटा।
इस समय मीडिया में मचे आक्रोश के जवाब में एआई को सेंसर करने की कोशिश से समस्या का समाधान नहीं होगा। विश्वसनीय डेटासेट बनाने में केवल मेहनती काम ही ऐसा कर सकता है। जब तक एआई कंपनियां - और उन्हें समर्थन देने वाले वीसी - इस दृष्टिकोण को सम्मानजनक सामग्री वितरित करने के एकमात्र तरीके के रूप में स्वीकार नहीं करते हैं, तब तक यह कचरा अंदर/कचरा बाहर है।
क्या एआई विकास को और अधिक विनियमित किया जाना चाहिए?
एआई के विकास ने बहुत कुछ उत्पन्न किया है वैध चिंताएँ डीपफेक और वॉयस क्लोनिंग से लेकर उन्नत फ़िशिंग/विशिंग/स्मिशिंग, किलर रोबोट और यहां तक कि किसी की संभावना तक हर चीज़ के बारे में एआई सर्वनाश. एलीएज़र युडकोव्स्की, आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) में सबसे सम्मानित नामों में से एक, ने हाल ही में "यह सब बंद करो, “यह कहना कि प्रस्तावित छह महीने की मोहलत पर्याप्त नहीं थी।
लेकिन आप नई तकनीकों के विकास को नहीं रोक सकते, यह तथ्य प्राचीन काल में कीमियागरों के दिनों से ही स्पष्ट है। तो, व्यावहारिक दृष्टिकोण से, एआई को नियंत्रण से बाहर होने से रोकने और एआई-संचालित विलुप्त होने की घटना के जोखिम को कम करने के लिए क्या किया जा सकता है? इसका उत्तर अन्य क्षेत्रों में नियोजित नियंत्रणों के कई सेट हैं जिनमें हथियारीकरण की संभावना है:
- पारदर्शी शोध. ओपन-सोर्स एआई विकास न केवल नवाचार को बढ़ावा देता है और पहुंच को लोकतांत्रिक बनाता है, बल्कि इसके कई सुरक्षा लाभ भी हैं, जिनमें सुरक्षा खामियों और विकास की खतरनाक रेखाओं को पहचानने से लेकर संभावित दुरुपयोग के खिलाफ सुरक्षा तैयार करना शामिल है। बिग टेक अब तक ओपन-सोर्स प्रयासों का समर्थन करता है, लेकिन प्रतिस्पर्धा तेज होने पर यह बदल सकता है। ओपन-सोर्स पहुंच बनाए रखने के लिए विधायी उपायों की आवश्यकता हो सकती है।
- प्रयोग युक्त. पर्याप्त रूप से उन्नत एआई वाले सभी प्रयोगों को सुरक्षा और सुरक्षा प्रक्रियाओं को सख्ती से लागू करने के साथ सैंडबॉक्स करने की आवश्यकता है। ये अचूक उपाय नहीं हैं, लेकिन स्थानीय गड़बड़ी और वैश्विक तबाही के बीच अंतर कर सकते हैं।
- स्विच मारें. एंटीडोट्स और टीकों की तरह, भगोड़े या विनाशकारी एआई वेरिएंट के खिलाफ जवाबी उपायों को विकास प्रक्रिया का एक अभिन्न अंग होना चाहिए। यहां तक कि रैंसमवेयर निर्माता भी एक किल स्विच बनाते हैं।
- इसका उपयोग कैसे किया जाए, इसे विनियमित करें। एआई एक ऐसी तकनीक है जिसे मानवता की भलाई के लिए लागू किया जा सकता है या विनाशकारी परिणामों के साथ दुरुपयोग किया जा सकता है। इसके अनुप्रयोगों का विनियमन विश्व सरकारों के लिए एक कार्य है, और चैटजीपीटी के अगले संस्करण को सेंसर करने की आवश्यकता की तुलना में इसकी तात्कालिकता बहुत अधिक है। यूरोपीय संघ एआई अधिनियम यह एक सुव्यवस्थित, संक्षिप्त आधार है जिसका उद्देश्य नवाचार को दबाए बिना दुरुपयोग को रोकना है। अमेरिका एआई बिल ऑफ राइट्स और एआई पर हालिया कार्यकारी आदेश कम विशिष्ट हैं और उचित मॉडल विकास, प्रशिक्षण और रोकथाम के मुद्दों की तुलना में राजनीतिक शुद्धता पर अधिक ध्यान केंद्रित करते हैं। हालाँकि, ये उपाय महज़ एक शुरुआत हैं।
निष्कर्ष
एआई साइबर सुरक्षा में आ रहा है, चाहे सीआईएसओ इसे चाहे या नहीं, और यह साइबर सुरक्षा क्षेत्र में पर्याप्त लाभ और जोखिम दोनों लाएगा, विशेष रूप से इसके अंतिम आगमन के साथ पोस्ट-क्वांटम क्रिप्टोग्राफी. कम से कम, सीआईएसओ को एआई-प्रचारित उपकरणों के लाभों और एआई-संचालित हमलों के खतरों को समझने में समय लगाना चाहिए। वे एआई में पैसा निवेश करते हैं या नहीं, यह काफी हद तक एआई सुरक्षा उत्पादों के वास्तविक लाभों, एआई हमलों के प्रचारित परिणामों और कुछ हद तक चैटजीपीटी के साथ उनके व्यक्तिगत अनुभव पर निर्भर करता है।
सीआईएसओ के सामने चुनौती यह है कि एआई को प्रभावी ढंग से और जिम्मेदारी से कैसे लागू किया जाए।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://www.dataversity.net/the-impact-of-ai-on-cybersecurity/
