जेफिरनेट लोगो

एआई सुरक्षा के लिए दोष सिमुलेशन। सत्यापन में नवाचार - सेमीविकी

दिनांक:

अधिक ऑटोमोटिव सामग्री 😀

आधुनिक कारों में, सुरक्षा एआई-आधारित कार्यों के साथ-साथ पारंपरिक तर्क और सॉफ़्टवेयर द्वारा नियंत्रित होती है। एफएमईडीए विश्लेषण के लिए इन कार्यों को दोष-वर्गीकृत कैसे किया जा सकता है? पॉल कनिंघम (जीएम, वेरिफिकेशन एट कैडेंस), राउल कैम्पोसानो (सिलिकॉन कैटलिस्ट, उद्यमी, पूर्व सिनोप्सिस सीटीओ और अब सिल्वाको सीटीओ) और मैं अनुसंधान विचारों पर हमारी श्रृंखला जारी रखते हैं। हमेशा की तरह, प्रतिक्रिया का स्वागत है।

एआई सुरक्षा ग्रेडिंग के लिए दोष सिमुलेशन

द इनोवेशन

इस महीने की पसंद है SiFI-AI: AI मॉडल और एक्सेलेरेटर के लिए तैयार एक तेज़ और लचीला आरटीएल फॉल्ट सिमुलेशन फ्रेमवर्क. यह लेख वीएलएसआई पर 2023 ग्रेट लेक्स संगोष्ठी में प्रकाशित हुआ था। लेखक कार्लज़ूए इंस्टीट्यूट ऑफ टेक्नोलॉजी, जर्मनी से हैं।

आईएसओ 26262 को क्षणिक और व्यवस्थित दोषों के प्रति महत्वपूर्ण कार्यों की संवेदनशीलता और त्रुटियों से बचाव के लिए शमन तर्क की प्रभावशीलता का आकलन करने के लिए दोष सिमुलेशन का उपयोग करके एफएमईडीए विधियों पर आधारित सुरक्षा विश्लेषण की आवश्यकता होती है। विश्लेषण डिज़ाइन विशेषज्ञ की समझ से शुरू होता है कि किन उच्च-स्तरीय व्यवहारों की गारंटी दी जानी चाहिए और साथ ही उन व्यवहारों में कौन सी यथार्थवादी विफलताएँ त्रुटियाँ पैदा कर सकती हैं।

यह विशेषज्ञ जानकारी पारंपरिक तर्क और सॉफ़्टवेयर के लिए पहले से ही समझी जाती है, लेकिन अभी तक एआई मॉडल (न्यूरल नेट) और त्वरक जिन पर वे चलते हैं, के लिए नहीं। सुरक्षा इंजीनियरों को यह जानने के लिए एआई घटकों में विफलता मोड और प्रभावों की खोज में सहायता की आवश्यकता है कि मॉडल और हार्डवेयर में कहां और कैसे खराबी है। इसके अलावा विश्लेषण को डीएनएन के लिए सामान्य बड़े मॉडलों पर व्यावहारिक गति से चलना चाहिए। लेखक एक नई तकनीक का प्रस्ताव करते हैं जिसके बारे में उनका कहना है कि यह मौजूदा तरीकों की तुलना में बहुत तेज़ चलती है।

पॉल की राय

एक विचारोत्तेजक और पेचीदा पेपर: आप ड्राइवर सहायता या स्वायत्त ड्राइव के लिए उपयोग किए जाने वाले एआई त्वरक में यादृच्छिक हार्डवेयर दोषों के जोखिम का आकलन कैसे करते हैं? एआई अनुमान स्वयं एक सांख्यिकीय पद्धति है, इसलिए त्वरक में कहीं यादृच्छिक बिट फ्लिप और गलत अनुमान के बीच संबंध निर्धारित करना गैर-तुच्छ है।

यह पेपर एक ऐसी प्रणाली के निर्माण का प्रस्ताव करता है जो तंत्रिका नेटवर्क की एक परत के वास्तविक आरटीएल सिमुलेशन को "स्वैप" कर सकती है, अन्यथा PyTorch में उस नेटवर्क का एक शुद्ध सॉफ्टवेयर-आधारित अनुमान है। समग्र अनुमान ऑपरेशन पर उस गलती के प्रभाव का आकलन करने के लिए आरटीएल सिम्युलेटेड परत में एक गलती इंजेक्ट की जा सकती है।

लेखक ResNet-18 और GoogLeNet छवि वर्गीकरण नेटवर्क चलाने वाले जेमिनी ओपन-सोर्स AI एक्सेलेरेटर पर अपनी पद्धति प्रदर्शित करते हैं। उन्होंने देखा कि जेमिनी एक्सेलेरेटर ऐरे के प्रत्येक तत्व में 3 रजिस्टर (इनपुट सक्रियण, वजन और आंशिक योग) और एक वजन चयन सिग्नल है, साथ में इंजेक्ट करने के लिए 4 संभावित प्रकार की गलती है। वे 1.5M अनुमान प्रयोग चलाते हैं, प्रत्येक में एक यादृच्छिक दोष इंजेक्ट किया जाता है, यह जांच करते हुए कि नेटवर्क से बाहर शीर्ष -1 वर्गीकरण गलत है या नहीं। उनका रनटाइम पिछले काम की तुलना में प्रभावशाली 7 गुना तेज है, और उनके चार्ट सहज अपेक्षा को मान्य करते हैं कि नेटवर्क की पिछली परतों में दोष गहरी परतों की तुलना में अधिक प्रभावशाली हैं।

साथ ही, उनके डेटा से यह स्पष्ट है कि किसी प्रकार के हार्डवेयर सुरक्षा तंत्र (उदाहरण के लिए ट्रिपल-वोटिंग) की आवश्यकता है क्योंकि नेटवर्क की पहली 1 परतों में दोषों के लिए शीर्ष -2 वर्गीकरण त्रुटि की पूर्ण संभावना 8-10% है। सुरक्षित ड्राइविंग अनुभव के लिए यह बहुत अधिक है!

राउल की राय

SiFI-AI का मुख्य योगदान DNN त्वरक में क्षणिक दोषों का अनुकरण करना है, जो चक्र-सटीक RTL सिमुलेशन और स्थिति-आधारित दोष इंजेक्शन के साथ तेज़ AI अनुमान का संयोजन करता है। यह अत्याधुनिक से 7 गुना तेज है (संदर्भ 2, कॉन्डिया एट अल, जीपीयू पर तेज और सटीक सीएनएन विश्वसनीयता मूल्यांकन के लिए आर्किटेक्चरल सिमुलेशन और सॉफ्टवेयर फॉल्ट इंजेक्शन का संयोजन). चाल केवल वही अनुकरण करना है जो धीमे चक्र-सटीक आरटीएल में आवश्यक है। मॉडल किए गए दोष एकल-इवेंट अपसेट (एसईयू) हैं, अर्थात, विकिरण और आवेशित कणों जैसे बाहरी प्रभावों से प्रेरित क्षणिक बिट-फ़्लिप, जो अगले लेखन ऑपरेशन तक बने रहते हैं। इस मामले में यह पता लगाना विशेष रूप से कठिन है कि क्या एक भी दोष त्रुटि का कारण बनेगा; डेटा के उच्च स्तर के पुन: उपयोग से महत्वपूर्ण दोष प्रसार हो सकता है, और दोष सिमुलेशन के लिए हार्डवेयर आर्किटेक्चर और डीएनएन मॉडल टोपोलॉजी दोनों को ध्यान में रखना होगा।

SiFI-AI हार्डवेयर सिमुलेशन को ML फ्रेमवर्क (PyTorch) में एकीकृत करता है। एचडब्ल्यू सिमुलेशन के लिए यह चक्र सटीक आरटीएल मॉडल उत्पन्न करने के लिए एक स्वतंत्र और ओपन-सोर्स वेरिलॉग सिम्युलेटर वेरिलेटर का उपयोग करता है। एक गलती नियंत्रक उपयोगकर्ता द्वारा निर्देशित स्थिति-आधारित दृष्टिकोण का उपयोग करके गलती इंजेक्शन का प्रबंधन करता है, अर्थात, उन स्थितियों की एक सूची जो किसी गलती को छिपाने से बचाती है। यह चुनने के लिए कि आरटीएल में कौन सा भाग सिम्युलेटेड है, यह परतों को "के आधार पर छोटी टाइलों में विघटित करता है"परत गुण, लूप टाइलिंग रणनीति, त्वरक लेआउट, और संबंधित दोष” और एक टाइल का चयन करता है।

प्रायोगिक भाग में परीक्षण किया गया उपकरण जेमिनी है, जो चिपयार्ड परियोजना में यूसी बर्कले में 16×16 प्रसंस्करण तत्वों (पीई) के कॉन्फ़िगरेशन में बनाया गया एक सिस्टोलिक सरणी डीएनएन त्वरक है। SiFI-AI दो विशिष्ट DNN वर्कलोड, ResNet-1.5 और GoogLeNet पर 18 M फ़ॉल्ट इंजेक्शन प्रयोगों के साथ एक लचीलापन अध्ययन करता है। उपयोगकर्ता द्वारा निर्दिष्ट अनुसार, दोष तीन पीई डेटा रजिस्टरों और एक नियंत्रण सिग्नल में इंजेक्ट किए जाते हैं। परिणाम कम त्रुटि संभावना दिखाते हैं, जो डीएनएन के लचीलेपन की पुष्टि करते हैं। वे यह भी दिखाते हैं कि नियंत्रण सिग्नल दोषों का डेटा सिग्नल दोषों की तुलना में बहुत अधिक प्रभाव पड़ता है, और चौड़ी और उथली परतें संकीर्ण और गहरी परतों की तुलना में अधिक संवेदनशील होती हैं।

यह एक अच्छा पेपर है जो डीएनएन विश्वसनीयता मूल्यांकन के क्षेत्र को आगे बढ़ाता है। पेपर अच्छी तरह से लिखा गया है और स्पष्ट है और दावों और परिणामों का समर्थन करने के लिए पर्याप्त विवरण और संदर्भ प्रदान करता है। भले ही विभिन्न स्तरों पर सिमुलेशन के संयोजन का मूल विचार पुराना है, लेखक इसका बहुत प्रभावी ढंग से उपयोग करते हैं। SciFI-AI जैसे फ्रेमवर्क डिजाइनरों और शोधकर्ताओं को उनके आर्किटेक्चर को अनुकूलित करने और उन्हें अधिक लचीला बनाने में मदद कर सकते हैं। मुझे विभिन्न परतों और संकेतों पर दोष प्रभाव का विश्लेषण भी पसंद है, जो कुछ दिलचस्प अंतर्दृष्टि प्रकट करता है। दोष इंजेक्शन रणनीति और टाइल्स के चयन पर अधिक जानकारी प्रदान करके पेपर में सुधार किया जा सकता है। विषय काफी विशिष्ट होने के बावजूद, कुल मिलाकर, एक बहुत ही आनंददायक पेपर!

इस पोस्ट को इसके माध्यम से साझा करें:

स्पॉट_आईएमजी

नवीनतम खुफिया

स्पॉट_आईएमजी