पिछले हफ्ते चीनी सोशल मीडिया प्लेटफॉर्म वीबो पर पोस्ट किए गए एक वीडियो में अमेरिकी पॉप स्टार टेलर स्विफ्ट को धाराप्रवाह मंदारिन बोलते हुए दिखाया गया है। केवल क्लिप में 33 वर्षीय गायक नहीं था। यह चीनी स्टार्ट-अप हेजेन के एआई टूल द्वारा तैयार किया गया एक डीपफेक वीडियो था।
21 अक्टूबर से, जब स्विफ्ट का डीपफेक पहली बार सामने आया था साझा, वीडियो को छह मिलियन से अधिक बार देखा जा चुका है। लेकिन इसने एआई के अधिक उन्नत होने के साथ आने वाले संभावित नुकसानों पर भी बहस शुरू कर दी है, जिससे वास्तविक और नकली पहचान या सामग्री के बीच अंतर करना मुश्किल हो गया है।
डीपफेक-यथार्थवादी लेकिन नकली चित्र या वीडियो का उपयोग किसी अन्य व्यक्ति की आवाज सहित, उनका प्रतिरूपण करने के लिए किया जाता है-गलत डिजिटल पहचान बनाने के लिए तैनात किया जा सकता है, जिसका लाभ साइबर अपराधी धोखाधड़ी करने के लिए उठा सकते हैं। तस्वीरें और वीडियो देखने और बात करने में बिल्कुल उस व्यक्ति की तरह लगते हैं जिस पर निशाना साधा गया था।
उदाहरण के लिए, मई में, एक चीनी व्यापारी 4.3 मिलियन युआन का नुकसान हुआ [$612,000] जब एक धोखेबाज़ ने अपने दोस्त की पहचान बनाने के लिए फेस-स्वैपिंग एआई का इस्तेमाल किया। टेलर स्विफ्ट डीपफेक में पैसे का कोई नुकसान नहीं हुआ, लेकिन सोशल मीडिया पर धोखाधड़ी से बचने के लिए यहां क्या देखना है।
एआई और सोशल इंजीनियरिंग: द साइलेंट थ्रेट
एआई-संचालित सोशल इंजीनियरिंग के बढ़ते जोखिम को उजागर करें। जानें कि अपनी सुरक्षा कैसे करें.#AI #डीपफेक #दुष्प्रचार #उथकिथक pic.twitter.com/FQquiIWXuJa
- आप सोचते हैं, मैं सोचता हूं (@uthkithk) अक्टूबर 27
एआई सेलिब्रिटी समर्थन सत्यापित करें
स्कैमर्स आमतौर पर अपने पीड़ितों को लुभाने के लिए विश्वसनीय व्यक्तियों के एआई डीपफेक का उपयोग करेंगे। हाल के महीनों में, झूठे समर्थन के साथ लोगों को बरगलाने के लिए अनगिनत नकली एआई हस्तियां सामने आई हैं। नकली ब्रांडों को बढ़ावा देने के लिए एलोन मस्क और बेयॉन्से जैसे आइकन के नकली संस्करणों को लक्षित किया जाता है।
जाहिरा तौर पर, बहुत सारे झूठे विज्ञापन Google पर खोज परिणामों में उच्च रैंक पर हैं, संभवतः इसलिए क्योंकि कंपनी धोखाधड़ी वाली सामग्री को फ़िल्टर करने के लिए पर्याप्त प्रयास नहीं करती है।
हालाँकि, AI-जनित नकली सामग्री के युग में, बहुत अच्छे-से-सच्चे वीडियो को आलोचनात्मक नज़र से देखना महत्वपूर्ण है। असाधारण दावों के लिए असाधारण साक्ष्य की आवश्यकता होती है। यदि आपके सामने ऐसे वायरल वीडियो आते हैं जो सनसनीखेज लगते हैं, तो उनकी प्रामाणिकता और स्रोत को सत्यापित करने के लिए समय निकालें।
उपभोक्ता तकनीकी विशेषज्ञ और रेडियो होस्ट किम कोमांडो कहते हैं, "यदि आप किसी उत्पाद या सेवा के बारे में सलाह चाहते हैं, तो समीक्षाएँ देखें या किसी विशेषज्ञ को खोजें जो अच्छी तरह से वाकिफ हो और इसे साबित कर सके।"
"एक और स्मार्ट कदम: 'समीक्षा' शब्द के साथ विज्ञापन में उत्पाद और अभिनेता को Google पर खोजें। अगर किसी को किसी उत्पाद का समर्थन करने के लिए भुगतान मिल रहा है, तो सोशल मीडिया पर सिर्फ एक यादृच्छिक विज्ञापन नहीं चल रहा है, ”उसने एक लेख में जोड़ा प्रकाशित न्यूयॉर्क पोस्ट द्वारा.
यह भी पढ़ें: टेलर स्विफ्ट, एम्मा वॉटसन और अन्य को एआई पोर्न उछाल के रूप में लक्षित किया गया
डिटेल पर ध्यान दें
डीपफेक तकनीक विशेष रूप से डरावनी है क्योंकि यह बहुत यथार्थवादी है। एआई उपकरण जैसे स्थिर प्रसार आवाज़ों और मुँह की हरकतों में हेरफेर कर सकता है, जिससे लोगों के लिए यह विश्वास करना आसान हो जाता है कि कोई वीडियो या ऑडियो रिकॉर्डिंग प्रामाणिक है।
याद रखें घोस्टराइटर का एआई-निर्मित ड्रेक और द वीकेंड गीत, जिसने संगीत स्ट्रीमिंग सेवाओं सहित लाखों लोगों को यह सोचकर मूर्ख बनाया कि यह एक नई रिलीज़ है? डीपफेक का पता लगाने के लिए, एआई-संचालित ई-कॉमर्स एक्सेलेरेटर राइस के सह-संस्थापक और सीईओ एलेक्स किम सुझाव देते हैं:
“जो वीडियो आप देख रहे हैं उसमें किसी भी असामान्य विसंगति पर ध्यान दें। डीपफेक का उपयोग करने वाले सामग्री निर्माता आमतौर पर समय बचाने की कोशिश करते हैं, इसलिए विवरण को बेहतर बनाने में वे समय नहीं लगाएंगे, ”किम ने मेटान्यूज को बताया।
किम ने कहा, "इसका मतलब है कि किसी भी बेमेल चेहरे के भाव, अप्राकृतिक हरकतें, अजीब कलाकृतियां, आवाज का बेमेल या लिप-सिंकिंग डीपफेक वीडियो में मौजूद होगा।"
"आँखों पर विशेष ध्यान दें, क्योंकि डीपफेक को इनसे सबसे अधिक संघर्ष करना पड़ता है।"
चीनी व्यवसायी का मामला एक अनुस्मारक है कि डीपफेक तकनीक एक शक्तिशाली उपकरण है जिसका उपयोग अच्छे या बुरे के लिए किया जा सकता है। नवंबर में ओपनएआई द्वारा अपना वायरल चैटबॉट चैटजीपीटी लॉन्च करने के बाद से नियामकों ने एआई के खतरों पर अधिक ध्यान देना शुरू कर दिया है, जिससे वैश्विक एआई दौड़ शुरू हो गई है।
मेटान्यूज़ के रूप में पहले की रिपोर्ट, विशेषज्ञ नई तकनीकों को विकसित करने का सुझाव देते हैं जो नकली पहचान के उपयोग का पता लगा सकती हैं और रोक सकती हैं। इसमें ऑनलाइन उपयोगकर्ताओं की पहचान सत्यापित करने के लिए चेहरे की पहचान या फिंगरप्रिंट स्कैनिंग जैसे बायोमेट्रिक डेटा का उपयोग शामिल हो सकता है।
क्या आप अपनी सेल्फी को अछूत बनाने के लिए तैयार हैं?@MITका फोटोगार्ड एआई चालबाजों के खिलाफ आपका डिजिटल अंगरक्षक है।
छोटे, अदृश्य बदलाव आपकी तस्वीरों को डीपफेक और घटिया संपादनों से सुरक्षित रखते हैं—ऑनलाइन सुरक्षा में एक आशाजनक स्वर्ण मानक।
☞ क्या आप अपनी तस्वीरों की सुरक्षा को लेकर चिंतित हैं? pic.twitter.com/blCBYw8REq
- Ｍ (@emilios_eth) अक्टूबर 27
सुराग के लिए पृष्ठभूमि की जाँच करें
जबकि कुछ ऐप्स का उपयोग करते हैं वॉटरमार्क एआई-जनरेटेड सामग्री की पहचान करने के लिए, यह दूसरों के साथ इतना स्पष्ट नहीं है। एलेक्स किम के अनुसार, एआई डीपफेक सामग्री के बारे में सुराग खोजने के लिए उपयोगकर्ताओं को छवियों या वीडियो में पृष्ठभूमि को स्कैन करना होगा। चावल.जीत सीईओ।
किम ने कहा, "अगर पृष्ठभूमि अस्वाभाविक रूप से घूम रही है या प्रकाश अग्रभूमि पर छाया से मेल नहीं खा रहा है, तो यह संभवतः एक डीपफेक है।" "सामग्री पर बनावट, या उसकी कमी जैसे विवरण अन्य संकेत हैं।"
“पिक्सेलेशन या धुंधलापन देखें जहां कोई नहीं होना चाहिए, खासकर अगर यह किसी मानवीय विषय पर होता है। हेयरलाइन, कान, नाक या चेहरे की विशेषताओं जैसे प्राकृतिक विवरण को डीपफेक में कम से कम ठोस रूप से दिखाना मुश्किल है।
एआई तकनीक, जो अधिकांश भाग के लिए मुफ़्त और आसानी से सुलभ है, का उपयोग बुरे कलाकारों द्वारा कई तरीकों से किया जा रहा है। डीपफेक बनाने के लिए टेलर स्विफ्ट और एम्मा वॉटसन सहित हाई-प्रोफाइल महिला हस्तियों की छवियों में एआई का उपयोग करके हेरफेर किया गया है अश्लील सामग्री.
अमेरिका में मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (एमआईटी) का एक नया एआई टूल डीपफेक पर अंकुश लगाने का वादा करता है। लोग उपयोग कर सकते हैं फोटो गार्ड "[उनके] चित्रों को डीपफेक और गंदे संपादनों से सुरक्षित रखने के लिए छोटे, अदृश्य बदलाव करना - ऑनलाइन सुरक्षा में एक आशाजनक स्वर्ण मानक।"
एलेक्स किम ने मेटान्यूज़ को बताया कि सोशल मीडिया पर नकली एआई वीडियो की पहचान करने का सबसे स्पष्ट और सामान्य तरीका उन चैनलों पर विचार करना है जिन पर उन्हें होस्ट किया गया है।
किम ने कहा, "आप यह देखना चाहेंगे कि चैनल हाल ही में कितना पोस्ट कर रहा है और क्या सामग्री निर्माण में कोई बड़ी वृद्धि या बढ़ोतरी हुई है।" "यदि पोस्ट किए गए वीडियो में बड़ी वृद्धि होती है जो अव्यवस्थित, निम्न-गुणवत्ता वाले या अजीब लगते हैं, तो यह एक निश्चित संकेत है कि निर्माता डीपफेक का उपयोग कर रहा है।"
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://metanews.com/how-to-spot-ai-deepfakes-on-social-media/
