लेखक द्वारा छवि
 

ChatGPT को ऑनलाइन एक्सेस करना बहुत आसान है - आपको बस एक इंटरनेट कनेक्शन और एक अच्छा ब्राउज़र चाहिए। हालाँकि, ऐसा करके आप अपनी गोपनीयता और डेटा से समझौता कर सकते हैं। OpenAI मॉडलों को पुनः प्रशिक्षित करने के लिए आपकी त्वरित प्रतिक्रियाओं और अन्य मेटाडेटा को संग्रहीत करता है। हालांकि यह कुछ लोगों के लिए चिंता का विषय नहीं हो सकता है, लेकिन जो लोग गोपनीयता के प्रति सचेत हैं वे बिना किसी बाहरी ट्रैकिंग के स्थानीय रूप से इन मॉडलों का उपयोग करना पसंद कर सकते हैं।

इस पोस्ट में, हम स्थानीय स्तर पर बड़े भाषा मॉडल (एलएलएम) का उपयोग करने के पांच तरीकों पर चर्चा करेंगे। अधिकांश सॉफ़्टवेयर सभी प्रमुख ऑपरेटिंग सिस्टम के साथ संगत हैं और इन्हें तत्काल उपयोग के लिए आसानी से डाउनलोड और इंस्टॉल किया जा सकता है। अपने लैपटॉप पर एलएलएम का उपयोग करके, आपको अपना मॉडल चुनने की स्वतंत्रता है। आपको बस हगिंगफेस हब से मॉडल डाउनलोड करना होगा और इसका उपयोग शुरू करना होगा। इसके अतिरिक्त, आप इन एप्लिकेशन को अपने प्रोजेक्ट फ़ोल्डर तक पहुंच प्रदान कर सकते हैं और संदर्भ-जागरूक प्रतिक्रियाएं उत्पन्न कर सकते हैं।

GPT4सभी एक अत्याधुनिक ओपन-सोर्स सॉफ़्टवेयर है जो उपयोगकर्ताओं को अत्याधुनिक ओपन-सोर्स मॉडल आसानी से डाउनलोड और इंस्टॉल करने में सक्षम बनाता है। 

बस वेबसाइट से GPT4ALL डाउनलोड करें और इसे अपने सिस्टम पर इंस्टॉल करें। इसके बाद, पैनल से वह मॉडल चुनें जो आपकी आवश्यकताओं के अनुरूप हो और उसका उपयोग शुरू करें। यदि आपके पास CUDA (Nvidia GPU) स्थापित है, तो GPT4ALL स्वचालित रूप से प्रति सेकंड 30 टोकन तक की त्वरित प्रतिक्रिया उत्पन्न करने के लिए आपके GPU का उपयोग करना शुरू कर देगा।

आप महत्वपूर्ण दस्तावेज़ों और कोड वाले कई फ़ोल्डरों तक पहुंच प्रदान कर सकते हैं, और GPT4ALL पुनर्प्राप्ति-संवर्धित पीढ़ी का उपयोग करके प्रतिक्रियाएं उत्पन्न करेगा। GPT4ALL उपयोगकर्ता के अनुकूल, तेज़ और AI समुदाय के बीच लोकप्रिय है।

सुविधाओं और उपयोग के मामलों के बारे में अधिक जानने के लिए GPT4ALL के बारे में ब्लॉग पढ़ें: अल्टीमेट ओपन-सोर्स लार्ज लैंग्वेज मॉडल इकोसिस्टम.

एलएम स्टूडियो एक नया सॉफ़्टवेयर है जो GPT4ALL की तुलना में कई लाभ प्रदान करता है। उपयोगकर्ता इंटरफ़ेस उत्कृष्ट है, और आप कुछ ही क्लिक के साथ हगिंग फेस हब से कोई भी मॉडल स्थापित कर सकते हैं। इसके अतिरिक्त, यह GPU ऑफलोडिंग और अन्य विकल्प प्रदान करता है जो GPT4ALL में उपलब्ध नहीं हैं। हालाँकि, एलएम स्टूडियो एक बंद स्रोत है, और इसमें प्रोजेक्ट फ़ाइलों को पढ़कर संदर्भ-जागरूक प्रतिक्रियाएँ उत्पन्न करने का विकल्प नहीं है।

एलएम स्टूडियो हजारों ओपन-सोर्स एलएलएम तक पहुंच प्रदान करता है, जिससे आप एक स्थानीय अनुमान सर्वर शुरू कर सकते हैं जो ओपनएआई के एपीआई की तरह व्यवहार करता है। आप कई विकल्पों के साथ इंटरैक्टिव यूजर इंटरफेस के माध्यम से अपने एलएलएम की प्रतिक्रिया को संशोधित कर सकते हैं।

यह भी पढ़े एलएम स्टूडियो के साथ स्थानीय रूप से एलएलएम चलाएं एलएम स्टूडियो और इसकी प्रमुख विशेषताओं के बारे में अधिक जानने के लिए।

ओलामा एक कमांड-लाइन इंटरफ़ेस (सीएलआई) उपकरण है जो लामा 2, मिस्ट्रल और जेम्मा जैसे बड़े भाषा मॉडल के लिए त्वरित संचालन को सक्षम बनाता है। यदि आप एक हैकर या डेवलपर हैं, तो यह सीएलआई टूल एक शानदार विकल्प है। आप सॉफ़्टवेयर डाउनलोड और इंस्टॉल कर सकते हैं और LLaMA 2 मॉडल का उपयोग शुरू करने के लिए `द लामा रन लामा2` कमांड का उपयोग कर सकते हैं। आप GitHub रिपॉजिटरी में अन्य मॉडल कमांड पा सकते हैं। 

यह आपको एक स्थानीय HTTP सर्वर शुरू करने की भी अनुमति देता है जिसे अन्य अनुप्रयोगों के साथ एकीकृत किया जा सकता है। उदाहरण के लिए, आप स्थानीय सर्वर पता प्रदान करके कोड जीपीटी वीएससीओडी एक्सटेंशन का उपयोग कर सकते हैं और इसे एआई कोडिंग सहायक के रूप में उपयोग करना शुरू कर सकते हैं।

इनके साथ अपनी कोडिंग और डेटा वर्कफ़्लो में सुधार करें शीर्ष 5 एआई कोडिंग सहायक. 

एलएलएएमए.सीपीपी एक उपकरण है जो सीएलआई और ग्राफिकल यूजर इंटरफेस (जीयूआई) दोनों प्रदान करता है। यह आपको बिना किसी परेशानी के स्थानीय स्तर पर किसी भी ओपन-सोर्स एलएलएम का उपयोग करने की अनुमति देता है। यह टूल अत्यधिक अनुकूलन योग्य है और किसी भी प्रश्न का त्वरित उत्तर प्रदान करता है, क्योंकि यह पूरी तरह से शुद्ध C/C++ में लिखा गया है। 

LLaMA.cpp सभी प्रकार के ऑपरेटिंग सिस्टम, सीपीयू और जीपीयू का समर्थन करता है। आप मल्टीमॉडल मॉडल जैसे एलएलएवीए, बाकएलएलएवीए, ओब्सीडियन और शेयरजीपीटी4वी का भी उपयोग कर सकते हैं।

जानने के लिए कैसे Google Colab पर Mixtral 8x7b मुफ़्त में चलाएँ LLaMA.cpp और Google GPU का उपयोग करना।

उपयोग करने के लिए RTX के साथ NVIDIA चैट, आपको अपने लैपटॉप पर विंडोज 11 एप्लिकेशन डाउनलोड और इंस्टॉल करना होगा। यह एप्लिकेशन उन लैपटॉप के साथ संगत है जिनमें कम से कम 30GB रैम और 40GB मुफ्त स्टोरेज स्पेस के साथ 8 सीरीज या 50 सीरीज RTX NVIDIA ग्राफिक्स कार्ड है। इसके अतिरिक्त, RTX के साथ चैट को सुचारू रूप से चलाने के लिए आपके लैपटॉप में कम से कम 16GB RAM होनी चाहिए।

चैट विद आरटीएक्स के साथ, आप अपने लैपटॉप पर स्थानीय रूप से एलएलएएमए और मिस्ट्रल मॉडल चला सकते हैं। यह एक तेज़ और कुशल एप्लिकेशन है जो आपके द्वारा प्रदान किए गए दस्तावेज़ों या YouTube वीडियो से भी सीख सकता है। हालाँकि, यह ध्यान रखना महत्वपूर्ण है कि RTX के साथ चैट TensorRTX-LLM पर निर्भर करता है, जो केवल 30 श्रृंखला GPU या नए पर समर्थित है।

यदि आप अपने डेटा को सुरक्षित और निजी रखते हुए नवीनतम एलएलएम का लाभ उठाना चाहते हैं, तो आप GPT4All, LM Studio, Ollama, LLaMA.cpp, या RTX के साथ NVIDIA चैट जैसे टूल का उपयोग कर सकते हैं। प्रत्येक उपकरण की अपनी अनूठी ताकत होती है, चाहे वह उपयोग में आसान इंटरफ़ेस हो, कमांड-लाइन पहुंच हो, या मल्टीमॉडल मॉडल के लिए समर्थन हो। सही सेटअप के साथ, आपके पास एक शक्तिशाली AI सहायक हो सकता है जो अनुकूलित संदर्भ-जागरूक प्रतिक्रियाएँ उत्पन्न करता है।

मेरा सुझाव है कि GPT4All और LM स्टूडियो से शुरुआत करें क्योंकि वे अधिकांश बुनियादी ज़रूरतों को कवर करते हैं। उसके बाद, आप ओलामा और LLaMA.cpp आज़मा सकते हैं, और अंत में, RTX के साथ चैट आज़मा सकते हैं।
 
 

आबिद अली अवनी (@1अबिदलियावान) एक प्रमाणित डेटा वैज्ञानिक पेशेवर है जो मशीन लर्निंग मॉडल बनाना पसंद करता है। वर्तमान में, वह सामग्री निर्माण और मशीन लर्निंग और डेटा विज्ञान प्रौद्योगिकियों पर तकनीकी ब्लॉग लिखने पर ध्यान केंद्रित कर रहा है। आबिद के पास प्रौद्योगिकी प्रबंधन में मास्टर डिग्री और दूरसंचार इंजीनियरिंग में स्नातक की डिग्री है। उनका दृष्टिकोण मानसिक बीमारी से जूझ रहे छात्रों के लिए ग्राफ न्यूरल नेटवर्क का उपयोग करके एआई उत्पाद बनाना है।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://www.kdnuggets.com/5-ways-to-use-llms-on-your-laptop?utm_source=rss&utm_medium=rss&utm_campaign=5-ways-to-use-llms-on-your-laptop