صورة المؤلف
 

في عالم اليوم المهووس بالتكنولوجيا، نحن محاطون بعجائب مذهلة مدعومة بالذكاء الاصطناعي: مساعدون صوتيون يجيبون على أسئلتنا، وكاميرات ذكية تحدد الوجوه، وسيارات ذاتية القيادة تتنقل على الطرق. إنهم مثل الأبطال الخارقين في عصرنا الرقمي! ومع ذلك، فإن جعل هذه العجائب التكنولوجية تعمل بسلاسة على أجهزتنا اليومية هو أمر أصعب مما يبدو. هؤلاء الأبطال الخارقين في مجال الذكاء الاصطناعي لديهم حاجة خاصة: قوة حاسوبية كبيرة و موارد الذاكرة. إن الأمر أشبه بمحاولة وضع مكتبة بأكملها في حقيبة ظهر صغيرة. وتخيل ماذا؟ معظم أجهزتنا العادية مثل الهواتف والساعات الذكية وما إلى ذلك لا تحتوي على ما يكفي.القوة العقليةللتعامل مع هؤلاء الأبطال الخارقين من الذكاء الاصطناعي. وهذا يشكل مشكلة كبيرة في النشر الواسع النطاق لتكنولوجيا الذكاء الاصطناعي.

ومن ثم، فمن الأهمية بمكان تحسين كفاءة نماذج الذكاء الاصطناعي الكبيرة هذه لجعلها في متناول الجميع. هذه الدورة: "TinyML وحوسبة التعلم العميق الفعالة" بواسطة مختبر MIT HAN يعالج هذه العقبة الأساسية. ويقدم طرقًا لتحسين نماذج الذكاء الاصطناعي، مما يضمن قابليتها للتطبيق في سيناريوهات العالم الحقيقي. دعونا نلقي نظرة مفصلة على ما يقدمه:

هيكل الدورة:

المدة: تقع 2023

التوقيت: الثلاثاء/الخميس 3:35-5:00 مساءً بالتوقيت الشرقي

المعلم: البروفيسور سونغ هان

مساعدو التدريس: هان كاي و جي لين

نظرًا لأن هذه دورة مستمرة، يمكنك مشاهدة البث المباشر هنا الصفحة .

نهج الدورة:

الأساس النظري: يبدأ بالمفاهيم الأساسية للتعلم العميق، ثم يتقدم إلى الأساليب المتطورة لحوسبة الذكاء الاصطناعي الفعالة.

التدريب العملي على الخبرة: يوفر خبرة عملية من خلال تمكين الطلاب من النشر والعمل مع نماذج لغوية كبيرة مثل LLaMA 2 على أجهزة الكمبيوتر المحمولة الخاصة بهم.

1. الاستدلال الفعال

تركز هذه الوحدة في المقام الأول على تعزيز كفاءة عمليات الاستدلال في الذكاء الاصطناعي. إنه يتعمق في تقنيات مثل التقليم والتناثر والتكميم التي تهدف إلى جعل عمليات الاستدلال أسرع وأكثر كفاءة في استخدام الموارد. تشمل المواضيع الرئيسية التي يتم تناولها ما يلي:

• التقليم والتناثر (الجزء الأول والثاني): استكشاف طرق لتقليل حجم النماذج عن طريق إزالة الأجزاء غير الضرورية دون المساس بالأداء.
• التكميم (الجزء الأول والثاني): تقنيات تمثيل البيانات والنماذج باستخدام عدد أقل من البتات، مما يوفر الذاكرة والموارد الحسابية.
• بحث العمارة العصبية (الجزء الأول والثاني): تستكشف هذه المحاضرات التقنيات الآلية لاكتشاف أفضل بنيات الشبكات العصبية لمهام محددة. إنها توضح الاستخدامات العملية عبر مجالات مختلفة مثل البرمجة اللغوية العصبية (NLP) وGAN (البرمجة السحابية GAN) وتحليل السحابة النقطية وتقدير الوضعية.
• تقطير المعرفة: تركز هذه الجلسة على تقطير المعرفة، وهي عملية يتم فيها تدريب نموذج مدمج لتقليد سلوك نموذج أكبر وأكثر تعقيدًا. ويهدف إلى نقل المعرفة من نموذج إلى آخر.
• MCUNet: TinyML على وحدات التحكم الدقيقة: تقدم هذه المحاضرة MCUNet، الذي يركز على نشر نماذج TinyML على وحدات التحكم الدقيقة، مما يسمح للذكاء الاصطناعي بالعمل بكفاءة على الأجهزة منخفضة الطاقة. ويغطي جوهر TinyML، وتحدياته، وإنشاء شبكات عصبية مدمجة، وتطبيقاته المتنوعة.
• TinyEngine والمعالجة المتوازية: يناقش هذا الجزء TinyEngine، واستكشاف طرق النشر الفعال واستراتيجيات المعالجة المتوازية مثل تحسين الحلقة، وتعدد مؤشرات الترابط، وتخطيط الذاكرة لنماذج الذكاء الاصطناعي على الأجهزة المقيدة.

2. التحسين الخاص بالمجال

في قسم التحسين الخاص بالمجال، تغطي الدورة العديد من الموضوعات المتقدمة التي تهدف إلى تحسين نماذج الذكاء الاصطناعي لمجالات محددة:

• المحولات والماجستير في القانون (الجزء الأول والثاني): يتعمق في أساسيات المحولات، ومتغيرات التصميم، ويغطي موضوعات متقدمة تتعلق بخوارزميات الاستدلال الفعالة لمدارس LLM. كما يستكشف أيضًا أنظمة الاستدلال الفعالة وطرق الضبط الدقيق لماجستير إدارة الأعمال.
• محول الرؤية: يقدم هذا القسم أساسيات Vision Transformer، واستراتيجيات ViT الفعالة، وتقنيات التسريع المتنوعة. ويستكشف أيضًا أساليب التعلم الخاضع للإشراف الذاتي ونماذج اللغات الكبيرة متعددة الوسائط (LLMs) لتعزيز قدرات الذكاء الاصطناعي في المهام المتعلقة بالرؤية.
• GAN والفيديو وPoint Cloud: تركز هذه المحاضرة على تعزيز شبكات الخصومة التوليدية (GANs) من خلال استكشاف تقنيات ضغط GAN الفعالة (باستخدام NAS+التقطير)، وAnyCost GAN للتكلفة الديناميكية، والتعزيز التفاضلي لتدريب GAN بكفاءة البيانات. تهدف هذه الأساليب إلى تحسين نماذج شبكات GAN والتعرف على الفيديو وتحليل النقاط السحابية.
• نموذج الانتشار: تقدم هذه المحاضرة نظرة ثاقبة حول البنية والتدريب والتحسين الخاص بالمجال واستراتيجيات أخذ العينات السريعة لنماذج الانتشار. 

3. التدريب الفعال

يشير التدريب الفعال إلى تطبيق المنهجيات لتحسين عملية التدريب على نماذج التعلم الآلي. يغطي هذا الفصل المجالات الرئيسية التالية:

• التدريب الموزع (الجزء الأول والثاني): استكشف إستراتيجيات توزيع التدريب عبر أجهزة أو أنظمة متعددة. وهو يوفر استراتيجيات للتغلب على اختناقات عرض النطاق الترددي وزمن الوصول، وتحسين استهلاك الذاكرة، وتنفيذ أساليب موازية فعالة لتعزيز كفاءة تدريب نماذج التعلم الآلي واسعة النطاق عبر بيئات الحوسبة الموزعة.
• التدريب على الجهاز ونقل التعلم: تركز هذه الجلسة في المقام الأول على نماذج التدريب مباشرة على الأجهزة الطرفية، والتعامل مع قيود الذاكرة، واستخدام أساليب نقل التعلم للتكيف الفعال مع المجالات الجديدة.
• الضبط الدقيق الفعال والهندسة السريعة: يركز هذا القسم على تحسين نماذج اللغات الكبيرة (LLMs) من خلال تقنيات الضبط الدقيق الفعالة مثل BitFit وAdapter وPrompt-Tuning. بالإضافة إلى ذلك، فإنه يسلط الضوء على مفهوم الهندسة السريعة ويوضح كيف يمكن أن يعزز أداء النموذج والقدرة على التكيف.

4. موضوعات متقدمة

تغطي هذه الوحدة موضوعات حول مجال ناشئ من التعلم الآلي الكمي. في حين أن المحاضرات التفصيلية لهذا الجزء غير متوفرة بعد، إلا أن المواضيع المقرر تغطيتها تشمل:

• أساسيات الحوسبة الكمومية
• تعلم الآلة الكم
• الضوضاء القوية الكم ML

ستوفر هذه المواضيع فهمًا أساسيًا للمبادئ الكمومية في الحوسبة واستكشاف كيفية تطبيق هذه المبادئ لتعزيز أساليب التعلم الآلي مع معالجة التحديات التي تفرضها الضوضاء في الأنظمة الكمومية.

إذا كنت مهتمًا بالتعمق أكثر في هذه الدورة التدريبية، فراجع قائمة التشغيل أدناه:

[محتوى مضمن] [محتوى مضمن]

وقد لاقت هذه الدورة ردود فعل رائعة، خاصة من المتحمسين والمحترفين في مجال الذكاء الاصطناعي. على الرغم من أن الدورة مستمرة ومن المقرر أن تنتهي بحلول ديسمبر 2023، إلا أنني أوصي بشدة بالانضمام إليها! إذا كنت تأخذ هذه الدورة أو تنوي ذلك، شارك تجاربك. دعونا نتحادث ونتعلم معًا حول TinyML وكيفية جعل الذكاء الاصطناعي أكثر ذكاءً على الأجهزة الصغيرة. مدخلاتك وأفكارك ستكون ذات قيمة!
 
 

كانوال محرين مطور برامج طموح لديه اهتمام كبير بعلوم البيانات وتطبيقات الذكاء الاصطناعي في الطب. تم اختيار Kanwal باعتباره Google Generation Scholar 2022 لمنطقة APAC. يحب Kanwal مشاركة المعرفة التقنية من خلال كتابة مقالات حول الموضوعات الشائعة ، وهو متحمس لتحسين تمثيل المرأة في صناعة التكنولوجيا.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://www.kdnuggets.com/free-mit-course-tinyml-and-efficient-deep-learning-computing?utm_source=rss&utm_medium=rss&utm_campaign=free-mit-course-tinyml-and-efficient-deep-learning-computing