أخبرنا عن شركتك
"ماستيسكا آي"(Mastiṣka تعني الدماغ باللغة السنسكريتية) هي شركة ذكاء اصطناعي تركز على بناء أجهزة كمبيوتر تشبه الدماغ لتشغيل النماذج الأساسية بشكل أكثر كفاءة لحالات استخدام الذكاء الاصطناعي التوليدي في المستقبل.

ما هي المشاكل التي تحلها؟
ونظرًا لفوائد الذكاء الاصطناعي/GenAI، فمن المحتم أن يرتفع الطلب عليه، وكذلك آثاره الجانبية على كوكبنا. كيف يمكننا تقليل أو تحييد الآثار الجانبية للذكاء الاصطناعي على كوكبنا؟ إن احتجاز الكربون والطاقة النووية يسيران في الاتجاه الصحيح. لكننا بحاجة إلى إعادة التفكير بشكل أساسي في الطريقة التي نتعامل بها مع الذكاء الاصطناعي، فهل هي طريقة خاطئة للقيام بأطنان من عمليات ضرب المصفوفات؟

يمكن لعقلنا أن يتعلم ويقوم بالعديد من المهام بالتوازي، بقدرة 10 واط أو أقل، ولكن لماذا تستهلك أنظمة الذكاء الاصطناعي هذه 10 ميجاوات لتدريب النماذج؟

ربما يحمل المستقبل بنيات موفرة للطاقة مثل بنيات الأشكال العصبية والمحولات القائمة على الشبكات العصبية الأقرب إلى الدماغ البشري، والتي قد تستهلك طاقة أقل بمقدار 100 إلى 1000 مرة، وبالتالي تقليل تكلفة استخدام الذكاء الاصطناعي، وبالتالي إضفاء الطابع الديمقراطي عليه وإنقاذ حياتنا. كوكب.

التحديات الحالية التي نواجهها مع الذكاء الاصطناعي هي أ) التوفر، ب) إمكانية الوصول، ج) القدرة على تحمل التكاليف، د) السلامة البيئية إلى جانب بعض التوصيات لمعالجتها.

إذا توقعنا المستقبل، فقد تم عرض بعض مفاهيم الذكاء الاصطناعي العام المفيدة في فيلم "HER"، حيث شخصية "سامانثا" - وكيل محادثة طبيعي، يفهم العواطف، ويظهر التعاطف، وهو مساعد طيار رائع في العمل - ويعمل على الأجهزة المحمولة طوال اليوم، فقد يتعين علينا معالجة التحديات التالية الآن.

المشكلة 1: يمكن أن يتكلف تدريب LLM ما يتراوح بين 150 ألفًا إلى أكثر من 10 ملايين دولار، وهو يسمح فقط لأولئك الذين لديهم موارد مالية أكبر بتطوير الذكاء الاصطناعي. علاوة على ذلك، تكاليف الاستدلال ضخمة أيضًا (تكلف 10 أضعاف تكلفة البحث على الويب)
—> نحن بحاجة إلى تحسين كفاءة استخدام الطاقة في النماذج/الأجهزة لإضفاء الطابع الديمقراطي على الذكاء الاصطناعي لصالح البشرية.

المشكلة 2: يؤدي تشغيل نماذج الذكاء الاصطناعي الضخمة لوكلاء المحادثة أو أنظمة التوصية إلى التأثير سلبًا على البيئة من حيث استهلاك الكهرباء والتبريد.
—> نحن بحاجة إلى تحسين كفاءة استخدام الطاقة في النماذج/الأجهزة لإنقاذ كوكبنا من أجل أطفالنا.

المشكلة 3: العقل البشري قادر على القيام بمهام متعددة، ولكنه يستهلك 10 واط فقط بدلاً من ميجاوات.
—> ربما ينبغي لنا أن نبني آلات مثل أدمغتنا، وليس مضاعفات المصفوفة العادية بشكل أسرع.

ولا يمكن للبشرية أن تزدهر إلا من خلال الابتكارات المستدامة، وليس من خلال قطع جميع الغابات وغلي المحيطات باسم الابتكار. يجب علينا أن نحمي كوكبنا من أجل رفاهية أطفالنا والأجيال القادمة…

ما هي مجالات التطبيق الأقوى لديك؟
التدريب والاستدلال على نماذج الأساس المعتمدة على المحولات (والهندسة العصبية المستقبلية)، بكفاءة أكبر في استخدام الطاقة بمقدار 50 إلى 100 مرة مقارنة بالحلول المعتمدة على وحدة معالجة الرسومات اليوم.

ما الذي يبقي عملائك مستيقظين في الليل؟
مشكلات للعملاء الذين يستخدمون حاليًا منتجات أخرى:

إن استهلاك الكهرباء لتدريب نماذج اللغة الضخمة يتجاوز السقف، على سبيل المثال، تدريب معلمة 13B LLM على 390B من الرموز النصية على 200 وحدة معالجة رسومات لمدة 7 أيام يكلف 151,744 دولارًا (المصدر: صفحة خدمة مجموعة التدريب الجديدة HuggingFace - https://lnkd.in/g6Vc5cz3). وحتى النماذج الأكبر حجمًا التي تحتوي على معلمات 100+B تكلف 10+مليون دولار فقط للتدريب. ثم ادفع مقابل الاستدلال في كل مرة يصل فيها طلب سريع جديد.

استهلاك المياه للتبريد، قدّر الباحثون في جامعة كاليفورنيا، ريفرسايد التأثير البيئي لخدمة تشبه ChatGPT، ويقولون إنها تبتلع 500 ملليلتر من الماء (على مقربة من ما يوجد في زجاجة ماء سعة 16 أونصة) في كل مرة تطلبها منها. سلسلة من 5 إلى 50 مطالبة أو سؤال. يختلف النطاق اعتمادًا على مكان تواجد خوادمه والموسم. يشمل التقدير الاستخدام غير المباشر للمياه الذي لا تقيسه الشركات، مثل تبريد محطات الطاقة التي تزود مراكز البيانات بالكهرباء. (مصدر: https://lnkd.in/gybcxX8C)

مشكلات لغير عملاء المنتجات الحالية:

لا أستطيع تحمل النفقات الرأسمالية لشراء الأجهزة
لا أستطيع تحمل تكاليف استخدام الخدمات السحابية
لا يمكن الابتكار أو الاستفادة من الذكاء الاصطناعي - عالقون في نموذج الخدمات الذي يلغي أي ميزة تنافسية

كيف يبدو المشهد التنافسي وكيف تميز؟

• تهيمن وحدات معالجة الرسومات على مساحة التدريب، على الرغم من أن أجهزة ASIC المتخصصة تتنافس أيضًا في هذا القطاع
• يحتوي استدلال Cloud & Edge على العديد من الخيارات المتاحة

رقمي، تناظري، فوتوني - سمها ما شئت، يحاول الأشخاص معالجة نفس المشكلة.

هل يمكنك مشاركة أفكارك حول الوضع الحالي لهندسة الرقائق الخاصة بالذكاء الاصطناعي/التعلم الآلي، مما يعني ما هي أهم الاتجاهات والفرص في الوقت الحالي؟

الاتجاهات التالية:
الاتجاه 1: قبل 10 سنوات، ازدهر التعلم العميق المدعوم بالأجهزة، والآن نفس الأجهزة تعيق التقدم. نظرًا للتكلفة الهائلة للأجهزة وتكاليف الكهرباء لتشغيل النماذج، فقد أصبح الوصول إلى الأجهزة تحديًا. فقط الشركات ذات الجيوب العميقة هي القادرة على تحمل هذه التكاليف وأصبحت احتكارات.

الاتجاه 2: والآن بعد أن أصبحت هذه النماذج موجودة، نحتاج إلى استخدامها لأغراض عملية حتى يزيد حمل الاستدلال، مما يسمح لوحدات المعالجة المركزية المزودة بمسرعات الذكاء الاصطناعي بالظهور مرة أخرى.

الاتجاه 3: تحاول الشركات الناشئة التوصل إلى تمثيلات بديلة لأرقام الفاصلة العائمة تعتبر تنسيق IEEE التقليدي - مثل اللوغاريتمي والقائمة على الوضعية - جيدة ولكنها ليست كافية. ينفجر تحسين مساحة تصميم PPA $ عندما نحاول تحسين أحدهما ويفشل الآخر.

الاتجاه 4: تبتعد الصناعة عن نموذج الذكاء الاصطناعي القائم على الخدمة إلى استضافة نماذجها الخاصة في مبانيها الخاصة - ولكن الوصول إلى الأجهزة يمثل تحديًا بسبب نقص الإمدادات والعقوبات وما إلى ذلك

الوضع الراهن:
أدى توفر الأجهزة والبيانات إلى تغذية نمو الذكاء الاصطناعي قبل 10 سنوات، والآن أصبحت نفس الأجهزة تمنعه ​​نوعًا ما - اسمحوا لي أن أشرح ذلك

منذ أن كان أداء وحدات المعالجة المركزية سيئًا وتم إعادة استخدام وحدات معالجة الرسومات للقيام بالذكاء الاصطناعي، حدثت أشياء كثيرة

تعالج الشركات 4 قطاعات من الذكاء الاصطناعي/تعلم الآلة وهي: 1) التدريب السحابي، 2) الاستدلال السحابي، 3) الاستدلال على الحافة، و4) التدريب على الحافة (التعلم الموحد للتطبيقات الحساسة للخصوصية).
التناظرية الرقمية

الجانب التدريبي – عدد كبير من الشركات التي تصنع وحدات معالجة الرسومات، ومسرعات العملاء القائمة على RISC-V، والرقائق على نطاق الرقاقة (850 ألف نواة)، وما إلى ذلك حيث تفتقر وحدات المعالجة المركزية التقليدية (غرضها العام). جانب الاستدلال - تتوفر مسرعات NN من كل مصنع، في الهواتف الذكية وأجهزة الكمبيوتر المحمولة وغيرها من الأجهزة المتطورة.

ظهرت أيضًا البنى التناظرية القائمة على الممرستور منذ بعض الوقت.

نعتقد أن وحدات المعالجة المركزية يمكن أن تكون جيدة جدًا في الاستدلال إذا قمنا بتعزيزها من خلال التسريع مثل امتدادات المصفوفة

جانب RISC-V من الأشياء:
ومن ناحية RISC-V، نقوم بتطوير مسرعات لعمليات المصفوفة وغيرها من العمليات غير الخطية لإزالة الاختناقات المحتملة لأحمال عمل المحولات. تتم أيضًا معالجة اختناقات فون نيومان من خلال تصميم ذكريات أقرب إلى الحوسبة، مما يجعل وحدات المعالجة المركزية (CPUs) المزودة بتسريع الذكاء الاصطناعي في النهاية الخيار الصحيح للاستدلال.

الفرص:
توجد فرص فريدة لملء سوق نماذج الأساس. على سبيل المثال - ذكرت OpenAI أنها لم تكن قادرة على تأمين ما يكفي من حوسبة الذكاء الاصطناعي (GPUs) لمواصلة دفع خدمات ChatGPT الخاصة بها... والتقارير الإخبارية حول تكاليف الكهرباء التي تبلغ 10 أضعاف تكلفة البحث العادي على الإنترنت و500 مل من الماء لتبريد الأنظمة. لكل استفسار. هناك سوق يجب ملؤه هنا - إنه ليس سوقًا متخصصًا، ولكنه السوق بأكمله الذي سيضفي طابعًا ديمقراطيًا على الذكاء الاصطناعي الذي يعالج جميع التحديات المذكورة أعلاه - أ) التوفر، ب) إمكانية الوصول، ج) القدرة على تحمل التكاليف، د) السلامة البيئية

ما هي الميزات/التقنيات الجديدة التي تعمل عليها؟
نحن نبني دماغًا يشبه الكمبيوتر، ونستفيد من التقنيات العصبية ونصمم نماذج للاستفادة من الأجهزة الموفرة للطاقة، ونعيد استخدام الأطر المفتوحة المتاحة

كيف تتصور نمو قطاع الذكاء الاصطناعي/تعلم الآلة أو تغيره خلال الـ 12 إلى 18 شهرًا القادمة؟
نظرًا لتزايد الطلب على وحدات معالجة الرسومات (بتكلفة تصل إلى 30 ألف دولار) بالإضافة إلى أن بعض أجزاء العالم تواجه عقوبات لشراء وحدات معالجة الرسومات هذه، تشعر بعض أجزاء العالم بأنها متجمدة في أبحاث وتطوير الذكاء الاصطناعي دون الوصول إلى وحدات معالجة الرسومات. منصات الأجهزة البديلة سوف تستحوذ على السوق.
ربما ستبدأ النماذج في التقلص، إذ ستنمو النماذج المخصصة، أو حتى كثافة المعلومات بشكل أساسي

نفس السؤال ولكن ماذا عن النمو والتغيير في السنوات 3-5 القادمة؟
أ) ستستحوذ وحدات المعالجة المركزية ذات امتدادات الذكاء الاصطناعي على سوق استدلال الذكاء الاصطناعي
ب) ستصبح النماذج ذكية، وسوف تنقطع المعلمات مع تحسن كثافة المعلومات من 16% إلى 90%
ج) تتحسن كفاءة استخدام الطاقة، وتقل آثار ثاني أكسيد الكربون
د) ظهور هياكل جديدة
هـ) تنخفض تكاليف الأجهزة وتكاليف الطاقة بحيث يصبح الحاجز أمام دخول الشركات الصغيرة لإنشاء النماذج وتدريبها في المتناول
و) يتحدث الناس عن لحظة ما قبل الذكاء الاصطناعي العام، لكن معياري سيكون شخصية سامانثا (الذكاء الاصطناعي التحادثي) في فيلم "هي". ربما يكون هذا غير مرجح نظرًا للتكلفة العالية لتوسيع نطاق العمل.

ما هي بعض التحديات التي يمكن أن تؤثر أو تحد من النمو في قطاع الذكاء الاصطناعي/تعلم الآلة؟
أ) الوصول إلى الأجهزة
ب) تكاليف الطاقة وتكاليف التبريد والضرر البيئي

اقرأ أيضا:

مقابلة الرئيس التنفيذي: ديفيد مور من براغماتيك

مقابلة الرئيس التنفيذي: د. ميغالي شوبرا من شركة Sandbox Semiconductor

مقابلة الرئيس التنفيذي: الدكتور جي بروفين من شركة Aligned Carbon