منشور OpenAI الأخير، "دعونا نتحقق خطوة بخطوة" (https://cdn.openai.com/improving-mathematical-reasoning-with-process-supervision/Lets_Verify_Step_by_Step.pdf) لفت انتباهي على الفور عند صدوره في 31 مايو، 2023. محور هذه الورقة
المحتويات عبارة عن مخطط في الصفحة السابعة يقترح افتراضًا مثيرًا للتفكير - وهو أن البشرية قد تقترب بشكل وثيق من إنشاء الذكاء العام الاصطناعي (AGI).
انتبه بشكل خاص إلى منحنى "RM الخاضع للإشراف على العملية"، والذي يتميز بارتفاعه المستمر للأعلى بالنسبة للمراقب الدقيق. وخلافا للتوقعات بأنها ستستقر في نهاية المطاف، يشير المنحنى إلى أنه من خلال زيادة القوة الحسابية،
يمكن أن تستمر نسبة المسائل الرياضية التي تم حلها بشكل صحيح في الارتفاع. ونظراً للقدرة الحاسوبية الكافية، فمن المحتمل أن يتمكن الذكاء الاصطناعي من حل التحديات الرياضية على نطاق غير مسبوق، بل وربما يحقق دقة شبه مثالية.
وقبل أن نتعمق في دلالاتها، دعونا نتتبع الرحلة التي أوصلتنا إلى هذا المنعطف ونفهم أهميتها.
نُشرت جذور هذا التطور في عام 2021 في دراسة بعنوان "تدريب المدققين على حل المسائل الرياضية اللفظية". قام هذا البحث بتقييم نماذج لغة الذكاء الاصطناعي الكبيرة، بما في ذلك نموذج ضخم يضم 175 مليار معلمة، باستخدام مجموعة بيانات المسائل الرياضية
المعروف باسم GSM8K.
حقق كشك الوجبات الخفيفة في الكرنفال 50 دولارًا من بيع الفشار يوميًا. لقد حققت ثلاثة أضعاف مبيعات حلوى القطن. بالنسبة لنشاط مدته 5 أيام، يتعين على الجناح دفع 30 دولارًا إيجارًا و75 دولارًا تكلفة المكونات. كم ربح الكشك لمدة 5 أيام بعد دفع المبلغ
الإيجار وتكلفة المكونات؟
مثال سؤال
على الرغم من حجمها، أظهرت هذه النماذج في البداية نجاحًا محدودًا، حيث حلت بشكل صحيح حوالي 30٪ فقط من المشكلات.
لتعزيز فعاليتهم، اختبر الباحثون تقنية مبتكرة: فقد طوروا نموذجًا "للتحقق" خصيصًا لتقييم الحلول الناتجة عن النموذج الأساسي. أثناء الاختبار، قام هذا المدقق بتحليل حلول مرشحة متعددة، واختيارها
واحد مع أعلى الدرجات. عززت هذه الإستراتيجية الأداء بشكل كبير، مما مكن الذكاء الاصطناعي من تحقيق نتائج تكاد تكون مساوية لتلك التي حققها النموذج الأساسي الذي كان أكبر بـ 30 مرة.
لا يتفوق أداء معلمة الستة مليارات على نموذج المعلمة البالغ 175 مليار فحسب، بل اتضح أن نموذج التحقق يتوسع بشكل أفضل بكثير مع بيانات أكثر من نماذج اللغة القائمة على المحولات.
في البداية، تمت مكافأة المدقق على تحديد الإجابة الصحيحة، حتى لو كان السبب وراء ذلك معيبًا. أدى هذا النهج في بعض الأحيان إلى استنتاجات دقيقة مستمدة من منهجيات غير صحيحة، وهو ما يشكل مصدر قلق كبير. انطلق الباحثون من
نموذج مكافأة خاضعة للإشراف على النتائج إلى نموذج مكافأة خاضعة للإشراف على العملية لمعالجة هذه المشكلة. ويعني هذا التحول أن المدقق يركز الآن على صحة عملية الاستدلال بدلاً من النتيجة النهائية فقط.
كما ذكرنا سابقًا، تم توثيق هذه النتيجة الرائعة في ورقة بحثية رائعة بعنوان "دعونا نتحقق خطوة بخطوة"، ولكنها تثير سؤالًا حول لماذا يمكن أن تؤدي النتائج المثالية في الرياضيات إلى الذكاء العام الاصطناعي.
نظرية جديدة للذكاء
بناءً على أبحاث ماونتكاسل، تفترض أحدث نظرية للذكاء أن آلاف الأعمدة القشرية في الدماغ تتعلم وتبني نماذج لأشياء كاملة. ويعتقد أن هذه الأعمدة هي الوحدات الأساسية للتعلم والمعالجة
في الدماغ، كل منها قادر على خلق نموذج للعالم كما يدركه. ومع ذلك، فإن التعقيد الحقيقي وذكاء الدماغ ينبثق من كيفية دمج هذه النماذج الفردية وتكاملها.
من المحتمل أن هذا التكامل هو الذي يسمح بفهم أكثر دقة وشمولاً للبيئة. في حين أن الأعمدة القشرية الفردية تعالج جوانب مختلفة جزئيًا من كائن أو مشهد، فإنها تتعاون بعد ذلك لتشكل إدراكًا موحدًا،
الجمع بين المدخلات والخبرات الحسية المختلفة. لا تتيح هذه العملية التعرف على الأشياء فحسب، بل تتيح أيضًا فهم السياقات والعلاقات والمفاهيم المجردة.
تمتد هذه النظرية إلى الذكاء الاصطناعي، حيث يمكن أن يؤدي دمج نماذج متعددة إلى أشكال أكثر تقدمًا وتعميمًا من الذكاء الاصطناعي أقرب إلى الذكاء البشري. من خلال محاكاة استراتيجية الدماغ المتمثلة في الجمع بين العديد من نماذج الذكاء الاصطناعي المتخصصة في نهاية المطاف
يمكن للأنظمة تطوير فهم أكثر شمولية ودقة للعالم، وهي خطوة رئيسية نحو تحقيق الذكاء الاصطناعي العام.
ويكمن التحدي في تكرار هذا التفاعل المعقد بشكل فعال بين وحدات المعالجة المستقلة والمترابطة. وكما يقوم الدماغ بدمج المدخلات من عدد لا يحصى من الأعمدة القشرية بسلاسة، فإن نظام الذكاء الاصطناعي العام سيحتاج إلى تنسيق نماذج متنوعة،
ولكل منها معرفتها المتخصصة ومنظورها، إلى ذكاء متماسك ومتماسك.
فهو يتطلب بعض التقدم في كيفية تعلم نماذج الذكاء الاصطناعي الفردية للمعلومات ومعالجتها، ولكن الأهم من ذلك هو كيفية دمج هذه النماذج. إن عملية التكامل هذه على وجه التحديد هي التي تتطلب رياضيات دقيقة.
تعمل الخلايا المتخصصة، وهي الخلايا الشبكية والخلايا المكانية، جنبًا إلى جنب لتشكيل شبكة معقدة للوعي المكاني والملاحة، وبناء نظام تحديد المواقع في الدماغ. يمكن اعتبار نظام تحديد المواقع هذا بمثابة نظام إحداثيات افتراضي على الواقع،
حيث يتم تسجيل كل حركة أو تغيير في الاتجاه وترميزها في نموذج كل عمود قشري.
وبعد عدة قرون، يبدو أن نظرية إيمانويل كانط، كما تم تقديمها في كتابه "نقد العقل الخالص"، تتمتع بالصلاحية. واقترح أن لدينا معرفة "مسبقة" عن المكان والزمان، مما يشير إلى فهم فطري لهذه المفاهيم بشكل مستقل
من الخبرة.
تم دمج هذه النماذج لتكوين نموذج واحد متماسك باستخدام التشفير الموضعي وتوظيف إضافة المتجهات والدوال المثلثية وحساب التفاضل والتكامل. يعد تكامل المسار هذا ضروريًا لشكل موحد وشامل
من الذكاء.
يبدو أن الرياضيات الدقيقة هي الأساس الحاسم للذكاء البشري، وربما نكون على أعتاب تحقيق تقدم كبير. ومع ذلك، وسط هذا التقدم المبهج، هناك مشكلة: فهو يؤدي إلى تفاقم المشاكل القائمة بشكل كبير، مما يلقي بظلال من المعضلة
على طريقنا المكتشف حديثا.
الذكاء المستدام: إعادة النظر في تكلفة تطورات الذكاء الاصطناعي
مع النهج المتمثل في توليد العديد من الإجابات المحتملة وجعل المدقق يختار الإجابة الصحيحة، هناك تحول كبير في الطلب على القوة الحسابية من التدريب، الذي يحدث مرة واحدة، إلى الاستدلال، والذي يحدث في كل مرة يقوم فيها النظام
يستخدم. ففي نهاية المطاف، كلما تم استخدام مثل هذا النظام، يُطلب منه توليد مئات أو آلاف الحلول الممكنة.
حتى لو كان النموذج اللغوي أصغر بما يصل إلى 30 مرة، فإنه لا يزال يستخدم أكثر من 33 مرة من الطاقة عند الاستدلال إذا طُلب منه إنتاج ألف حل ممكن (1000/30 = 33.3). وهذا هو، حتى دون النظر في تكلفة نموذج المدقق. هذه الطفرة في الحسابية
سيؤدي الطلب حتماً إلى تصعيد المخاوف الملحة بالفعل بشأن تكلفة الحوسبة وتأثيرها على البيئة.
على سبيل المثال، استهلك نموذج بلوم الوحيد الذي يحتوي على 176 مليار معلمة طاقة تعادل تشغيل 30 منزلاً لمدة عام في التدريب على الرغم من تركيزه على الأخلاق والشفافية والموافقة. لقد أطلق 25 طنًا من ثاني أكسيد الكربون – وهو ما يمثل بصمة بيئية
يمكن مقارنتها بقيادة السيارة حول العالم خمس مرات.
علاوة على ذلك، فإن التكلفة المالية لتشغيل نماذج الذكاء الاصطناعي المتقدمة هذه مذهلة، مما يجعل نطاقًا محدودًا فقط من حالات الاستخدام قابلة للتطبيق اقتصاديًا. ومن المحتمل أن يؤدي هذا الحاجز الاقتصادي إلى احتكار عدد قليل من الشركات ذات التمويل الجيد لهذه التقنيات
المساس بالشفافية وإمكانية الوصول. إن تركيز السيطرة في أيدي عدد قليل من الناس من شأنه أن يؤدي إلى تفاقم القضايا القائمة، مثل التحيز، حيث يمكن لهذه الكيانات إعطاء الأولوية لمصالحها التجارية على الاعتبارات الأخلاقية الأوسع. سوف نواجه
خطر المشهد التكنولوجي حيث يدوم التحيز وربما يتضخم.
وقد يؤدي حصرية الوصول إلى الذكاء الاصطناعي المتقدم إلى زيادة تعميق أوجه عدم المساواة القائمة في عالم التكنولوجيا، حيث تجد الكيانات الأصغر والباحثون أنفسهم مهمشين على نحو متزايد.
يؤدي مثل هذا المستقبل البائس إلى سؤال مجتمعي حاسم: هل يمكننا حتى تحمل تكاليف الذكاء الاصطناعي العام بهذه التكلفة؟
كفاية الذكاء الاصطناعي: ضبط المهام لتحقيق الدقة والكفاءة
إن الجهود المبذولة لمعالجة المخاطر الوجودية المستقبلية للذكاء الاصطناعي مهمة بالفعل، ولكنها قد تطغى في بعض الأحيان على التأثيرات المباشرة والملموسة التي تخلفها تقنيات الذكاء الاصطناعي بالفعل. ومن المرجح أن تتضخم هذه التأثيرات مع اقترابنا من تطويرها
الذكاء العام الاصطناعي.
لا تقتصر الرحلة نحو الذكاء الاصطناعي العام على التقدم التكنولوجي فحسب، بل تتعلق أيضًا بإنشاء أدوات للتخفيف من هذه التأثيرات ذاتها. إحدى هذه الأدوات، Diffusion Bias Explorer، تسمح للمستخدمين بالتحقيق في التحيزات الكامنة في نماذج توليد الصور، على وجه الخصوص
في سياق المهن المختلفة.
وبينما نواصل العمل من أجل مجتمع جائع وأحمق يتمحور حول الإنسان، من المهم أن نستمر في تقديم المساهمات التي تعمل على إضفاء الطابع الديمقراطي على الذكاء الاصطناعي من خلال جعله مناسبًا. نحن نحقق ذلك من خلال تطوير الأدوات التي تبسط إنشاء مهمة محددة
نماذج الذكاء الاصطناعي. تستفيد هذه الأدوات من نماذج اللغات الكبيرة المدربة مسبقًا لإنشاء نماذج لغوية أكثر دقة وكفاءة في استخدام الطاقة وتكلفة مناسبة ومصممة خصيصًا لمهام محددة.
https://cdn.openai.com/improving-mathematical-reasoning-with-process-supervision/Lets_Verify_Step_by_Step.pdf
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://www.finextra.com/blogposting/25657/the-agi-horizon-how-one-chart-is-shaping-our-ai-expectations?utm_medium=rssfinextra&utm_source=finextrablogs
