دعمت CCC ثلاث جلسات علمية في مؤتمر AAAS السنوي لهذا العام، وفي حالة عدم تمكنك من الحضور شخصيًا، فسوف نقوم بتلخيص كل جلسة. اليوم، سنلخص أبرز النقاط في جزء الأسئلة والأجوبة من الجلسة، "نماذج اللغات الكبيرة: مساعدون مفيدون، شركاء رومانسيون أم فنانون محتالون؟"هذه اللجنة، أدارها دكتورة ماريا جيني، عضو مجلس CCC وأستاذ علوم وهندسة الكمبيوتر في جامعة مينيسوتا دكتور إيجي كامار، المدير الإداري لـ AI Frontiers في Microsoft Research، الدكتور هال دوميه الثالث، أستاذ علوم الكمبيوتر في جامعة ميريلاند، و دكتور جوناثان ماي، أستاذ علوم الكمبيوتر في معهد علوم المعلومات بجامعة جنوب كاليفورنيا.
فيما يلي ملخص رائع لجزء الأسئلة والأجوبة من "نماذج اللغات الكبيرة: مساعدون مفيدون، شركاء رومانسيون أم فنانون محتالون؟"لوحة. هل الذكاء الاصطناعي قادر على الحب؟ ما هي أنواع التأثيرات التي قد تحدثها هذه النماذج على الأطفال؟ كيف تتراكم قدرات الولايات المتحدة في مجال الذكاء الاصطناعي؟ اكتشف أدناه:
س: عند نشر نماذج لغة الذكاء الاصطناعي في سياقات متعددة اللغات ومتعددة الثقافات، ما هي الممارسات التي يجب علينا القيام بها؟
د. ماي: عند تطوير التكنولوجيا وخفض الجدران، يجب أن يكون من الأسهل على الناس أن يفعلوا ما يريدون القيام به. ما يريد الجميع القيام به، وليس أنا فقط. شكرًا لمنظمة العفو الدولية، من الرائع التركيز عليّ، ولكن يجب أن ننتبه إلى بقية العالم بشكل عام.
سؤال: بعض هذه القضايا العامة – هذه ليست المرة الأولى التي يتم طرحها فيها. يبدو أن المجتمع لن يأتي إلى هذه الأمور من تلقاء نفسه. أتساءل عما إذا كان لدى جميعكم أفكار حول كيفية تحويل هذه المحادثات إلى واقع ملموس؟
دكتور قمر: هناك أدوار يمكن أن تلعبها العديد من الأطراف المختلفة. التقييم له أهمية كبيرة في تمثيل الثقافات والمجموعات السكانية المختلفة. عندما لا تحتوي مجموعات البيانات على تنوع في التمثيل العالمي، فإن الأنظمة الناتجة لا تكون ممثلة. هناك الكثير من العمل الذي يتعين القيام به في تشكيل أفضل ممارسات التقييم واللوائح وتدابير الامتثال. لقد تعهد البيت الأبيض بالتزامات، وبدأ العمل على مخطط ميثاق حقوق الذكاء الاصطناعي. كانت هناك عمليات تم تنفيذها عبر الصناعة، حيث تعمل العديد من العقول العظيمة معًا (ليست مثالية، ولكن هناك إمكانية للتعميم عبر الصناعة). هناك اجتماعات تحدث للوصول إلى التقارب بشأن البدء حاليًا كمعايير؛ ربما في التنظيم المستقبلي. كيف نقوم بإجراء التقييمات، وتحليل السلامة، وما إلى ذلك؟ لا تتمتع أي من هذه المحادثات بالتنوع الذي يجب أن يكون في الغرفة. فكر في الأشخاص الذين يجب أن يكونوا في الغرفة عند اتخاذ القرارات.
دكتور دومي: أعتقد أنه عندما يتحدث الناس عن التنظيم، وخاصة في مجال الذكاء الاصطناعي، يفكر الجميع في الأنظمة العقابية. ولكن هذا يمكن أن يكون أيضاً بمثابة تحفيز للتنظيم. يمكن لواضعي سياسات التمويل ومؤسسة NSF تعزيز تطوير الأدوات التي تساعدنا كأمة والعالم.
س: إن تمويل الذكاء الاصطناعي متأخر جدًا في الولايات المتحدة مقارنة بأماكن أخرى في العالم. الاستثمار الجديد من قبل NSF هو 20 مليون شيء، وهو مبلغ زهيد مقارنة باستثمارات الصناعة. لقد أصدرت الحكومة الفيدرالية تقارير من الدراسات التي أجريت منذ سنوات، والنتيجة هي أن الولايات المتحدة يجب أن تمضي قدماً. أنا أحب تشبيه تغير المرحلة في اللجنة الاقتصادية لأوروبا. الحد الديناميكي الحراري مع الأرقام آخذ في الازدياد. نريد الذكاء الاصطناعي المفتوح، من سيدفع ثمنه؟ ليس هناك ما يكفي من المال. ما هي اقتراحاتكم؟ فتح الذكاء الاصطناعي؟ ولكن ليس لدينا حتى النشر المفتوح الوصول. هل تنصح الرئيس بعدم وجود تشريع؟
د.مي: أعتقد أن هناك مال؛ لاحظ لي أحد الأشخاص أنك تمكنت من إقناع الحكومة بتدوير الجزيئات، ولكنك لم تتمكن من تحويلها إلينا.
د. قمر: السبب وراء حصول الشركات التي تبني هذه النماذج على هذه النتائج هو مركزية الموارد. هناك الكثير الذي تحصل عليه من الحجم. يجب أن نفكر في كيفية تركيز الاستثمارات في الأوساط الأكاديمية حتى نحصل على مورد مشترك بدلاً من وجود الكثير من النماذج المختلفة. نحن نرى أن الأمر لا يتعلق فقط بالحجم. ليس شيئًا يتعين علينا القيام به الآن، لكن الهندسة المعمارية الحالية ليست رائعة. إن امتلاك قدرات الذكاء الاصطناعي الجيدة لا ينبغي أن يقتصر فقط على المزيد من المال والمزيد من القوة.
س: التحيز الزائد في الإجابات. هل نعرف من أين يأتي؟ أنا رجل رياضيات، وأفكاري تذهب إلى أن تضاعف أخطاء التقريب يزيد من التحيز؟ إذا كان التمثيل متساويًا، أتخيل أنه سينتج تمثيلًا متساويًا، أم أنه سيظل موجودًا؟
دكتور ماي: يتعلق الأمر كثيرًا بالوظائف المتصاعدة. يعتبر الحد الأقصى الناعم جزءًا مهمًا من التدريب. الأعلى يريد أن يكون رقم 1. لا يبدو الأمر وكأن هناك بعض المخرجات اللغوية المثالية، ولكننا نريد أن يكون لدينا بعض التحيز. نريد فقط تقليل الضرر الذي يلحق بالناس، وفي كثير من الأحيان لا ندرك ذلك. النشر دون فهم يمثل مشكلة.
دكتور دومي: أحد التحديات التي تواجه هذه النماذج هو أنه لم تعد هناك نماذج ضيقة للذكاء الاصطناعي. يقولون أنهم يستطيعون فعل أي شيء، لذلك من الصعب اختبار كل شيء.
س: لقد ذكرت أن الذكاء الاصطناعي هو أداة أو بديل، ما هي الطريقة التي ترى أنها ستسير بها؟
دكتور دومي: هناك أموال أكثر تذهب إلى الاستبدال.
س: العنوان ذكر الذكاء الاصطناعي الرومانسي. أريد أن أعرف المزيد عن ذلك.
دكتور ماي: ليس هناك نية كافية في النماذج لتكون بدائل رومانسية قابلة للتطبيق، لكنها جيدة مثل البشر في التعرف على الأنماط حتى عندما لا تكون موجودة.
دكتور قمر: أنصحك بعدم التفكير في الذكاء الاصطناعي كما هو عليه الآن. حاول أن تتطلع إلى المستقبل – تخيل أنه في غضون سنوات قليلة، سيتم تخصيص هذه الأنظمة لتناسبك. ما هي العلاقة التي ستكون لديك مع هذا النظام؟
دكتورة مي: لكن هل سيحبك؟
دكتور قمر: سيخبرك أنه يحبك.
الدكتورة مي: لكن هل هذا يكفي؟
س: أريد أن أسمع نصيحة للأشخاص الذين لا يعملون في مجال الذكاء الاصطناعي. كيف يمكننا التعامل مع هذه الأدوات؟ ماذا يجب أن نعرف؟
دكتور دومي: في جامعة ميريلاند، نجري هذه المحادثات كثيرًا. من السهل بالنسبة لي أن أقول إن الصحافة ستكون مختلفة خلال خمس سنوات، وكذلك المجالات الأخرى أيضًا. من غير المريح أن نقول إن دور الأستاذ سيكون مختلفًا خلال 5 سنوات، لكنه سيكون كذلك. لدي زملاء يستخدمون المكونات الإضافية المختلفة لـ LLM في المقترحات والأوراق؛ إنه يحدث بالفعل. لدي بانتظام أسئلة امتحانية مكتوبة بواسطة الأدوات، لكن يجب أن أتحقق من دقتها. إن كتابة أسئلة الامتحان لا تجلب لي السعادة، لذلك يمكن للذكاء الاصطناعي أن يزيلها عني. في التعليم العالي، علينا أن نفكر في الأمر أكثر. كيف يغير وظائفنا؟ هناك الكثير من المناقشات الجارية في الجامعات، ولكن ليس هناك الكثير من الموارد المجمعة.
س: ما مدى الترحيب بالحكم على الذكاء الاصطناعي في المستقبل عند النظر في التطبيقات العسكرية؟ لم يكن هناك أي ذكر للتطبيقات العسكرية في هذه الجلسة - أعلم أنه إذا قرأت الناس بشكل جزئي بشكل صحيح فسيكون هناك اختلاف في الرأي حول هذا الموضوع.
د. مي: الجيش واسع النطاق، والكثير من أعمالي ترعاها وزارة الدفاع. من الصعب الإجابة على وجه التحديد، بشكل عام يبدو أن وزارة الدفاع (لا تتحدث نيابة عنها) تعطي الأولوية لسلامة وأمن الولايات المتحدة، وسوف تستمر في القيام بذلك والاستفادة من حاملي شهادات الماجستير والذكاء الاصطناعي لمساعدة الولايات المتحدة على أن تكون آمنة.
دكتور قمر: نحتاج أيضًا إلى الحديث عن الاستخدام المزدوج. إذا نظرت إلى العمل العسكري الجاري في مجال البيولوجيا أو الأمن السيبراني، فيمكننا أن نأخذ الأدوات الواعدة التي لدينا الآن ونستخدمها لأننا نريد أنظمة آمنة وأدوية جديدة. ولكن مع كل استخدام جيد سيكون لك استخدام سيئ. ما هي حالات الاستخدام التي لا نريد استخدام الذكاء الاصطناعي فيها؟ في التطبيقات مفتوحة المصدر، يمكن للأشخاص تكرار هذه النماذج. كيف نمنع الناس من الأذى في هذه الحالات؟
س: عند التفاعل مع نماذج اللغة، يفهم البالغون أنها ليست حية/ذاتية الوعي، ولكن ماذا عن عدة أجيال لاحقة؛ الأطفال الذين لديهم ذلك منذ أن يتذكروا التواصل الاجتماعي؟ لديهم معلم أو مدرس يعتمد على الذكاء الاصطناعي بالكامل؛ تم تضمين النظام مع المدرب. يمكنهم إنشاء رابط مع التعليمات، ويعتقدون أن لديهم علاقة رائعة، ومن ثم يتم حذف البرنامج. ما هي سيكولوجية الطفل للروابط العاطفية الاجتماعية مع الكيانات غير الشخصية؟
د. قمر: نحن بحاجة إلى أبحاث، أبحاث متعددة التخصصات، ونحتاج إليها بسرعة. في غضون 5 سنوات، قد نحصل على هذه الإجابات، ولكن في ذلك الوقت قد يصبح الذكاء الاصطناعي جزءًا كبيرًا من حياة طفلي البالغ من العمر 10 سنوات. سؤالك مهم للغاية. هناك أبحاث تظهر أنه حتى الأنظمة البريئة قد يكون لها أبواب خلفية. نحن بحاجة إلى خبراء أمنيين ومتخصصين في تنمية الطفل لإجراء هذه المحادثات اليوم.
دكتور دومي: لا أعرف إذا كان أي شخص يتذكر مراقبة باربي، فهناك مشكلة خصوصية كبيرة هنا. إنها قضية اجتماعية أكثر إثارة للاهتمام. تم ضبط الردود لتكون إيجابية بشكل مفرط. قد يقول الأطفال أشياء مثل أنني غاضب لأن سالي لم تلعب معي، ولا تقدم اقتراحات مناسبة اجتماعيًا. أنا قلق بشأن العوامل الإيجابية للغاية، لأن الإيجابية ليست دائمًا هي الإجابة الصحيحة.
شكرًا جزيلاً على القراءة، وترقبوا ملخص الجلسة الثالثة والأخيرة في AAAS 2024.
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/
