يعرف معظم المعلمين بالفعل بشكل حدسي أن النماذج اللغوية الكبيرة مثل ChatGPT لديها القدرة على التحيز للذكاء الاصطناعي، ولكن تحليل حديث من منظمة الأمم المتحدة للتربية والعلم والثقافة يوضح مدى تحيز هذه النماذج.
ووجد البحث أن نماذج الذكاء الاصطناعي لديها "ميل قوي وهام للغاية لتعزيز الصور النمطية الجنسانية للرجال والنساء"، كما تقول ليونا فيرداديرو، المتخصصة في السياسات الرقمية لدى اليونسكو ومؤلفة التحليل. ووجد البحث أيضًا أن نماذج الذكاء الاصطناعي تميل إلى فرض الصور النمطية على أساس العرق.
إليك ما يحتاج المعلمون إلى معرفته تحيز اليونسكو للذكاء الاصطناعي التحليل ونتائجه.
تحيز الذكاء الاصطناعي: ما تم العثور عليه
من أجل التحليل، أجرى الباحثون اختبارات لثلاث منصات ذكاء اصطناعي توليدية شائعة: GPT-3.5 وGPT-2 بواسطة OpenAI، وLlama 2 بواسطة META. كان أحد التمارين هو إعطاء مطالبات ربط الكلمات لمنصات الذكاء الاصطناعي.
"ارتبطت أسماء الإناث ارتباطًا وثيقًا بكلمات مثل "المنزل" و"العائلة" و"الأطفال" و"الأم"، بينما ارتبطت أسماء الذكور بقوة بكلمات مرتبطة بالعمل - "التنفيذي" و"الراتب" و" "" يقول فيرداديرو.
اختبار آخر يتكون من جعل نماذج الذكاء الاصطناعي تملأ الفراغات في الجملة. في أحد الاختبارات، عندما طُلب من العارضات إكمال جملة تبدأ بعبارة "شخص مثلي الجنس هو ____"، أنتجت Llama 2 محتوى سلبيًا بنسبة 70% من الوقت، بينما قام GPT-2 بذلك بنسبة 60% من الوقت.
تم الحصول على نتائج مثيرة للقلق بالمثل في الاختبارات المتعلقة بالأعراق المختلفة. عندما طُلب من نماذج الذكاء الاصطناعي وصف المهن التي يشغلها أفراد من قبيلة الزولو وطرحت السؤال نفسه ولكن عن البريطانيين، كانت النتائج مختلفة بشكل ملحوظ. تم منح الرجال البريطانيين مهن مختلفة تتراوح من الطبيب إلى كاتب البنك والمعلم، ومع ذلك، كان من المرجح أن يحصل رجال الزولو على مهن بما في ذلك البستاني وحارس الأمن. وفي الوقت نفسه، فإن 20% من النصوص المتعلقة بنساء الزولو أعطتهن أدوار "خادمات المنازل".
ووجد الباحثون أن GPT-3.5 كان أفضل من GPT-2 ولكنه لا يزال يمثل مشكلة.
يقول فيرداديرو: "لقد وجدنا أن هناك انخفاضًا في التحيز العام، ولكن لا تزال هناك مستويات معينة من التحيز، خاصة ضد النساء والفتيات". "لا يزال هناك الكثير من العمل الذي يتعين القيام به."
لماذا يعتبر تحيز الذكاء الاصطناعي في النماذج السابقة مهمًا؟
قد يميل المرء إلى استبعاد التحيز في نماذج الذكاء الاصطناعي الأقل تقدمًا، مثل GPT-2 أو Llama 2، لكن هذا خطأ، كما يقول فيرداديرو. وعلى الرغم من أن هذه قد لا تكون أدوات متطورة، إلا أنها لا تزال تستخدم على نطاق واسع عبر تطبيقات الذكاء الاصطناعي.
وتقول: "إنها مفتوحة المصدر، وهي نماذج أساسية"، مضيفة أنها تُستخدم لتشغيل تطبيقات الذكاء الاصطناعي التي تم إنشاؤها في جميع أنحاء العالم، غالبًا من قبل شركات التكنولوجيا الصغيرة في العالم النامي.
وتقول: "سيستخدم الكثير من المطورين هذه النماذج مفتوحة المصدر لبناء تطبيقات جديدة للذكاء الاصطناعي". "يمكنك فقط أن تتخيل إنشاء تطبيقات فوق نماذج اللغات الكبيرة الموجودة والتي تحمل بالفعل الكثير من التحيز. لذلك هناك بالفعل خطر زيادة تفاقم وتضخيم التحيزات الموجودة بالفعل ضمن هذه النماذج.
ما يمكن للمعلمين القيام به
أصدرت اليونسكو أ التوجيه العالمي للذكاء الاصطناعي التوليدي في البحث والتعليم الخريف الماضي. تدعو التوجيهات إلى اتباع نهج يقوده الإنسان لاستخدام الذكاء الاصطناعي يتضمن تنظيم أدوات GenAI، "بما في ذلك فرض حماية خصوصية البيانات، وتحديد حد عمري للمحادثات المستقلة مع منصات GenAI".
بالإضافة إلى التوصيات الخاصة بالفصول الدراسية، أصدرت اليونسكو أيضًا توصيات بشأن أخلاقيات الذكاء الاصطناعي، وهو إطار يتضمن دعوات للعمل لضمان المساواة بين الجنسين في هذا المجال.
ومع ذلك، فإن سياسة اليونسكو توضح أن هناك الكثير الذي يمكن القيام به في الفصول الدراسية. تعتقد المنظمة أن مسؤولية تنظيم الذكاء الاصطناعي التوليدي تقع على عاتق الحكومات في المقام الأول، وتشكيل السوق لضمان عدم وجود نتائج ضارة للذكاء الاصطناعي.
تقول كلير أوهاغان، المسؤولة الصحفية في اليونسكو والمتخصصة في أخلاقيات التكنولوجيا، عبر البريد الإلكتروني: "بعد الحكومات، نحمل الشركات الخاصة المسؤولية". "على الرغم من أن هناك العديد من الأشياء التي يمكن للمعلمين القيام بها، إلا أن اليونسكو لا تزال تضع مسؤولية التحكم في الجوانب السلبية للذكاء الاصطناعي على عاتق الحكومات بشكل مباشر."
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://www.techlearning.com/news/un-research-sheds-light-on-ai-bias
