@com.itrexITRex

تطوير واستشارات التكنولوجيا الناشئة: الذكاء الاصطناعي. تحليلات متقدمة. التعلم الالي. البيانات الكبيرة. سحاب

في عام 2018 ، اكتشف الاتحاد الأمريكي للحريات المدنية أن شركة Amazon's Rekognition ، التي تواجه تقنية المراقبة التي تستخدمها الشرطة وإدارات المغازلة في جميع أنحاء الولايات المتحدة ، تُظهر تحيزًا في الذكاء الاصطناعي. أثناء الاختبار ، البرنامج متطابقة بشكل غير صحيح 28 عضوًا في الكونجرس يحملون صورًا لأشخاص تم القبض عليهم لارتكابهم جريمة ، و 40٪ من المطابقات الكاذبة كانوا أشخاصًا ملونين.

بعد الاحتجاجات الجماهيرية التي رفض فيها موظفو أمازون المساهمة في أدوات الذكاء الاصطناعي التي تعيد إنتاج تحيز التعرف على الوجه ، أعلن عملاق التكنولوجيا عن وقف لمدة عام واحد على وكالات إنفاذ القانون التي تستخدم المنصة.

أثار الحادث جدلاً جديدًا حول التحيز في خوارزميات الذكاء الاصطناعي وجعل الشركات تبحث عن حلول جديدة لمفارقة انحياز الذكاء الاصطناعي.

في هذه المقالة ، سنقوم بتركيز نقاط i ، مع التركيز على المفهوم ، والأسباب الجذرية ، والأنواع ، والآثار الأخلاقية لتحيز الذكاء الاصطناعي ، بالإضافة إلى سرد تقنيات إزالة الحواف العملية التي شاركناها. مستشارو الذكاء الاصطناعي تستحق تضمينها في استراتيجية الذكاء الاصطناعي الخاصة بك.

لكن لنبدأ بالأساسيات.

ما هو انحياز الذكاء الاصطناعي ولماذا يحدث؟

A simple definition of AI bias could sound like that: an anomaly in the output of AI algorithms.

يمكن أن يتخذ التحيز في الذكاء الاصطناعي أشكالًا عديدة - من التحيز العنصري والتحيز الجنساني إلى تجنيد عدم المساواة والتمييز على أساس السن. السبب الكامن وراء تحيز الذكاء الاصطناعي هو المعتقدات البشرية الخاطئة ، سواء كانت واعية أو غير واعية ، الكامنة فيها خوارزميات الذكاء الاصطناعى في مراحل مختلفة من تطورهم. لذلك ، يتبنى حل الذكاء الاصطناعي ويقيس الافتراضات المتحيزة للدماغ البشري ، الفردية والمجتمعية.

أحد المصادر المحتملة لهذه المشكلة هو وضعت الفرضيات المتحيزة عند تصميم نماذج الذكاء الاصطناعي أو التحيز الحسابي. يدعي علماء النفس أن هناك حوالي 180 تحيزًا معرفيًا ، قد يجد بعضها طريقه إلى الفرضيات ويؤثر على كيفية تصميم خوارزميات الذكاء الاصطناعي.

مثال على تحيز الذكاء الاصطناعي الخوارزمي يمكن أن يفترض أن النموذج سيكون تلقائيًا أقل تحيزًا عندما لا يتم منحه حق الوصول إلى الفئات المحمية ، على سبيل المثال ، العرق. في الواقع ، لا تؤدي إزالة الفئات المحمية من التحليل إلى محو التحيز العنصري من خوارزميات الذكاء الاصطناعي. لا يزال من الممكن أن ينتج عن النموذج نتائج متحيزة تعتمد على العوامل غير المحمية ذات الصلة ، على سبيل المثال ، البيانات الجغرافية - تُعرف الظاهرة باسم التمييز بالوكالة.

سبب شائع آخر لتكرار تحيز الذكاء الاصطناعي هو تدني جودة البيانات التي يتم تدريب نماذج الذكاء الاصطناعي عليها. قد تتضمن بيانات التدريب قرارات بشرية أو تعكس عدم المساواة المجتمعية أو التاريخية.

على سبيل المثال ، إذا استخدم صاحب العمل أداة توظيف قائمة على الذكاء الاصطناعي مدربة على بيانات الموظفين التاريخية في صناعة يغلب عليها الذكور ، فمن المحتمل أن يقوم الذكاء الاصطناعي بتكرار التحيز الجنساني.

الأمر نفسه ينطبق على خوارزميات معالجة اللغة الطبيعية. عند التعلم من بيانات العالم الحقيقي ، مثل التقارير الإخبارية أو منشورات وسائل التواصل الاجتماعي ، من المرجح أن يُظهر الذكاء الاصطناعي التحيز اللغوي ويعزز الأحكام المسبقة الموجودة. هذا ما حدث مع Google Translate ، والذي يميل إلى التحيز ضد النساء عند الترجمة من اللغات ذات الضمائر المحايدة بين الجنسين. من المرجح أن ينتج محرك الذكاء الاصطناعي الذي يشغّل التطبيق مثل هذه الترجمات مثل "هو يستثمر" و "تعتني بالأطفال" وليس العكس.

يمكن أن ينبع انحياز الذكاء الاصطناعي من طريقة جمع بيانات التدريب ومعالجتها أيضًا. قد تقع أخطاء بيانات العلماء فريسة تتراوح من استبعاد الإدخالات القيمة إلى وضع العلامات غير المتسقة إلى النقص والإفراط في أخذ العينات. يمكن أن يؤدي عدم أخذ العينات ، على سبيل المثال ، إلى حدوث انحرافات في التوزيع الطبقي ويجعل نماذج الذكاء الاصطناعي تتجاهل فئات الأقليات تمامًا.

قد يؤدي أخذ العينات ، بدوره ، إلى التمثيل الزائد لمجموعات أو عوامل معينة في مجموعات بيانات التدريب. على سبيل المثال ، من المرجح أن يتم تسجيل الجرائم المرتكبة في المواقع التي ترتادها الشرطة في مجموعة بيانات التدريب لمجرد أن هذا هو المكان الذي تقوم فيه الشرطة بدوريات. وبالتالي ، فإن الخوارزميات المدربة على مثل هذه البيانات من المرجح أن تعكس هذا التفاوت.

هناك مصدر لا يقل أهمية عن انحياز الذكاء الاصطناعي ردود فعل المستخدمين في العالم الحقيقي الذين يتفاعلون مع نماذج الذكاء الاصطناعي. قد يعزز الأشخاص التحيز الموجود في نماذج الذكاء الاصطناعي التي تم نشرها بالفعل ، غالبًا دون إدراك ذلك. على سبيل المثال ، قد تستخدم شركة بطاقات الائتمان خوارزمية الذكاء الاصطناعي التي تعكس بشكل معتدل التحيز الاجتماعي للإعلان عن منتجاتها ، وتستهدف الأشخاص الأقل تعليماً بعروض تتميز بمعدلات فائدة أعلى. قد يجد هؤلاء الأشخاص أنفسهم ينقرون على هذه الأنواع من الإعلانات دون أن يعرفوا أن المجموعات الاجتماعية الأخرى تظهر عروض أفضل ، وبالتالي ، توسيع نطاق التحيز الحالي.

ما هي الأنواع الأربعة الشائعة للتحيز في الذكاء الاصطناعي؟

يأخذ التصنيف الأكثر شيوعًا للتحيز في الذكاء الاصطناعي مصدر التحيز كمعيار أساسي ، ويضع تحيزات الذكاء الاصطناعي في ثلاث فئات - الخوارزمية ، والبيانات ، والبشر. ومع ذلك ، يحث الباحثون والممارسون في مجال الذكاء الاصطناعي على البحث عن هذا الأخير لأن التحيز البشري يكمن وراء الاثنين الآخرين ويفوقهما. فيما يلي أكثر أنواع انحياز الذكاء الاصطناعي شيوعًا التي تتسلل إلى الخوارزميات.

1. الإبلاغ عن التحيز

ينشأ هذا النوع من تحيز الذكاء الاصطناعي عندما لا يعكس تكرار الأحداث في مجموعة بيانات التدريب الواقع بدقة. يأخذ مثال من أداة كشف الاحتيال للعملاء التي كان أداؤها ضعيفًا في منطقة جغرافية نائية ، وتمييز جميع العملاء الذين يعيشون في المنطقة بدرجة احتيال عالية كاذبة.

اتضح أن مجموعة بيانات التدريب التي كانت الأداة تعتمد عليها كل تحقيق تاريخي مزعوم في المنطقة كحالة احتيال. والسبب هو أنه نظرًا لبُعد المنطقة ، أراد المحققون في قضايا الاحتيال التأكد من أن كل مطالبة جديدة هي بالفعل احتيالية قبل سفرهم إلى المنطقة. لذلك ، كان تكرار الأحداث الاحتيالية في مجموعة بيانات التدريب أعلى بكثير مما كان ينبغي أن يكون في الواقع.

2. التحيز في الاختيار

يحدث هذا النوع من تحيز الذكاء الاصطناعي إذا كانت بيانات التدريب إما غير تمثيلية أو تم اختيارها بدون عشوائية مناسبة. يتم توضيح مثال على تحيز الاختيار بشكل جيد بواسطة البحث أجرتها Joy Buolamwini و Timnit Gebru و Deborah Raji ، حيث نظروا في ثلاثة منتجات تجارية للتعرف على الصور. كانت الأدوات لتصنيف 1,270 صورة لأعضاء برلمانيين من دول أوروبية وأفريقية. وجدت الدراسة أن جميع الأدوات الثلاثة كان أداءها أفضل على وجوه الرجال من الإناث وأظهرت تحيزًا أكبر ضد الإناث ذوات البشرة الداكنة ، وفشلت في أكثر من واحدة من كل ثلاث نساء ملونات - كل ذلك بسبب نقص التنوع في بيانات التدريب.

3. انحياز إسناد المجموعة

يحدث تحيز إسناد المجموعة عندما تقوم فرق البيانات باستقراء ما هو صحيح للأفراد لمجموعات كاملة يكون الفرد جزءًا منها أو ليس جزءًا منها. يمكن العثور على هذا النوع من تحيز الذكاء الاصطناعي في أدوات القبول والتوظيف التي قد تفضل المرشحين الذين تخرجوا من مدارس معينة وتظهر التحيز ضد أولئك الذين لم يفعلوا ذلك.

4. التحيز الضمني

يحدث هذا النوع من التحيز للذكاء الاصطناعي عندما يتم وضع افتراضات الذكاء الاصطناعي بناءً على التجربة الشخصية التي لا تنطبق بالضرورة بشكل عام. على سبيل المثال ، إذا التقط علماء البيانات إشارات ثقافية حول كون النساء خادمات منازل ، فقد يواجهون صعوبة في ربط النساء بأدوار مؤثرة في الأعمال التجارية على الرغم من إيمانهن الواعي بالمساواة بين الجنسين - وهو مثال يكرر قصة التحيز الجنساني لصور Google.

لماذا يجب على الشركات المشاركة في حل مشكلة التحيز في الذكاء الاصطناعي؟

مع الاستخدام المتزايد للذكاء الاصطناعي في المجالات الحساسة ، بما في ذلك الشؤون المالية والعدالة الجنائية و الرعاىة الصحية، يجب أن نسعى جاهدين لتطوير خوارزميات عادلة للجميع. يتعين على الشركات أيضًا العمل على الحد من التحيز في أنظمة الذكاء الاصطناعي.

السبب الأكثر وضوحًا لصقل استراتيجية إزالة الحيازة المؤسسية هو أن مجرد فكرة خوارزمية الذكاء الاصطناعي يمكن أن تحول العملاء بعيدًا عن منتج أو خدمة تقدمها الشركة وتعرض سمعة الشركة للخطر. على الجانب الآخر ، فإن الاعتماد على حل ذكاء اصطناعي يعمل بدقة مع مجموعة كاملة من الأجناس والأجناس والأعمار والخلفيات الثقافية من المرجح أن يقدم قيمة فائقة ويجذب مجموعة أوسع وأكثر تنوعًا من العملاء المحتملين.

هناك نقطة أخرى يمكن أن تحفز الشركات على تكريس نفسها للتغلب على تحيز الذكاء الاصطناعي وهي الجدل المتزايد حول لوائح الذكاء الاصطناعي. على سبيل المثال ، بدأ صناع السياسة في الاتحاد الأوروبي في تطوير حلول يمكن أن تساعد في إبقاء التحيز في الذكاء الاصطناعي تحت السيطرة. يمكن أن يكون اعتماد بائعي الذكاء الاصطناعي أحد هذه الحلول. وإلى جانب تنظيم شمولية خوارزميات الذكاء الاصطناعي ، فإن الحصول على شهادة الذكاء الاصطناعي يمكن أن يساعد المؤسسات التقنية على التميز في الأسواق المشبعة.

كيفية تقليل التحيز في خوارزميات التعلم الآلي

يتطلب حل مشكلة التحيز في الذكاء الاصطناعي التعاون بين لاعبي صناعة التكنولوجيا وواضعي السياسات وعلماء الاجتماع. ولا يزال أمام صناعة التكنولوجيا طريق طويل قبل أن تتمكن من القضاء على تحيز الذكاء الاصطناعي. ومع ذلك ، هناك خطوات عملية يمكن للشركات اتخاذها اليوم للتأكد من أن الخوارزميات التي يطورونها تعزز المساواة والاندماج.

1. افحص السياق. بعض الصناعات وحالات الاستخدام أكثر عرضة لتحيز الذكاء الاصطناعي ولديها سجل سابق في الاعتماد على الأنظمة المتحيزة. إن إدراك المواضع التي عانى فيها الذكاء الاصطناعي في الماضي يمكن أن يساعد الشركات على تحسين العدالة ، بناءً على تجربة الصناعة.

2. تصميم نماذج الذكاء الاصطناعي مع مراعاة التضمين. قبل تصميم خوارزميات الذكاء الاصطناعي فعليًا ، من المنطقي التعامل مع الإنسانيين وعلماء الاجتماع للتأكد من أن النماذج التي تنشئها لا ترث التحيز الموجود في الحكم البشري. أيضًا ، ضع أهدافًا قابلة للقياس لنماذج الذكاء الاصطناعي لأداء جيد على قدم المساواة عبر حالات الاستخدام المخطط لها ، على سبيل المثال ، للعديد من الفئات العمرية المختلفة.

3. تدريب نماذج الذكاء الاصطناعي الخاصة بك على بيانات كاملة وتمثيلية. سيتطلب ذلك وضع إجراءات وإرشادات حول كيفية جمع بيانات التدريب وأخذ عينات منها ومعالجتها. إلى جانب إنشاء عمليات بيانات شفافة ، يمكنك إشراك فرق داخلية أو خارجية لاكتشاف الارتباطات التمييزية والمصادر المحتملة لتحيز الذكاء الاصطناعي في مجموعات بيانات التدريب.

4. إجراء الاختبارات المستهدفة. أثناء اختبار النماذج الخاصة بك ، قم بفحص أداء الذكاء الاصطناعي عبر مجموعات فرعية مختلفة للكشف عن المشكلات التي يمكن إخفاءها بواسطة المقاييس الإجمالية. أيضًا ، قم بإجراء مجموعة من اختبارات الضغط للتحقق من كيفية أداء النموذج في الحالات المعقدة. بالإضافة إلى ذلك ، قم بإعادة اختبار نماذجك باستمرار مع حصولك على المزيد من البيانات الواقعية والحصول على تعليقات من المستخدمين.

5. صقل القرارات البشرية. يمكن أن يساعد الذكاء الاصطناعي في الكشف عن الأخطاء الموجودة في صنع القرار البشري. لذلك ، إذا أظهرت نماذج الذكاء الاصطناعي المدربة على القرارات أو السلوك البشري الأخير تحيزًا ، فكن مستعدًا للنظر في كيفية تحسين العمليات التي يقودها الإنسان في المستقبل.

6. تحسين إمكانية شرح الذكاء الاصطناعي. بالإضافة إلى ذلك ، ضع في اعتبارك المشكلة المجاورة لـ قابلية شرح الذكاء الاصطناعي: فهم كيفية إنشاء الذكاء الاصطناعي للتنبؤات وما هي ميزات البيانات التي يستخدمها لاتخاذ القرارات. يمكن أن يساعد فهم ما إذا كانت العوامل التي تدعم القرار تعكس تحيز الذكاء الاصطناعي في تحديد وتخفيف التحيز.

الاتجاهات في معالجة انحياز الذكاء الاصطناعي

يتخذ قادة التكنولوجيا في جميع أنحاء العالم خطوات لتقليل التحيز في الذكاء الاصطناعي. وتعد تسوية التركيبة السكانية التي تعمل على الذكاء الاصطناعي إحدى أولوياتهم. إنتل ، على سبيل المثال ، تتخذ خطوات لتحسين التنوع في المناصب الفنية للشركة. تُظهر البيانات الحديثة أن النساء يشكلن 24٪ من مطوري الذكاء الاصطناعي في الشركة ، أي أعلى بعشر نقاط مئوية من متوسط ​​الصناعة.

كما طرحت Google أيضًا مبادرات تصحيح أخطاء الذكاء الاصطناعي ، بما في ذلك ممارسات الذكاء الاصطناعي المسؤولة يقدم نصائح حول جعل خوارزميات الذكاء الاصطناعي أكثر عدلاً. في نفس الوقت، AI4ALL ، منظمة غير ربحية مكرسة لزيادة التنوع والشمول في تعليم وبحث وتطوير الذكاء الاصطناعي ، وتولد مواهب جديدة لقطاع تطوير الذكاء الاصطناعي.

تركز جهود الصناعة الأخرى على تشجيع التقييم والتدقيق لاختبار عدالة الخوارزميات قبل بدء تشغيل أنظمة الذكاء الاصطناعي وتعزيز الأطر والأدوات القانونية التي يمكن أن تساعد في معالجة انحياز الذكاء الاصطناعي.

إذا كنت ترغب في تطوير حل ذكاء اصطناعي خالٍ من التحيز ، التواصل فريق ITRex ، وسنقوم بتوصيلك بخبراء الذكاء الاصطناعي لدينا.

نشرت أيضا على https://itrexgroup.com/blog/ai-bias-definition-types-examples-debiasing-strategies/.

كوينسمارت. Beste Bitcoin-Börse في أوروبا
المصدر: https://hackernoon.com/solving-the-problem-of-bias-in-artstract-intelligence-e6x354s ؟source=rss