شعار زيفيرنت

الطريق الصخري نحو الذكاء الاصطناعي القابل للتفسير (XAI) للسيارات ذاتية التحكم 

التاريخ:

ستحتاج أنظمة الذكاء الاصطناعي التي تقوم بتجربة السيارات ذاتية القيادة إلى تقديم تفسيرات للمسافرين الفضوليين حول المسار الذي يتم السير فيه. (مصدر الصورة: Getty Images) 

بواسطة لانس إليوت ، من الداخل منظمة العفو الدولية الاتجاهات  

حياتنا مليئة بالتفسيرات. تذهب لرؤية طبيبك الأساسي بسبب التهاب في الكتف. يوصيك الطبيب بإراحة ذراعك وتجنب رفع الأشياء الثقيلة. بالإضافة إلى ذلك ، يتم إعطاء وصفة طبية. تتساءل على الفور عن سبب احتياجك لتناول الدواء وأيضًا بلا شك مهتم بمعرفة التشخيص الطبي والتشخيص العام. 

لذا ، فأنت تسأل عن تفسير. 

بمعنى ما ، لقد فتحت للتو جزءًا صغيرًا من صندوق Pandora ، على الأقل فيما يتعلق بطبيعة الشرح الذي قد تحصل عليه. على سبيل المثال ، يمكن للطبيب أن يصدر إشارة مطولة ومليئة بالمصطلحات عن تشريح الكتف ويغوص بعمق في الخصائص الكيميائية للأدوية التي تم وصفها. ربما ليس هذا هو التفسير الذي كنت تبحث عنه.   

كان من المعتاد أن الأطباء لا يتوقعون أن يطلب المرضى تفسيرات. كل ما قيل من قبل الطبيب يعتبر مقدسا. كان توتر طلب التفسير بمثابة التشكيك في صحة رأي طبي موقر. قد يخبرك بعض الأطباء بفظاظة أن تفعل ببساطة كما أوعزوا (لا توجد أسئلة مسموح بها) أو قد ينطقون بشيء غير دقيق مثل كتفك يحتاج إلى المساعدة وهذا هو أفضل مسار للعمل الفترة ، نهاية القصة.   

في الوقت الحاضر ، يدرك الأطباء الحاجة إلى تفسيرات قابلة للتطبيق. هناك تدريب متخصص "بجانب السرير" يتم إجراؤه في كليات الطب. المستشفيات لديها دورات داخلية خاصة بها. يتم تصنيف الأطباء القادمين على كيفية تفاعلهم مع المرضى. وما إلى ذلك وهلم جرا.   

على الرغم من أن ذلك فتح الباب بالتأكيد نحو تحسين التفاعل مع المرضى ، إلا أنه لا يحل بالضرورة مشكلة التفسيرات تمامًا. 

معرفة أفضل طريقة لتقديم تفسير هو الفن والعلم. عليك أن تضع في اعتبارك أن هناك الشرح الذي سيقدم الشرح ، وهناك شخص سيكون هو المتلقي للتفسير. 

تأتي التفسيرات بجميع الأشكال والأحجام. 

قد يفكر الشخص الذي يبحث عن تفسير في أنه يريد شرحًا مفصلاً بالكامل ، يحتوي على جميع الأجراس والصفارات المتاحة. قد يفكر الشخص الذي يقدم الشرح في ذهنه أن التفسير المناسب قصير ولطيف. إليكم الأمر ، تفسير غير متطابق يختمر أمام أعيننا مباشرة. 

قد يقدم الشرح شرحًا واضحًا ويكون سعيدًا بتفسيره. وفي الوقت نفسه ، فإن الشخص الذي يتلقى التفسير غير راضٍ تمامًا. في هذه المرحلة ، يمكن للشخص الذي تلقى التفسير أن يصرخ على أسنانه ويكتشف أن هذا هو كل ما سيحصل عليه. قد يبتعدون بصمت وينزعجون ، ويختارون عدم محاولة محاربة قاعة المدينة ، كما كانت ، والاكتفاء بالانضمام إلى الحد الأدنى من التفسير المقدم. 

ربما يقرر الشخص الذي يتلقى التفسير أنه يرغب في الحصول على نسخة أكثر تفصيلاً. قد يقفون على موقفهم ويطلبون شرحًا أكثر تعمقًا. الآن نحن بحاجة إلى التفكير فيما سيفعله الشرح. قد يعتقد الشرح أن التفسير كان أكثر من كافٍ ، ولا يرى أي حاجة لتقديم أي تعبير إضافي.   

قد يتم الخلط بين الشرح حول سبب عدم قبول التفسير الأولي. ربما لم يكن الشخص الذي تلقى التفسير يستمع أو فشل في فهم معنى الكلمات المنطوقة. في هذه المرحلة ، قد يقرر الشرح تكرار نفس التفسير الذي تم تقديمه للتو والقيام بذلك للتأكد من أن الشخص الذي يتلقى التفسير الأصلي يفهم حقًا ما قيل.   

من المحتمل أن تتوقع أن هذا على وشك الخروج عن نطاق السيطرة. 

الشخص الذي يتلقى هذا التفسير "التفصيلي" ملزم بذلك إشعار أنه نفس التفسير يتكرر حرفيا تقريبا. هذا إهانة! يعتقد الشخص الذي يتلقى التفسير الآن أن الشرح يقلل من شأنه. إما أن يمسك هذا الشخص بلسانه ويتخلى عن محاولة الحصول على تفسير ، أو يحاول توجيه الشتائم حول مدى سخافة التفسير.   

يمكن أن يتحول إلى علاقة غرامية ، وهذا أمر مؤكد.   

هناك رقصة دقيقة بين الشرح وتقديم الشرح ، جنبًا إلى جنب مع المتلقي والطبيعة المرغوبة للتفسير.   

عادة ما نأخذ هذه الاختلافات من المسلم به. Yنادرًا ما ترى شرحًا يسأل عن نوع التفسير الذي يريد شخص ما الحصول عليه. بدلاً من ذلك ، يبدأ الشرح في أي مظهر من مظاهر التفسير الذي يفترض أن الشخص قد يجده مفيدًا. يمكن أن يكون للتسرع في تقديم تفسير فوائده ، على الرغم من أنه يمكن أن يؤدي أيضًا إلى حدوث انهيار لفظي قبيح سيقضي على كل من الشرح والشخص الذي يتلقى التفسير.   

يقترح البعض أن الشرح يجب أن يبدأ بالاستفسار عن نوع التفسير الذي يبحث عنه الشخص الآخر. قد يشمل ذلك السؤال عن نوع الخلفية التي يمتلكها الشخص الآخرفي حالة التشخيص الطبي, ما إذا كان الشخص الآخر على دراية بالمصطلحات الطبية ومجال الطب. قد يكون هناك أيضًا استفسار لطيف حول ما إذا كان يجب إجراء التفسير بضربة واحدة أو ربما تقسيمه إلى قطع بحجم اللدغة. إلخ.   

تكمن الصعوبة في هذا النوع من تشكيل ما قبل اللعبة في أنه في بعض الأحيان لا يرغب المتلقي في المرور بهذا القفاز. إنهم يريدون تفسيرًا فقط (أو هكذا يقولون). من المحتمل أن تؤدي محاولة القيام بالديباجة إلى إثارة غضب ذلك المتلقي ، وسيشعرون كما لو أن التفسير يتم تأخيره عن قصد. قد يكون هذا بمثابة صفعة للاختباء من الحقائق أو بعض الأسس الشائنة الأخرى لتأخير التفسير. 

أخيرًا ، نتوقع الحصول على تفسير عندما نطلب واحدًا ، ولا يتعين علينا المرور بقائمة مراجعة واسعة مسبقًا.   

هناك تطور آخر لكل هذا يستلزم الحوار التفاعلي الذي يمكن أن يحدث أثناء التفسيرات.   

طريقة التفسيرات لا تتم بالضرورة بطريقة النفس الواحدة من البداية إلى النهاية. بدلاً من ذلك ، من الأرجح أنه أثناء الشرح ، سوف يقاطع المتلقي ويطلب توضيحًا أو يكون لديه أسئلة. هذا بالتأكيد جانب معقول. إذا كان التفسير ينحرف عن مساره ، فلماذا يستمر ويتكرر ، حيث يمكن للمستقبل بدلاً من ذلك أن يصمم أو يعيد تشكيل اتجاه وأسلوب الشرح.   

على سبيل المثال ، افترض أنك طبيب محترف وذهبت لرؤية طبيب حول كتفك المؤلم. تخيل أن الطبيب الذي يقوم بالتشخيص لا يدرك أن المريض زميل طبي متخصص. في هذه الحالة ، من المرجح أن يكون الشرح المقدم موجهًا إلى قاعدة معرفية غير طبية مفترضة والمضي قدمًا بطرق قد تكون مبسطة (فيما يتعلق بالنصائح الطبية). لا شك أن الشخص الذي يتلقى التفسير يقاطع ويوضح أنه يعرف عن الطب ويجب إعادة تعديل التفسير وفقًا لذلك.   

قد تميل إلى الاعتقاد بأن التفسيرات يمكن تصنيفها على أنها إما جيدة أو سيئة. على الرغم من أنه يمكنك اتخاذ مثل هذا المنظور ، فإن الفكرة العامة هي أن التفسيرات وجمالها في عين الناظر. قد يكون التفسير المفضل لشخص ما كارثيًا أو فظيعًا لشخص آخر. ومع ذلك ، لا يزال هناك قدر ضئيل من الأساس لتقييم التفسيرات ومقارنتها ببعضها البعض. 

يمكننا إضافة لمسة على هذا الالتواء. افترض أنك تلقيت تفسيرًا وتعتقد أنه تفسير جيد. في وقت لاحق ، تتعلم شيئًا آخر فيما يتعلق بالموضوع وتدرك أن التفسير ربما كان غير مكتمل. والأسوأ من ذلك ، أنه يمكن أن يكون التفسير مشوهًا عن قصد لمنحك انطباعًا خاطئًا عن موقف معين. باختصار ، يمكن استخدام تفسير لخلق أكاذيب عمدًا. 

هذا هو السبب في أن الحصول على تفسير مليء بالمشاكل. غالبًا ما نفترض أننا إذا طلبنا تفسيرًا ، وإذا كان يبدو معقولًا ، فإن هذا يشهد على أن الأمر قد تم تسويته جيدًا وفوق كل شيء. الشيء هو أن التفسير يمكن تشويهه ، إما عن طريق العمد أو بالمصادفة ، ويقودنا إلى إحساس زائف بالصدق أو الصدق في متناول اليد. 

زاوية أخرى للتفسيرات تتعامل مع طلب تفسير مقابل إعطاء تفسير عندما لا يتم طلبه. قد يقدم لك الشرح شرحًا صريحًا لأنهم يفترضون أنك تريده ، بينما لصحتك! راضون عن مجرد الاستمرار. في هذه المرحلة ، إذا عطلت التفسير ، فقد يفاجأ الشرح.   

لماذا كل هذا الحديث عن التفسيرات؟ بسبب الذكاء الاصطناعي.   

إن الاستخدام المتزايد للذكاء الاصطناعي (AI) في أنظمة الكمبيوتر اليومية يقودنا إلى مسار يتخذ الكمبيوتر من خلاله الخيارات وعلينا نحن البشر أن نتعايش مع تلك القرارات. إذا تقدمت بطلب للحصول على قرض لشراء منزل ، وخوارزمية قائمة على الذكاء الاصطناعي تبطلك ، فالاحتمالات هي أن كل ما ستعرفه هو أنك لم تحصل على القرض. لن يكون لديك أي فكرة عن سبب حرمانك من القرض.   

من المفترض ، لو تشاورت مع شخص كان يقوم بمنح القرض ، فربما تكون قادرًا على أن تطلب منهم شرح سبب رفضك.   

لاحظ أن هذا ليس هو الحال دائمًا ، وقد لا يكون الإنسان مستعدًا أو قادرًا على شرح الأمر. قد يتجاهل الشخص الممنوح للقرض أكتافه ويقول إنه ليس لديه أي فكرة عن سبب رفضك ، أو قد يخبرك أن سياسة الشركة تمنعه ​​من إعطائك تفسيرًا. 

حسنًا ، أنا لا أقترح أنه لمجرد وجود الإنسان في الحلقة ، ستحصل بالضرورة على تفسير. بالإضافة إلى ذلك ، كما تم التأكيد عليه مرارًا وتكرارًا ، قد يكون التفسير ضعيفًا إلى حد ما وعديم الفائدة تمامًا.    

على أي حال ، هناك ضجة كبيرة هذه الأيام بأن أنظمة الذكاء الاصطناعي يجب أن تتم برمجتها لتقديم تفسيرات لكل ما تقوم به.   

يُعرف هذا باسم Explainable AI (XAI). 

ينمو XAI بسرعة كمجال يحظى باهتمام شديد. من المرجح أن يتوقع الأشخاص الذين يستخدمون أنظمة الذكاء الاصطناعي ويطلبون إلى حد ما أن يحصلوا على تفسير مقدم لهم. نظرًا لأن عدد أنظمة الذكاء الاصطناعي ينمو بسرعة ، فستكون هناك شهية كبيرة للحصول على تفسير من إنتاج الآلة حول ما قام به الذكاء الاصطناعي أو يفعله.   

تكمن المشكلة في أن الذكاء الاصطناعي غالبًا ما يكون غامضًا وغير قابل بسهولة لتوليد تفسير.   

خذ على سبيل المثال استخدام التعلم الآلي (ML) والتعلم العميق (DL). هذه خوارزميات مطابقة للأنماط الحسابية تفحص البيانات وتحاول اكتشاف الأنماط الرياضية. في بعض الأحيان ، تكون الجوانب الحسابية الداخلية معقدة ولا يمكن شرحها بأي طريقة يومية يفهمها الإنسان وتستند إلى المنطق. 

هذا يعني أن الذكاء الاصطناعي لم يتم إعداده بشكل جوهري لتقديم التفسيرات. في هذه الحالة ، عادة ما تكون هناك محاولات لإضافة مكون XAI. هذا XAI إما يبحث في الذكاء الاصطناعي ويحاول اكتشاف ما حدث ، أو يجلس بعيدًا عن الذكاء الاصطناعي وقد تمت برمجته مسبقًا لتقديم تفسيرات بناءً على ما يُفترض أنه حدث ضمن الآليات الغامضة رياضياً. 

يؤكد البعض أنه يجب عليك بناء XAI في صميم أي شيء يتم ابتكاره للذكاء الاصطناعي. وبالتالي ، بدلاً من الاندماج في الذكاء الاصطناعي بعض الأفكار اللاحقة حول تقديم التفسيرات ، يجب أن يشمل تصميم الذكاء الاصطناعي من الألف إلى الياء نزعة لإنتاج التفسيرات.   

وسط كل هذا التأمل التكنولوجي ، هناك جوانب أخرى لما يشكل تفسيرا. إذا قمت بإعادة النظر في تعليقاتي السابقة حول كيفية عمل التفسيرات ، والاختلاف اعتمادًا على المفسر والشخص الذي يتلقى التفسير ، يمكنك أن ترى بسهولة مدى صعوبة إنتاج التفسيرات برمجيًا.   

أرخص طريقة للذهاب تنطوي على مجرد وجود تفسيرات جاهزة مسبقًا. ربما تم إنشاء نظام منح القروض مع خمسة تفسيرات لسبب رفض القرض. عند رفضك للحصول على القرض ، يتم عرض أحد هذه التفسيرات الخمسة. لا يوجد تفاعل. لا يوجد ما يشبه أن الشرح مناسب أو مناسب لك على وجه الخصوص. 

هذه هي التفسيرات الزهيدة الثمن. 

قد تتكون قدرة XAI الأكثر قوة واحترامًا من إنشاء تفسيرات سريعة ، في الوقت الفعلي ، والقيام بذلك بناءً على الموقف المعين في متناول اليد. بالإضافة إلى ذلك ، سيحاول XAI التأكد من نكهة أو أسلوب التفسير الذي سيكون مناسبًا للشخص الذي يتلقى التفسير. 

  

ويجب أن تسمح ميزة الشرح هذه بالتفاعل بطلاقة مع الشخص الذي يحصل على الشرح. يجب أن يكون المتلقي قادرًا على مقاطعة الشرح ، مما يجعل الشرح أو XAI يتحول إلى جوانب أخرى أو يعيد تشكيل التفسير بناءً على ما يشير إليه الشخص.   

بالطبع ، هذه هي نفس أنواع الاعتبارات التي يجب أن يأخذها المفسرون البشريون في الاعتبار. هذا يوضح حقيقة أن أداء XAI الممتاز أصعب مما قد يبدو. بطريقة التحدث ، من المحتمل أن تحتاج إلى استخدام الذكاء الاصطناعي داخل XAI حتى تتمكن من محاكاة أو تقليد ما يفترض أن يكون المفسر البشري قادرًا على القيام به (على الرغم من أنه ، كما نعلم ، ليس كل البشر بارعين في إعطاء تفسيرات).   

عند تغيير التروس ، قد تتساءل عن المجالات أو التطبيقات التي يمكن أن تستخدم XAI بشكل خاص.   

يستلزم أحد مجالات العمل هذه المركبات ذاتية القيادة (AVs). سنحصل تدريجياً على أشكال مستقلة من التنقل ، ونسعى جاهدين نحو شعار التنقل للجميع. ستكون هناك سيارات ذاتية القيادة ، وشاحنات ذاتية القيادة ، ودراجات نارية ذاتية القيادة ، وغواصات ذاتية القيادة ، وطائرات بدون طيار ذاتية القيادة ، وطائرات ذاتية القيادة ، وغيرها.   

قد تعتقد في البداية أنك في حيرة من سبب احتياج المركبات المساعدة إلى XAI. يمكننا استخدام السيارات ذاتية القيادة لعرض كيف ستكون XAI عنصرًا حيويًا للمركبات.   

السؤال هو هذا: بأي طريقة سيكون الذكاء الاصطناعي القابل للتفسير (XAI) مهمًا لظهور المركبات ذاتية القيادة وكما تم عرضه من خلال ظهور السيارات ذاتية القيادة؟ 

دعنا نوضح ما أعنيه بالسيارات ذاتية القيادة ، ومن ثم يمكننا الانتقال إلى مناقشة XAI AV.   

لإطار عملي حول السيارات ذاتية الذكاء AI ، انظر الرابط هنا: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

لماذا هذا جهد هائل ، انظر شرح هنا: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

لمزيد من المعلومات حول المستويات كنوع من مقياس Richter ، انظر مناقشتي هنا: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/   

للحصول على جدل حول تشعب المستويات ، راجع توضيحي هنا: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/ 

فهم مستويات السيارات ذاتية القيادة 

للتوضيح ، السيارات الحقيقية ذاتية القيادة هي تلك التي يقود فيها الذكاء الاصطناعي السيارة بالكامل من تلقاء نفسه ولا توجد أي مساعدة بشرية أثناء مهمة القيادة.   

تعتبر هذه المركبات بدون سائق من المستوى 4 والمستوى 5 ، بينما السيارة التي تتطلب سائقًا بشريًا للمشاركة في جهد القيادة يتم اعتبارها عادةً في المستوى 2 أو المستوى 3. السيارات التي تشارك في مهمة القيادة توصف بأنها شبه - مستقل ، ويحتوي عادةً على مجموعة متنوعة من الوظائف الإضافية الآلية التي يشار إليها باسم ADAS (أنظمة مساعدة السائق المتقدمة).   

لا توجد حتى الآن سيارة حقيقية ذاتية القيادة في المستوى 5 ، والتي لا نعرف حتى الآن ما إذا كان ذلك ممكنًا ، ولا كم من الوقت سيستغرق الوصول إلى هناك. 

في هذه الأثناء ، تحاول جهود المستوى 4 تدريجياً الحصول على بعض الجاذبية من خلال الخضوع لتجارب طرق عامة ضيقة للغاية وانتقائية ، على الرغم من وجود جدل حول ما إذا كان يجب السماح بهذا الاختبار (نحن جميعًا خنازير غينيا حياة أو موت في تجربة تجري على طرقنا السريعة والطرق الفرعية ، يدعي البعض). 

نظرًا لأن السيارات شبه المستقلة تتطلب سائقًا بشريًا ، فلن يختلف اعتماد هذه الأنواع من السيارات بشكل ملحوظ عن قيادة المركبات التقليدية ، لذلك ليس هناك الكثير جديد في حد ذاته لتغطية هذه المواضيع (على الرغم من ذلك ، كما سترى في لحظة ، النقاط التالية تنطبق بشكل عام).  

بالنسبة للسيارات شبه المستقلة ، من المهم أن يتم تحذير الجمهور بشأن جانب مزعج ظهر مؤخرًا ، أي أنه على الرغم من هؤلاء السائقين البشر الذين يستمرون في نشر مقاطع فيديو لأنفسهم ينامون على عجلة سيارة من المستوى 2 أو المستوى 3 علينا جميعًا أن نتجنب التضليل حتى نصدق أن السائق يمكنه أن يلفت انتباهه عن مهمة القيادة أثناء قيادة سيارة شبه مستقلة. 

أنت الطرف المسؤول عن إجراءات القيادة في السيارة ، بغض النظر عن مقدار الأتمتة التي قد يتم قذفها في المستوى 2 أو المستوى 3. 

لماذا يتم تجنب القيادة عن بعد أو تشغيل السيارات ذاتية القيادة بشكل عام ، راجع توضيحي هنا: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

لنتوخى الحذر من الأخبار المزيفة حول السيارات ذاتية القيادة ، راجع نصائحي هنا: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/ 

الآثار الأخلاقية لأنظمة القيادة بالذكاء الاصطناعي كبيرة ، انظر إشارتي هنا: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/ 

كن على دراية بمزالق تطبيع الانحراف عندما يتعلق الأمر بالسيارات ذاتية القيادة ، إليك دعوتي للتسلح: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

سيارات ذاتية القيادة و XAI   

بالنسبة للمركبات ذاتية القيادة الحقيقية من المستوى 4 والمستوى 5 ، لن يكون هناك سائق بشري يشارك في مهمة القيادة. سيكون جميع الركاب مسافرين؛ ريقوم الذكاء الاصطناعي بالقيادة. 

أحد الجوانب التي يجب مناقشتها على الفور يستلزم حقيقة أن الذكاء الاصطناعي المتضمن في أنظمة قيادة الذكاء الاصطناعي اليوم ليس واعيًا. بعبارة أخرى ، الذكاء الاصطناعي عبارة عن مجموعة من البرمجة والخوارزميات المستندة إلى الكمبيوتر ، وهو بالتأكيد غير قادر على التفكير بنفس الطريقة التي يستطيع بها البشر.   

لماذا أضاف هذا التأكيد على أن الذكاء الاصطناعي ليس واعياً؟ 

لأنني أريد أن أؤكد أنه عند مناقشة دور نظام القيادة للذكاء الاصطناعي ، فأنا لا أنسب الصفات البشرية للذكاء الاصطناعي. يرجى العلم أن هناك اتجاهًا مستمرًا وخطيرًا هذه الأيام لتجسيد الذكاء الاصطناعي. من حيث الجوهر ، يخصص الناس ذكاءً شبيهاً بالإنسان إلى الذكاء الاصطناعي اليوم ، على الرغم من الحقيقة التي لا يمكن إنكارها والتي لا جدال فيها وهي عدم وجود مثل هذا الذكاء الاصطناعي حتى الآن.   

الآن بعد أن أعددنا المسرح بشكل مناسب ، حان الوقت للغوص في عدد لا يحصى من الجوانب التي تأتي للعب حول هذا الموضوع حول XAI.   

أولاً ، كن على دراية بأن العديد من تجارب السيارات ذاتية القيادة الحالية تحتوي على القليل جدًا من مظاهر XAI ، إن وجدت. كان الاعتقاد الأولي هو أن الناس سيصلون إلى سيارة ذاتية القيادة ، ويقدمون وجهتهم ، وينتقلون بصمت إلى تلك المنطقة. لن تكون هناك حاجة للتفاعل مع نظام القيادة AI. لن تكون هناك حاجة لتفسير أو قدرة XAI.   

يمكننا إعادة النظر في هذا الافتراض من خلال التفكير فيما يحدث عند استخدامك لمشاركة الركوب ووجود سائق بشري على عجلة القيادة.   

هناك بالتأكيد حالات تدخل فيها سيارة Uber أو Lyft وهناك صمت حجري طوال الرحلة. من المحتمل أنك قدمت بالفعل الوجهة عبر تطبيق طلب الرحلة. الشخص الذي يقود السيارة يقوم بالقيادة باهتمام ويذهب ظاهريًا إلى تلك الوجهة. لا حاجة للدردشة. يمكنك ممارسة ألعاب الفيديو على هاتفك الذكي والتصرف كما لو أنه لا يوجد إنسان آخر في السيارة.   

هذا جيد تمامًا.   

تخيل أنه أثناء رحلة القيادة ، فجأة ، يقرر السائق أن يسلك طريقًا تجده غير متوقع أو غير عادي. قد تسأل السائق عن سبب حدوث تغيير في المسار الطبيعي للوجهة. نأمل أن يطلبوا تفسيرًا من السائق البشري. 

Iقد يكون السبب هو أن السائق البشري لا يقدم لك أي تفسير أو يقدم تفسيراً واهياً. البشر يفعلون ذلك. من الناحية النظرية ، سيوفر XAI الذي تم إجراؤه بشكل صحيح تفسيرًا للهدف ، على الرغم من أن هذا قد يكون صعبًا. ربما يخبرك السائق البشري أن هناك أعمال بناء جارية على الطريق السريع الرئيسي ، ولتجنب تأخير طويل ، يتم اتخاذ مسار بديل. 

قد تكون راضيًا عن هذا التفسير. من ناحية أخرى ، ربما كنت تعيش في المنطقة ولديك فضول لمعرفة طبيعة البناء الجاري. وبالتالي ، تطلب من السائق مزيدًا من التفاصيل حول البناء. بمعنى ما ، أنت تتفاعل مع شرح وتبحث عن الفروق الدقيقة الإضافية أو جوانب حول الشرح الذي تم تقديمه. 

حسنًا ، ضع قبعة التفكير في سيارتك ذاتية القيادة وفكر في ما قد يريده الراكب من XAI. سيارة ذاتية القيادة تأخذك إلى منزلك. يتم تحويل المسار الطبيعي الذي سيتم استخدامه بشكل غير متوقع من نظام القيادة AI. من المحتمل أنك تريد أن تسأل الذكاء الاصطناعي عن سبب تغيير رحلة القيادة عن المسار المتوقع. لن يكون للعديد من التجارب الحالية للسيارات ذاتية القيادة أي وسيلة مباشرة لجعل الذكاء الاصطناعي يشرح هذه المسألة ، وبدلاً من ذلك ، ستحتاج إلى الاتصال بوكيل بعيد لمشغل الأسطول الذي يشرف على السيارات ذاتية القيادة. 

في الجوهر ، بدلاً من بناء XAI ، يتم تحويل الأمر إلى إنسان بعيد لشرح ما يجري. هذا شيء لن يكون قابلاً للتطوير بشكل خاص. بعبارة أخرى ، بمجرد وجود مئات الآلاف من السيارات ذاتية القيادة على طرقنا ، فإن فكرة جعل الدراجين يحتاجون دائمًا إلى الاتصال بوكيل بعيد عن أبسط الأسئلة ستكون تكلفة عمالة ضخمة وكابوسًا لوجستيًا.   

يجب أن يكون هناك XAI في الخطوط الأمامية موجود مع نظام القيادة AI.   

افترض أن واجهة معالجة اللغة الطبيعية (NLP) مقترنة بنظام القيادة AI ، على غرار أمثال Alexa أو Siri. يتفاعل الراكب مع NLP ويمكنه مناقشة الإجراءات الشائعة مثل طلب تغيير الوجهة في منتصف الطريق ، أو طلب التأرجح من خلال مطعم للوجبات السريعة بالسيارة ، وما إلى ذلك.   

بالإضافة إلى ذلك ، يمكن للمسافر أن يطلب توضيحات.   

لنفترض أن نظام القيادة بالذكاء الاصطناعي قد اصطدم بالفرامل فجأة. ربما كان الراكب في السيارة ذاتية القيادة يشاهد مقطع فيديو رائعًا بشكل خاص عن قطة ولا يكون على دراية بظروف الطريق. بعد الارتداد بسبب عمل الكبح القاسي ، قد يتساءل الراكب بقلق عن سبب قيام نظام القيادة بالذكاء الاصطناعي بإجراء قيادة مفاجئ وخاطف. 

قد ترغب في أن تقدم منظمة العفو الدولية مثل هذا التفسير على الفور. إذا كانت الطريقة الوحيدة الممكنة للحصول على تفسير تتضمن البحث عن وكيل بعيد ، تخيل ما قد يكون عليه الأمر. ها أنت ، داخل السيارة ذاتية القيادة ، وقد اتخذت للتو إجراءات جذرية ، لكن ليس لديك أي فكرة عن سبب قيامها بذلك. يجب عليك الضغط على زر أو تنشيط مكالمة بطريقة ما إلى وكيل بعيد. قد يستغرق هذا بضع لحظات للتفاعل.   

بمجرد توفر الوكيل البعيد (بافتراض توفره بسهولة) ، قد يبدأ الحوار بخطاب معلب معتاد ، مثل مرحبًا بك في أعظم السيارات ذاتية القيادة. في هذه الأثناء ، كنت جالسًا داخل هذه السيارة ذاتية القيادة ، والتي لا تزال تسير بمرح ، ومع ذلك ليس لديك أدنى فكرة عن سبب ارتطامها بالفرامل. 

النقطة المهمة هنا هي أنه بحلول الوقت الذي تشارك فيه في مناقشة مع عامل التحكم عن بعد البشري ، كان من الممكن أن يكون قد حدث الكثير من الوقت وجوانب القيادة. خلال هذا التأخير ، تشعر بالحيرة والقلق والقلق بشأن ما قد يفعله نظام القيادة بالذكاء الاصطناعي بجنون بعد ذلك.   

إذا كان هناك XAI ، فربما يمكنك أن تسأل XAI عما حدث للتو. قد يشرح XAI على الفور أن هناك كلبًا على الرصيف كان يركض نحو السيارة ذاتية القيادة ويبدو أنه يقترب من مسافة قريبة. اختار نظام القيادة AI القيام بعمل فرملة سريع. حصل الكلب على الفكرة وهرع بعيدًا بأمان.   

شرح في الوقت المناسب ، ومن ثم يمنح الركاب العزاء والراحة ، مما يسمح لهم بالاستقرار مرة أخرى في مقاعدهم ومشاهدة المزيد من مقاطع الفيديو عن القطط الصغيرة والجراء الرائعة.   

لمزيد من التفاصيل حول ODDs ، راجع إشارتي على هذا الرابط هنا: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

حول موضوع السيارات ذاتية القيادة على الطرق الوعرة ، إليكم تفاصيل الاستنتاج: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

لقد حثثت على وجوب وجود كبير مسؤولي السلامة في شركات صناعة السيارات ذاتية القيادة ، إليك السبق الصحفي: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

توقع أن تصبح الدعاوى القضائية جزءًا مهمًا من صناعة السيارات ذاتية القيادة تدريجيًا ، راجع التفاصيل التفسيرية هنا: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/   

وفي الختام   

هناك الكثير والكثير من المواقف التي يمكن أن تنشأ عند ركوب السيارة والتي قد ترغب في الحصول على تفسير لها. توقفت السيارة فجأة. تأخذ السيارة منحنى بقوة إلى حد ما. تنحرف السيارة إلى الحارة المجاورة دون هامش خطأ مريح. تأخذ السيارة طريقًا لم تكن تتوقع أن تسلكه. توجد احتمالات لا حصر لها على ما يبدو.   

في هذه الحالة ، إذا كانت XAI مفيدة بشكل خاص للسيارات ذاتية القيادة ، فقد تتساءل عن سبب عدم وجودها بالفعل.   

حسنًا ، من المسلم به ، بالنسبة لمطوري الذكاء الاصطناعي الذين يتعرضون لضغوط شديدة لابتكار ذكاء اصطناعي يمكنه قيادة السيارة من النقطة أ إلى النقطة ب ، والقيام بذلك بأمان ، فإن جانب تقديم التفسيرات التي يتم إنشاؤها بواسطة الآلة هو منخفض جدًا في قائمة أولوياتهم. كانوا يجادلون بشدة في أنها ما يسمى بحالة الحافة أو الزاوية. يمكن الوصول إليه عندما تتحقق أشعة الشمس من تحقيق سيارات ذاتية القيادة بشكل كافٍ. 

سيرغب البشر الذين يركبون مركبات في كل أنواع المركبات في الحصول على تفسيرات. تستلزم وسيلة فعالة من حيث التكلفة ومتاحة على الفور لتقديم التفسيرات تجسيد XAI في أنظمة الذكاء الاصطناعي التي تقوم بالتجربة المستقلة.   

يفترض المرء أنه إذا كنت داخل سيارة ذاتية القيادة وتقوم على وجه السرعة ببعض مناورة القيادة البهلوانية ، فقد تكون مترددًا في السؤال عما يجري ، بنفس الطريقة ، حتى لا تقلق من أنك ستشتت انتباه سائق بشري كان يفعل شيئًا جامحًا على عجلة القيادة.   

من المفترض أن XAI المصمم جيدًا لن يفرض ضرائب على نظام القيادة بالذكاء الاصطناعي ، وبالتالي فأنت حر في الدخول في حوار مطول مع XAI. في الواقع ، السؤال الأكثر احتمالاً الذي ستطرحه السيارات ذاتية القيادة هو كيف يعمل نظام القيادة بالذكاء الاصطناعي. يجب أن يكون XAI جاهزًا للتعامل مع هذا النوع من الأسئلة. 

الشيء الوحيد الذي ربما لا ينبغي أن نتوقع أن يتعامل معه XAI هو تلك الأسئلة التي تقع في مجال القيادة الروتينية. على سبيل المثال ، فإن مطالبة XAI بشرح معنى الحياة هو أمر يمكن المجادلة به على أنه خارج الحدود وفوق درجة أجر الذكاء الاصطناعي.   

على الأقل حتى اليوم الذي يصبح فيه الذكاء الاصطناعي واعيًا ، يمكنك بالتأكيد أن تسأل بعيدًا. 

حقوق النشر 2021 د. لانس إليوت  http://ai-selfdriving-cars.libsyn.com/website 

كوينسمارت. Beste Bitcoin-Börse في أوروبا
المصدر: https://www.aitrends.com/ai-insider/the-rocky-road-toward-explainable-ai-xai-for-ai-autonomous-cars/

بقعة_صورة

أحدث المعلومات الاستخباراتية

بقعة_صورة