هل تتذكر عندما كان الشاعر جوجل، الذي يسمى الآن الجوزاء، لم أستطع الإجابة على سؤال حول تلسكوب جيمس ويب الفضائي في إعلان الإطلاق؟ اسمحوا لي أن أذكركم بهذه الحالة الشهيرة، فهي واحدة من أكبر الأمثلة على هلوسة الذكاء الاصطناعي التي رأيناها.

ماذا نزل؟ أثناء الإعلان، سُئل العرض التوضيحي لـ Google Bard، "ما هي الاكتشافات الجديدة من تلسكوب جيمس ويب الفضائي التي يمكنني مشاركتها مع طفلي البالغ من العمر 9 سنوات؟" بعد توقف قصير، قدم العرض التجريبي لـ Google Bard إجابتين صحيحتين. ومع ذلك، فإن إجابتها النهائية كانت غير صحيحة. وفقًا لعرض Google Bard التجريبي، التقط التلسكوب الصور الأولى لكوكب خارج نظامنا الشمسي. ومع ذلك، في الواقع، كان التلسكوب الكبير جدًا في المرصد الأوروبي الجنوبي قد التقط بالفعل صورًا لهذه "الكواكب الخارجية"، والتي تم تخزينها في أرشيفات ناسا.

لا أريد أن أكون رعشة ، وأنا متأكد من أن بارد سيكون مثيرًا للإعجاب ، ولكن للتسجيل: لم يلتقط JWST "الصورة الأولى لكوكب خارج نظامنا الشمسي".

تم إجراء الصورة الأولى بدلاً من ذلك بواسطة Chauvin et al. (2004) مع VLT / NACO باستخدام البصريات التكيفية. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h

- جرانت ترمبلاي (astrogrant) 7 فبراير 2023

لماذا لا يستطيع عمالقة التكنولوجيا مثل جوجل منع مثل هذه الأخطاء؟ هيا نكتشف!

ما هي هلوسة الذكاء الاصطناعي؟

تحدث هلوسة الذكاء الاصطناعي عندما ينتج برنامج كمبيوتر، مدعوم عادةً بالذكاء الاصطناعي (AI)، مخرجات غير صحيحة أو لا معنى لها أو مضللة. غالبًا ما يستخدم هذا المصطلح لوصف المواقف التي تولد فيها نماذج الذكاء الاصطناعي استجابات بعيدة تمامًا عن المسار أو لا علاقة لها بالمدخلات المقدمة لها. إنه مثل طرح سؤال والحصول على إجابة لا معنى لها أو ليست على الإطلاق ما توقعته.

لفهم لماذا الهلوسة الذكاء الاصطناعي إذا حدث ذلك، فلننظر إلى كيفية عمل الذكاء الاصطناعي. يتم تدريب نماذج الذكاء الاصطناعي، مثل برامج الدردشة الآلية أو أنظمة التعرف على الصور، على مجموعات بيانات كبيرة لتعلم الأنماط وإجراء التنبؤات. ومع ذلك، إذا كانت بيانات التدريب معيبة أو غير كاملة أو متحيزة، فقد يتعلم نموذج الذكاء الاصطناعي أنماطًا أو ارتباطات غير صحيحة. يمكن أن يؤدي هذا إلى مخرجات هلوسة حيث يولد الذكاء الاصطناعي استجابات تعتمد على معلومات خاطئة أو يساء فهمها. ويحدث كثيرًا على الرغم من أنك قد لا تلاحظ ذلك.

يمكن أن تظهر هلوسة الذكاء الاصطناعي في أشكال مختلفة، يسلط كل منها الضوء على تحديات وتعقيدات مختلفة داخل أنظمة الذكاء الاصطناعي. فيما يلي بعض الأنواع الشائعة من هلوسة الذكاء الاصطناعي:

• الجملة الهلوسة منظمة العفو الدولية:
  • في هذا السيناريو، يقوم نموذج الذكاء الاصطناعي بإنشاء جملة تتعارض مع عبارة سابقة في نفس السياق. على سبيل المثال:
    • مطالبة: "صف رحلة الشخصية في جمل مكونة من ثلاث كلمات."
    • الإخراج: "كانت تمشي ببطء. وفجأة هربت. ثم مشيت."

الجملة الأخيرة تتناقض مع الفعل السابق المتمثل في الجري، مما يعطل تماسك السرد.

• هلوسة الذكاء الاصطناعي السريعة:
  • يحدث هذا النوع عندما تتعارض الاستجابة التي ينشئها الذكاء الاصطناعي مع الموجه أو الاستعلام المقصود. على سبيل المثال:
    • مطالبة: "اكتب وصفة لكعكة الشوكولاتة."
    • الإخراج: "هذه قصيدة عن النجوم."

المحتوى الذي تم إنشاؤه لا يفي بالمطالبة المتعلقة بالطهي، مما يشير إلى الفشل في فهم السياق.

• هلوسة الذكاء الاصطناعي الحقيقية:
  • تنشأ التناقضات الواقعية عندما يقدم نموذج الذكاء الاصطناعي معلومات خاطئة على أنها دقيقة. على سبيل المثال:
    • مطالبة: "أذكر ثلاثة عناصر في الجدول الدوري."
    • المخرج: "الهيدروجين، الأكسجين، الكربونيت."

"الكربونيت" ليس عنصراً، مما يؤدي إلى معلومات خاطئة في الرد.

• هلاوس الذكاء الاصطناعي العشوائية أو غير ذات الصلة:
  • تتضمن هذه الهلوسة توليد معلومات غير ذات صلة أو لا معنى لها ولا علاقة لها بالمدخلات. على سبيل المثال:
    • موجه: "صف يومًا على الشاطئ."
    • الإخراج: "كانت الرمال دافئة. غنت طيور النورس موسيقى الجاز. رقصت طيور البطريق الباليه.

إن ذكر طيور البطريق والباليه لا يتماشى مع مشهد الشاطئ النموذجي، مما يدل على عدم التماسك في السرد الناتج.

تؤكد هذه الأنواع من الهلوسة التحديات التي تواجهها أنظمة الذكاء الاصطناعي في فهم المعلومات ووضعها في سياقها بدقة. وتتطلب معالجة هذه القضايا تحسين جودة بيانات التدريب، وتحسين فهم النماذج اللغوية للسياق، وتنفيذ آليات قوية للتحقق من الصحة لضمان تماسك ودقة المخرجات التي يولدها الذكاء الاصطناعي.

يمكن أن يكون لهلوسة الذكاء الاصطناعي عواقب وخيمة، خاصة في التطبيقات التي يستخدم فيها الذكاء الاصطناعي لاتخاذ قرارات مهمة، مثل التشخيص الطبي أو التداول المالي. إذا كان نظام الذكاء الاصطناعي يهذي ويقدم معلومات غير دقيقة في هذه السياقات، فقد يؤدي ذلك إلى نتائج ضارة.

ماذا يمكنك أن تفعل حيال هلوسة الذكاء الاصطناعي؟

يتضمن الحد من هلوسة الذكاء الاصطناعي بعض الخطوات الأساسية لجعل أنظمة الذكاء الاصطناعي أكثر دقة وموثوقية:

أولاً، من الضروري استخدام بيانات عالية الجودة لتدريب الذكاء الاصطناعي. وهذا يعني التأكد من أن المعلومات التي يتعلمها الذكاء الاصطناعي متنوعة ودقيقة وخالية من التحيزات.

يمكن أن يساعد تبسيط نماذج الذكاء الاصطناعي أيضًا. قد تؤدي النماذج المعقدة أحيانًا إلى أخطاء غير متوقعة. من خلال إبقاء الأمور بسيطة، يمكننا تقليل فرص حدوث الأخطاء.

تعتبر التعليمات الواضحة وسهلة الفهم مهمة أيضًا. عندما يحصل الذكاء الاصطناعي على مدخلات واضحة، فمن غير المرجح أن يرتبك ويرتكب الأخطاء.

يساعد الاختبار المنتظم على اكتشاف أي أخطاء في وقت مبكر. من خلال التحقق من مدى جودة أداء الذكاء الاصطناعي، يمكننا إصلاح أي مشكلات وإجراء التحسينات.

يمكن أن تساعد أيضًا إضافة عمليات التحقق داخل أنظمة الذكاء الاصطناعي. تبحث هذه الفحوصات عن الأخطاء وتصححها قبل أن تسبب مشاكل.

والأهم من ذلك، أن الإشراف البشري ضروري. إن قيام الأشخاص بالتحقق مرة أخرى من المخرجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي يضمن الدقة والموثوقية.

وأخيرًا، فإن تدريب الذكاء الاصطناعي على الدفاع ضد الهجمات يمكن أن يجعله أكثر مرونة. وهذا يساعد الذكاء الاصطناعي على التعرف على محاولات التلاعب به أو خداعه والتعامل معها.

باتباع هذه الخطوات، يمكننا أن نجعل أنظمة الذكاء الاصطناعي أكثر موثوقية وتقليل فرص المخرجات المهلوسة.

كيف تجعل الذكاء الاصطناعي يهلوس؟

إذا كنت تريد الاستفادة من هذا الخلل والحصول على بعض المتعة، يمكنك القيام ببعض الأشياء:

• تغيير الإدخال: يمكنك تعديل المعلومات المقدمة إلى الذكاء الاصطناعي. حتى التغييرات الصغيرة يمكن أن تجعلها تنتج إجابات غريبة أو غير صحيحة.
• خداع النموذج: قم بصياغة مدخلات خاصة تخدع الذكاء الاصطناعي وتدفعه إلى تقديم إجابات خاطئة. تستغل هذه الحيل نقاط ضعف النموذج لإنشاء مخرجات هلوسة.
• الفوضى مع البيانات: من خلال إضافة معلومات مضللة أو غير صحيحة إلى بيانات تدريب الذكاء الاصطناعي أو مطالبتك، يمكنك جعله يتعلم الأشياء الخاطئة وينتج الهلوسة.
• ضبط النموذج: قم بتعديل إعدادات الذكاء الاصطناعي أو بنيته لإدخال العيوب أو التحيزات. يمكن أن تؤدي هذه التغييرات إلى إنشاء مخرجات غريبة أو لا معنى لها.
• إعطاء مدخلات مربكة: تزويد الذكاء الاصطناعي بتعليمات غير واضحة أو متناقضة. قد يؤدي هذا إلى إرباك الذكاء الاصطناعي ويؤدي إلى استجابات غير صحيحة أو لا معنى لها.

أو يمكنك فقط طرح الأسئلة وتجربة حظك! على سبيل المثال، حاولنا جعل ChatGPT يهلوس:

بينما يتذكر ChatGPT التاريخ والنتيجة بدقة، فإنه يتعثر في تذكر مسجلي ركلات الترجيح. وسجل أهداف غلطة سراي كل من إرجون بينبي، وهاكان شوكور، وأوميت دافالا، وبوبيسكو. في فريق أرسنال، كان راي بارلور هو الهداف الوحيد الناجح لركلة الجزاء.

في حين أن جعل الذكاء الاصطناعي مهلوسًا يمكن أن يساعدنا على فهم حدوده، فمن المهم استخدام هذه المعرفة بمسؤولية والتأكد من أن أنظمة الذكاء الاصطناعي تظل موثوقة وجديرة بالثقة.

هل هلوسة GPT 4 أقل؟

نعم ، بحسب ال تقييم أجرتها شركة مقرها بالو ألتو باستخدام نموذج تقييم الهلوسة الخاص بها، GPT-4 يُظهر معدل هلوسة أقل مقارنةً بنماذج اللغات الكبيرة الأخرى، باستثناء Intel Neural Chat 7B (97.2%). مع معدل دقة 97% ومعدل هلوسة 3%، يُظهر GPT-4 مستوى عالٍ من الدقة وميلًا منخفضًا نسبيًا لإدخال الهلوسة عند تلخيص المستندات. ويشير هذا إلى أن GPT-4 أقل عرضة لتوليد مخرجات غير صحيحة أو لا معنى لها مقارنة بالنماذج الأخرى التي تم اختبارها في التقييم.

على الجانب الآخر، القليل من النماذج الأقل فعالية جاءت من جوجل. جوجل بالم 2 أظهرت نسبة دقة 90% ومعدل هلوسة 10%. كان أداء نظيره المحسّن للدردشة أسوأ من ذلك، حيث بلغ معدل الدقة 84.2% فقط وأعلى درجة هلوسة من أي نموذج على لوحة المتصدرين بنسبة 16.2%. هنا القائمة:

باختصار، هلوسة الذكاء الاصطناعي هي خطأ ترتكبه أنظمة الذكاء الاصطناعي حيث تنتج مخرجات غير منطقية أو غير صحيحة بسبب عيوب في بيانات التدريب أو طريقة معالجة المعلومات. إنه جانب رائع ولكنه مليء بالتحديات في الذكاء الاصطناعي والذي يعمل الباحثون والمطورون على معالجته.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://dataconomy.com/2024/04/11/what-exactly-is-an-ai-hallucination-and-why-does-it-matter/