17 نوفمبر 2023 (أخبار Nanowerk) في خلفية برنامج التعرف على الصور الذي يمكنه التعرف على أصدقائنا على وسائل التواصل الاجتماعي والزهور البرية في ساحتنا توجد شبكات عصبية، وهو نوع من الذكاء الاصطناعي مستوحى من كيفية معالجة أدمغتنا للبيانات. بينما تتسارع الشبكات العصبية عبر البيانات، فإن بنيتها تجعل من الصعب تتبع أصل الأخطاء الواضحة للبشر - مثل الخلط بين حذاء كونفيرس العالي وحذاء الكاحل - مما يحد من استخدامها في الأعمال الأكثر حيوية مثل تحليل صور الرعاية الصحية أو البحث . وهناك أداة جديدة تم تطويرها في جامعة بوردو تجعل العثور على هذه الأخطاء أمرًا بسيطًا مثل اكتشاف قمم الجبال من الطائرة. وقال ديفيد جليش، أستاذ علوم الكمبيوتر في جامعة بوردو في كلية العلوم والذي طور الأداة: "بمعنى ما، إذا كانت الشبكة العصبية قادرة على التحدث، فإننا نعرض لك ما ستحاول قوله". ظهرت في ورقة نشرت في المخابرات آلة الطبيعة ("البنية الطوبولوجية للتنبؤات المعقدة"). "إن الأداة التي قمنا بتطويرها تساعدك في العثور على الأماكن التي تقول فيها الشبكة: "مرحبًا، أحتاج إلى مزيد من المعلومات لتنفيذ ما طلبته". أنصح الأشخاص باستخدام هذه الأداة في أي سيناريوهات قرارات عالية المخاطر للشبكة العصبية أو مهمة التنبؤ بالصور. رمز ل الأداة متاحة على جيثبكما هي استخدام المظاهرات الحالة. تعاون جليش في البحث مع تامال ك. داي، وهو أيضًا أستاذ علوم الكمبيوتر في جامعة بوردو، ومينج ليو، وهو طالب دراسات عليا سابق في جامعة بوردو حصل على درجة الدكتوراه في علوم الكمبيوتر.
أداة للتحقق من مخرجات الشبكات العصبية تجعل العثور على الأخطاء أمرًا سهلاً مثل اكتشاف قمم الجبال من الطائرة. (الصورة: جامعة بوردو) أثناء اختبار نهجهم، اكتشف فريق جليتش شبكات عصبية تخطئ في هوية الصور الموجودة في قواعد بيانات كل شيء بدءًا من الأشعة السينية للصدر وتسلسل الجينات وحتى الملابس. في أحد الأمثلة، قامت شبكة عصبية بشكل متكرر بتسمية صور سيارات من قاعدة بيانات Imagenette بشكل خاطئ على أنها مشغلات أشرطة كاسيت. السبب؟ تم استخلاص الصور من قوائم المبيعات عبر الإنترنت وتضمنت علامات لمعدات الاستريو الخاصة بالسيارات.
أنظمة التعرف على الصور في الشبكة العصبية هي في الأساس خوارزميات تعالج البيانات بطريقة تحاكي نمط الإطلاق المرجح للخلايا العصبية أثناء تحليل الصورة وتحديدها. يتم تدريب النظام على مهمته - مثل التعرف على حيوان أو ثوب أو ورم - باستخدام "مجموعة تدريب" من الصور التي تتضمن بيانات عن كل بكسل، ووضع علامات ومعلومات أخرى، وهوية الصورة كما تم تصنيفها ضمن فئة معينة. باستخدام مجموعة التدريب، تتعلم الشبكة، أو "تستخرج"، المعلومات التي تحتاجها لمطابقة قيم الإدخال مع الفئة. يتم استخدام هذه المعلومات، وهي عبارة عن سلسلة من الأرقام تسمى المتجه المضمن، لحساب احتمال أن تنتمي الصورة إلى كل فئة من الفئات المحتملة. بشكل عام، الهوية الصحيحة للصورة تقع ضمن الفئة ذات الاحتمالية الأعلى.
لكن المتجهات والاحتمالات المضمنة لا ترتبط بعملية صنع القرار التي يمكن للبشر التعرف عليها. قم بتغذية 100,000 رقم يمثل البيانات المعروفة، وتنتج الشبكة ناقلًا مضمنًا مكونًا من 128 رقمًا لا يتوافق مع الميزات المادية، على الرغم من أنها تتيح للشبكة تصنيف الصورة. بمعنى آخر، لا يمكنك فتح غطاء محرك السيارة على خوارزميات نظام مدرب والمتابعة. بين قيم الإدخال والهوية المتوقعة للصورة يوجد "صندوق أسود" يضرب به المثل من أرقام لا يمكن التعرف عليها عبر طبقات متعددة.
"مشكلة الشبكات العصبية هي أننا لا نستطيع أن نرى داخل الآلة لفهم كيفية اتخاذها للقرارات، فكيف يمكننا معرفة ما إذا كانت الشبكة العصبية ترتكب خطأً مميزًا؟" قال جليش.
بدلًا من محاولة تتبع مسار اتخاذ القرار لأي صورة منفردة عبر الشبكة، فإن منهج جليتش يجعل من الممكن تصور العلاقة التي يراها الكمبيوتر بين جميع الصور في قاعدة البيانات بأكملها. فكر في الأمر كنظرة شاملة لجميع الصور التي نظمتها الشبكة العصبية.
تعتمد العلاقة بين الصور (مثل تنبؤ الشبكة بتصنيف هوية كل صورة في قاعدة البيانات) على المتجهات والاحتمالات المضمنة التي تولدها الشبكة. لتعزيز دقة العرض والعثور على الأماكن التي لا تستطيع فيها الشبكة التمييز بين تصنيفين مختلفين، قام فريق جليتش أولاً بتطوير طريقة لتقسيم التصنيفات وتداخلها لتحديد الأماكن التي يكون فيها احتمال كبير لانتماء الصور إلى أكثر من تصنيف واحد.
ثم يقوم الفريق بتخطيط العلاقات على رسم بياني لريب، وهو أداة مأخوذة من مجال تحليل البيانات الطوبولوجية. على الرسم البياني، يتم تمثيل كل مجموعة من الصور التي تعتقد الشبكة أنها مرتبطة بنقطة واحدة. يتم ترميز النقاط بالألوان حسب التصنيف. كلما اقتربت النقاط، زاد تشابه المجموعات التي تعتبرها الشبكة، وتعرض معظم مناطق الرسم البياني مجموعات من النقاط بلون واحد. لكن مجموعات الصور ذات الاحتمالية العالية للانتماء إلى أكثر من تصنيف سيتم تمثيلها بنقطتين متداخلتين بلون مختلف. وبنظرة واحدة، تظهر المناطق التي لا تستطيع الشبكة التمييز فيها بين تصنيفين على شكل مجموعة من النقاط بلون واحد، مصحوبة بتناثر النقاط المتداخلة باللون الثاني. سيؤدي تكبير النقاط المتداخلة إلى إظهار منطقة من الارتباك، مثل صورة السيارة التي تحمل علامة السيارة ومشغل الكاسيت.
وقال جليش: "ما نفعله هو أخذ هذه المجموعات المعقدة من المعلومات الصادرة من الشبكة ومنح الأشخاص فكرة عن كيفية رؤية الشبكة للبيانات على المستوى المجهري".
أداة للتحقق من مخرجات الشبكات العصبية تجعل العثور على الأخطاء أمرًا سهلاً مثل اكتشاف قمم الجبال من الطائرة. (الصورة: جامعة بوردو) أثناء اختبار نهجهم، اكتشف فريق جليتش شبكات عصبية تخطئ في هوية الصور الموجودة في قواعد بيانات كل شيء بدءًا من الأشعة السينية للصدر وتسلسل الجينات وحتى الملابس. في أحد الأمثلة، قامت شبكة عصبية بشكل متكرر بتسمية صور سيارات من قاعدة بيانات Imagenette بشكل خاطئ على أنها مشغلات أشرطة كاسيت. السبب؟ تم استخلاص الصور من قوائم المبيعات عبر الإنترنت وتضمنت علامات لمعدات الاستريو الخاصة بالسيارات.
أنظمة التعرف على الصور في الشبكة العصبية هي في الأساس خوارزميات تعالج البيانات بطريقة تحاكي نمط الإطلاق المرجح للخلايا العصبية أثناء تحليل الصورة وتحديدها. يتم تدريب النظام على مهمته - مثل التعرف على حيوان أو ثوب أو ورم - باستخدام "مجموعة تدريب" من الصور التي تتضمن بيانات عن كل بكسل، ووضع علامات ومعلومات أخرى، وهوية الصورة كما تم تصنيفها ضمن فئة معينة. باستخدام مجموعة التدريب، تتعلم الشبكة، أو "تستخرج"، المعلومات التي تحتاجها لمطابقة قيم الإدخال مع الفئة. يتم استخدام هذه المعلومات، وهي عبارة عن سلسلة من الأرقام تسمى المتجه المضمن، لحساب احتمال أن تنتمي الصورة إلى كل فئة من الفئات المحتملة. بشكل عام، الهوية الصحيحة للصورة تقع ضمن الفئة ذات الاحتمالية الأعلى.
لكن المتجهات والاحتمالات المضمنة لا ترتبط بعملية صنع القرار التي يمكن للبشر التعرف عليها. قم بتغذية 100,000 رقم يمثل البيانات المعروفة، وتنتج الشبكة ناقلًا مضمنًا مكونًا من 128 رقمًا لا يتوافق مع الميزات المادية، على الرغم من أنها تتيح للشبكة تصنيف الصورة. بمعنى آخر، لا يمكنك فتح غطاء محرك السيارة على خوارزميات نظام مدرب والمتابعة. بين قيم الإدخال والهوية المتوقعة للصورة يوجد "صندوق أسود" يضرب به المثل من أرقام لا يمكن التعرف عليها عبر طبقات متعددة.
"مشكلة الشبكات العصبية هي أننا لا نستطيع أن نرى داخل الآلة لفهم كيفية اتخاذها للقرارات، فكيف يمكننا معرفة ما إذا كانت الشبكة العصبية ترتكب خطأً مميزًا؟" قال جليش.
بدلًا من محاولة تتبع مسار اتخاذ القرار لأي صورة منفردة عبر الشبكة، فإن منهج جليتش يجعل من الممكن تصور العلاقة التي يراها الكمبيوتر بين جميع الصور في قاعدة البيانات بأكملها. فكر في الأمر كنظرة شاملة لجميع الصور التي نظمتها الشبكة العصبية.
تعتمد العلاقة بين الصور (مثل تنبؤ الشبكة بتصنيف هوية كل صورة في قاعدة البيانات) على المتجهات والاحتمالات المضمنة التي تولدها الشبكة. لتعزيز دقة العرض والعثور على الأماكن التي لا تستطيع فيها الشبكة التمييز بين تصنيفين مختلفين، قام فريق جليتش أولاً بتطوير طريقة لتقسيم التصنيفات وتداخلها لتحديد الأماكن التي يكون فيها احتمال كبير لانتماء الصور إلى أكثر من تصنيف واحد.
ثم يقوم الفريق بتخطيط العلاقات على رسم بياني لريب، وهو أداة مأخوذة من مجال تحليل البيانات الطوبولوجية. على الرسم البياني، يتم تمثيل كل مجموعة من الصور التي تعتقد الشبكة أنها مرتبطة بنقطة واحدة. يتم ترميز النقاط بالألوان حسب التصنيف. كلما اقتربت النقاط، زاد تشابه المجموعات التي تعتبرها الشبكة، وتعرض معظم مناطق الرسم البياني مجموعات من النقاط بلون واحد. لكن مجموعات الصور ذات الاحتمالية العالية للانتماء إلى أكثر من تصنيف سيتم تمثيلها بنقطتين متداخلتين بلون مختلف. وبنظرة واحدة، تظهر المناطق التي لا تستطيع الشبكة التمييز فيها بين تصنيفين على شكل مجموعة من النقاط بلون واحد، مصحوبة بتناثر النقاط المتداخلة باللون الثاني. سيؤدي تكبير النقاط المتداخلة إلى إظهار منطقة من الارتباك، مثل صورة السيارة التي تحمل علامة السيارة ومشغل الكاسيت.
وقال جليش: "ما نفعله هو أخذ هذه المجموعات المعقدة من المعلومات الصادرة من الشبكة ومنح الأشخاص فكرة عن كيفية رؤية الشبكة للبيانات على المستوى المجهري".
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://www.nanowerk.com/news2/robotics/newsid=64066.php
