ندرس مشكلة التقليل من مجموع ثلاث وظائف محدبة: مصطلح قابل للتفاضل ، قابل للتفاضل مرتين ، ومصطلح غير سلس في بيئة عالية الأبعاد. لهذا الغرض ، نقترح ونحلل طريقة كتلة نيوتن المكعبة العشوائية (RBCN) ، والتي تبني في كل تكرار نموذجًا للوظيفة الموضوعية كمجموع للنماذج الطبيعية لمكوناتها الثلاثة: نموذج خطي مع منظم تربيعي لـ مصطلح قابل للتفاضل ، نموذج تربيعي مع منظم تكعيبي للمصطلح القابل للتفاضل مرتين ، ونموذج مثالي (قريب) للمصطلح غير المتجانس. تقلل طريقتنا في كل تكرار النموذج عبر مجموعة فرعية عشوائية من كتل متغير البحث. RBCN هي الخوارزمية الأولى التي تحتوي على هذه الخصائص ، وتعمم العديد من الطرق الحالية ، وتطابق أفضل الحدود المعروفة في جميع الحالات الخاصة. وضعنا معدلات $ {cal O} (1 / epsilon) $ ، $ {cal O} (1 / sqrt {epsilon}) $ و $ {cal O} (log (1 / epsilon)) $ وفقًا لافتراضات مختلفة على المكون المهام. أخيرًا ، نظهر عدديًا أن طريقتنا تتفوق على أحدث التقنيات في مجموعة متنوعة من مشكلات التعلم الآلي ، بما في ذلك المربعات الصغرى المنتظمة تكعيبيًا ، والانحدار اللوجستي مع القيود ، وانحدار بواسون. ...
عملية غاوسية تعلم المحاذاة المتغيرة الكامنة
نقدم نموذجًا يمكنه التعرف تلقائيًا على المحاذاة بين البيانات عالية الأبعاد بطريقة غير خاضعة للرقابة. تعد محاذاة التعلم مشكلة مقيدة نظرًا لوجود العديد من الطرق المختلفة لتحديد التوافق الجيد. أسلوبنا المقترح يلقي التعلم المحاذاة في إطار حيث يتم نمذجة كل من المحاذاة والبيانات في وقت واحد. نشتق نموذجًا احتماليًا مبنيًا على مقدمات غير بارامترية تسمح بالالتواءات المرنة بينما توفر في نفس الوقت وسائل لتحديد القيود القابلة للتفسير. نعرض النتائج على العديد من مجموعات البيانات ، بما في ذلك تسلسلات مختلفة لالتقاط الحركة ونبين أن النموذج المقترح يتفوق على الأساليب الحسابية الكلاسيكية لمهمة المحاذاة. ...
تضمين شبكة عميقة متعددة الوسائط (MDNE)
تضمين الشبكة هو عملية تعلم التمثيلات منخفضة الأبعاد للعقد في الشبكة ، مع الحفاظ على ميزات العقدة. تعمل الدراسات الحالية فقط على الاستفادة من معلومات بنية الشبكة والتركيز على الحفاظ على الميزات الهيكلية. ومع ذلك ، غالبًا ما تحتوي العقد في شبكات العالم الحقيقي على مجموعة غنية من السمات التي توفر معلومات دلالية إضافية. لقد ثبت أن كل من الميزات الهيكلية والسمات مهمة لمهام تحليل الشبكة. للحفاظ على كلتا الميزتين ، نقوم بالتحقيق في مشكلة دمج معلومات البنية والسمات لإجراء تضمين الشبكة واقتراح طريقة تضمين شبكة عميقة متعددة الوسائط (MDNE). تلتقط MDNE هياكل الشبكة غير الخطية والتفاعلات المعقدة بين الهياكل والسمات ، باستخدام نموذج عميق يتكون من طبقات متعددة من الوظائف غير الخطية. نظرًا لأن الهياكل والسمات نوعان مختلفان من المعلومات ، فقد تم اعتماد طريقة التعلم متعدد الوسائط لمعالجتها مسبقًا ومساعدة النموذج على التقاط الارتباطات بين بنية العقدة ومعلومات السمة بشكل أفضل. نحن نستخدم القرب الهيكلي وقرب السمة في وظيفة الخسارة للحفاظ على الميزات ذات الصلة ويتم الحصول على التمثيلات من خلال تقليل وظيفة الخسارة. تُظهر نتائج التجارب المكثفة على أربع مجموعات بيانات في العالم الحقيقي أن الطريقة المقترحة تؤدي أداءً أفضل بكثير من خطوط الأساس في مجموعة متنوعة من المهام ، مما يدل على فعالية طريقتنا وعموميتها. ...
ميزات الكثافة العصبية التكيفية للميزان (ميزات الرمال)
كيف ترى أجهزة الكمبيوتر والوكلاء الأذكياء العالم من حولهم؟ يشكل استخراج السمات والتمثيل إحدى اللبنات الأساسية للإجابة على هذا السؤال. تقليديا ، تم ذلك باستخدام تقنيات يدوية الصنع مصممة بعناية مثل HOG أو SIFT أو ORB. ومع ذلك ، لا يوجد نهج "مقاس واحد يناسب الجميع" يلبي جميع المتطلبات. في السنوات الأخيرة ، أدت الشعبية المتزايدة للتعلم العميق إلى عدد لا يحصى من الحلول الشاملة للعديد من مشاكل رؤية الكمبيوتر. على الرغم من نجاح هذه الأساليب ، إلا أنها تفتقر إلى قابلية التوسع ولا يمكنها بسهولة استغلال المعلومات التي تعلمتها الأنظمة الأخرى. بدلاً من ذلك ، نقترح ميزات SAND ، وهي حل تعليمي عميق مخصص لاستخراج الميزات قادر على توفير معلومات سياق هرمية. يتم تحقيق ذلك من خلال استخدام تسميات نسبية متفرقة تشير إلى علاقات التشابه / الاختلاف بين مواقع الصور. تؤدي طبيعة هذه التسميات إلى مجموعة لا نهائية تقريبًا من الأمثلة المتباينة للاختيار من بينها. نوضح كيف يمكن استخدام اختيار الأمثلة السلبية أثناء التدريب لتعديل مساحة الميزة وتنويع خصائصها. لإثبات عمومية هذا النهج ، نقوم بتطبيق الميزات المقترحة على العديد من المهام ، كل منها يتطلب خصائص مختلفة. وهذا يشمل تقدير التباين ، والتجزئة الدلالية ، والتوطين الذاتي و SLAM. في جميع الحالات ، نوضح كيف يؤدي دمج ميزات SAND إلى نتائج أفضل أو قابلة للمقارنة مع خط الأساس ، بينما يتطلب القليل من التدريب الإضافي أو لا يتطلب ذلك. يمكن العثور على الرمز على: https://…/SAND_features ...
المصدر: https://analytixon.com/2020/09/17/if-you-did-not-already-know-1188/
