مررت بـ 687 ورقة تم قبولها في المؤتمر الافتراضي لـ ICLR 2020 (من 2594 تم تقديمها - بزيادة 63٪ منذ عام 2019!) وحددت 9 أوراق مع إمكانية تعزيز استخدام نماذج التعلم العميق في البرمجة اللغوية العصبية في حالات الاستخدام اليومية. ها هي الأوراق التي تم العثور عليها ولماذا هي مهمة. إلكترا: نص ما قبل التدريب [...]
يلخص منشور المدونة هذا ورقة EMNLP 2019 التي تكشف عن الأسرار المظلمة لبيرت من قبل باحثين من Text Machine Lab في UMass Lowell: Olga Kovaleva (LinkedIn) ، Alexey Romanov (LinkedIn) ، Anna Rogers (Twitter:annargrs) ، وآنا رومشيسكي (Twitter :arumshisky). فيما يلي الموضوعات التي يتم تناولها: مقدمة موجزة لـ BERT ما هي أنواع أنماط الانتباه الذاتي التي يتم تعلمها ، وكم عدد من كل نوع؟ ماذا يحدث في الضبط الدقيق؟ كيف […]
