Rastgele Blok Kübik Newton (RBCN) 
Üç dışbükey fonksiyonun toplamını en aza indirme problemini inceliyoruz: yüksek boyutlu bir ortamda türevlenebilir, iki kez türevlenebilir ve düzgün olmayan bir terim. Bu amaçla, her yinelemede üç bileşeninin doğal modellerinin toplamı olarak oluşturulan amaç fonksiyonunun bir modelini oluşturan rastgele blok kübik Newton (RBCN) yöntemini öneriyoruz ve analiz ediyoruz: ikinci dereceden düzenleyiciye sahip doğrusal bir model. türevlenebilir terim, iki kez türevlenebilir terim için kübik düzenleyicili ikinci dereceden bir model ve düzgün olmayan terim için mükemmel (yakınsal) model. Her yinelemedeki yöntemimiz, arama değişkeninin bloklarının rastgele bir alt kümesi üzerindeki modeli en aza indirir. RBCN, bu özelliklere sahip, mevcut birkaç yöntemi genelleştiren, tüm özel durumlarda en iyi bilinen sınırları eşleştiren ilk algoritmadır. Bileşene ilişkin farklı varsayımlar altında ${cal O}(1/epsilon)$, ${cal O}(1/sqrt{epsilon})$ ve ${cal O}(log (1/epsilon))$ oranlarını belirliyoruz işlevler. Son olarak, yöntemimizin, kübik olarak düzenlenmiş en küçük kareler, kısıtlamalı lojistik regresyon ve Poisson regresyonu dahil olmak üzere çeşitli makine öğrenimi problemlerinde en son teknolojiden daha iyi performans gösterdiğini sayısal olarak gösteriyoruz. …
Gauss Süreci Gizli Değişken Hizalama Öğrenimi
Yüksek boyutlu veriler arasındaki hizalamaları denetimsiz bir şekilde otomatik olarak öğrenebilen bir model sunuyoruz. Hizalamaları öğrenmek, iyi bir hizalamayı tanımlamanın birçok farklı yolu olduğundan, kötü sınırlandırılmış bir sorundur. Önerilen yöntemimiz, hizalama öğrenimini hem hizalamanın hem de verilerin aynı anda modellendiği bir çerçeveye yerleştirir. Parametrik olmayan öncelikler üzerine inşa edilmiş, esnek çarpıtmalara izin veren ve aynı zamanda yorumlanabilir kısıtlamaları belirlemek için araçlar sağlayan olasılıksal bir model türetiyoruz. Farklı hareket yakalama dizileri de dahil olmak üzere çeşitli veri kümelerindeki sonuçları gösteriyoruz ve önerilen modelin hizalama görevinde klasik algoritmik yaklaşımlardan daha iyi performans gösterdiğini gösteriyoruz. …
Çok Modlu Derin Ağ Yerleştirme (MDNE)
Ağ yerleştirme, düğüm özelliklerini korurken, bir ağdaki düğümlerin düşük boyutlu temsillerini öğrenme sürecidir. Mevcut çalışmalar yalnızca ağ yapısı bilgisinden yararlanıyor ve yapısal özelliklerin korunmasına odaklanıyor. Bununla birlikte, gerçek dünya ağlarındaki düğümler genellikle ekstra anlamsal bilgi sağlayan zengin bir dizi özelliğe sahiptir. Ağ analizi görevleri için hem yapısal hem de öznitelik özelliklerinin önemli olduğu gösterilmiştir. Her iki özelliği de korumak için, ağ yerleştirmeyi gerçekleştirmek amacıyla yapı ve nitelik bilgisini entegre etme sorununu araştırıyoruz ve bir Çok Modlu Derin Ağ Gömme (MDNE) yöntemi öneriyoruz. MDNE, doğrusal olmayan işlevlerin birden fazla katmanından oluşan derin bir model kullanarak, doğrusal olmayan ağ yapılarını ve yapılar ile nitelikler arasındaki karmaşık etkileşimleri yakalar. Yapılar ve nitelikler iki farklı bilgi türü olduğundan, bunları önceden işlemek ve modelin düğüm yapısı ile nitelik bilgisi arasındaki korelasyonları daha iyi yakalamasına yardımcı olmak için çok modlu bir öğrenme yöntemi benimsenir. İlgili özellikleri korumak için kayıp fonksiyonunda hem yapısal yakınlık hem de nitelik yakınlığı kullanılır ve kayıp fonksiyonu en aza indirilerek temsiller elde edilir. Dört gerçek dünya veri seti üzerinde yapılan kapsamlı deneylerin sonuçları, önerilen yöntemin çeşitli görevlerde temel değerlerden önemli ölçüde daha iyi performans gösterdiğini göstermektedir; bu da yöntemimizin etkinliğini ve genelliğini göstermektedir. …
Ölçeğe Uyarlanabilir Sinirsel Yoğun Özellikler (SAND Özellikleri)
Bilgisayarlar ve akıllı ajanlar etraflarındaki dünyayı nasıl görüyor? Özellik çıkarımı ve gösterimi bu soruyu yanıtlamanın temel yapı taşlarından birini oluşturur. Geleneksel olarak bu, HOG, SIFT veya ORB gibi dikkatle tasarlanmış el yapımı tekniklerle yapılıyordu. Ancak, tüm gereksinimleri karşılayan “herkese uyan tek beden” yaklaşımı mevcut değildir. Son yıllarda, derin öğrenmenin artan popülaritesi, birçok bilgisayarlı görme sorununa sayısız uçtan uca çözüm sağlanmasıyla sonuçlandı. Bu yaklaşımlar başarılı olsalar da ölçeklenebilirlikten yoksundurlar ve diğer sistemler tarafından öğrenilen bilgilerden kolaylıkla yararlanamazlar. Bunun yerine, hiyerarşik bağlam bilgisi sağlayabilen, özellik çıkarmaya yönelik özel bir derin öğrenme çözümü olan SAND özelliklerini öneriyoruz. Bu, görüntü konumları arasındaki benzerlik/farklılık ilişkilerini gösteren seyrek göreceli etiketler kullanılarak elde edilir. Bu etiketlerin doğası, aralarından seçim yapılabilecek neredeyse sonsuz sayıda farklı örnekle sonuçlanır. Eğitim sırasında olumsuz örneklerin seçiminin, özellik uzayını değiştirmek ve özelliklerini çeşitlendirmek için nasıl kullanılabileceğini gösteriyoruz. Bu yaklaşımın genelliğini göstermek için önerilen özellikleri, her biri farklı özellikler gerektiren çok sayıda göreve uyguluyoruz. Buna eşitsizlik tahmini, anlamsal bölümleme, kendi kendine yerelleştirme ve SLAM dahildir. Her durumda, SAND özelliklerinin dahil edilmesinin, çok az veya hiç ek eğitim gerektirmeden, temel değerle nasıl daha iyi veya karşılaştırılabilir sonuçlar sağladığını gösteriyoruz. Kod şu adreste bulunabilir: https://…/SAND_features ...
Kaynak: https://analytixon.com/2020/09/17/if-you-did-not-already-know-1188/
