19.2 C
New York

Gensyn Protokolü, Sinir Ağlarını Daha Düşük Büyüklük Sırasıyla Hiper Ölçekte Güvenle Eğitir…

Tarih:


Gensyn Protokolü, Sinir Ağlarını Daha Düşük Maliyet Sırasıyla Hiper Ölçekte Güvenle Eğitir

Bağlantılar: Gensyn web sitesi, Yazı kağıdı, CoinFund Portföyü, TechCrunch Makalesi Link

Yatırım Tezi Özeti

  • ML Artan Karmaşıklık ve Değer için Seküler Kaldıraç: Son teknoloji yapay zeka sistemlerinin hesaplama karmaşıklığı her 3 ayda bir ikiye katlanırken, bu modellerin değeri hızla artmaya devam ederken, bu algoritmaların eski kara kutu doğası artık giderek daha büyük sistemlerle uyumlu hale geliyor. insan tarafından anlaşılabilir aydınlatıcılar.
  • Yeni Koordinasyon ve Doğrulama Sistemi Tasarımı: Gensyn, herhangi bir ölçekte sinir ağı eğitiminde durum bağımlılığı sorununu verimli bir şekilde çözen bir doğrulama sistemi (testnet v1 bu yıl içinde devreye girecek) kuruyor. Sistem, model eğitim kontrol noktalarını zincir üzerinde sonlandıran olasılıksal kontrollerle birleştirir. Tüm bunları güvenilir bir şekilde yapar ve genel gider model boyutuyla doğrusal olarak ölçeklenir (doğrulama maliyetlerini sabit tutar).
  • Yapay Zeka Merkezsizleşmesine Tematik Odaklanma: Makine öğrenimi uygulamalarının iyi bilinen örneklerinin çoğu (Tesla sürücüsüz arabalar, Google DeepMind) aynı şirketler grubu tarafından üretilmiştir, çünkü derin öğrenme endüstrisi şu anda Büyük Teknoloji şirketleri arasında bir tekel oyunu gibi görünmektedir. Çin ve Amerika Birleşik Devletleri gibi devletlerin yanı sıra. Bu güçler, web3'e ve hatta web1'in tarihsel kökenlerine aykırı olan devasa merkezileşme güçleriyle sonuçlanıyor.
Gensyn Protokolü, Sinir Ağlarını Daha Düşük Büyüklük Sırasıyla Hiper Ölçekte Güvenle Eğitir…

CoinFund, Gensyn Protocol'ün son bağış toplamasını desteklemekten gurur duyuyor ve ekibin yeni doğrulama sistemleri aracılığıyla sinir ağlarını hiper ölçekte ve düşük maliyetle güvenilir bir şekilde eğitme vizyonu. Zincir üzerinde sonlandıran olasılıksal kontrollerin kullanılması dokunurken Şu anda yeterince kullanılmayan oyun GPU'larından, Ethereum ağından ayrılmak üzere olan karmaşık ETH1 madencilik havuzlarına kadar, bu ağ Proof of Stake'e geçerken, Gensyn protokolü herhangi bir idari gözetmen veya yasal yaptırım gerektirmez, bunun yerine programlı olarak görev dağıtımını ve ödemeleri kolaylaştırır. akıllı sözleşmeler Daha da iyisi, protokolün merkezi olmayan doğası, nihayetinde çoğunluk topluluk tarafından yönetileceği ve topluluk onayı olmadan 'kapatılamayacağı' anlamına gelir; bu, web2 muadillerinden farklı olarak sansüre dayanıklı hale getirir. Sonuç olarak, üçüncü taraf katılımcılar sonunda zengin kullanıcı deneyimleri ve çok sayıda niş içinde belirli işlevler oluşturduğundan, Gensyn'in web3 yerel ML hesaplaması için temel katman olmaya çalıştığına inanıyoruz.

Bölüm 1: Derin Öğrenmenin Çok Yıllı Laik Büyümesine Giriş

Bir görüntülü görüşmede gördüğünüz her yüz ve duyduğunuz tüm sesler manipüle edilir. Çağrı kalitesini artırmak için sinir ağları seçici olarak Zoom'da çözünürlüğü ayarlayın ve arka plan gürültüsünü bastır Microsoft Teams'de. Daha yeni gelişmeler, daha düşük çözünürlüklü videoyu bile görüyor 'rüya gördüm' daha yüksek bir çözünürlüğe dönüştürün. Sinir ağları, yapay zekanın derin öğrenme dalında kullanılan modellerdir. Gevşek bir şekilde yapısına dayanırlar. insan beyni ve sayısız uygulamaya sahip, belki de nihayetinde insan seviyesinde yapay zeka yaratıyor. Daha büyük modeller genellikle daha iyi sonuçlar verir ve son teknoloji geliştirme için gereken donanım iki katına çıkar. her üç ayda. Gelişimdeki bu patlama, derin öğrenmeyi modern insan deneyiminin temel bir parçası haline getirdi. 2020 yılında bir sinir ağı radarı çalıştırdı ABD casus uçağında, dil modelleri artık yazıyor daha iyi dolandırıcılık e-postaları insanlardan ve kendi kendini süren araba algoritmalarından daha daha iyi çalmak birçok ortamda insan.

OpenAI tarafından önerilen en büyük GPT-3 modeli olan GPT-175 3B Brown ve diğ. (2020) eğitim için 1,000 NVIDIA Tesla V100 GPU kümesi kullandı - kabaca tek bir cihazda 355 yıllık eğitime eşdeğer. DALL-E'den Ramesh et al. (2021)OpenAI'nin bir başka Transformer modeli olan Transformer, 12 milyar parametreye sahiptir ve 400 milyondan fazla altyazılı görüntü üzerinde eğitilmiştir. OpenAI, DALL-E'nin eğitiminin maliyetini üstlendi, ancak tartışmalı bir şekilde modeli açık kaynaklı olarak reddetti, bu da belki de en önemli son teknoloji multimodal derin öğrenme modellerinden birinin, seçkin bir kaç kişi dışında herkes tarafından erişilemeyeceği anlamına geliyor. Bunları oluşturmak için büyük kaynak gereksinimleri temel modelleri erişim için önemli engeller yaratır ve hala değer elde ederken kaynakları bir araya getirmek için bir yöntem olmadan, AI ilerlemesinde büyük olasılıkla durgunluğa neden olacaktır. Birçoğu, bu genelleştirilmiş modellerin Yapay Genel Zekanın (YGG) kilidini açmanın anahtarı olduğuna inanıyor ve bu da izole, yapay silolardaki mevcut eğitim yöntemini saçma gösteriyor.

Bilgi işlem arzına erişim sağlayan mevcut çözümler ya oligopolistik ve pahalıdır ya da basitçe kullanışsız büyük ölçekli yapay zeka için gereken bilgi işlemin karmaşıklığı göz önüne alındığında. Balonlaşma talebini karşılamak, maliyet etkin bir şekilde kaldıraç kullanan bir sistem gerektirir herşey kullanılabilir bilgi işlem (bugünün ~%40 küresel işlemci kullanımının aksine). Bu sorunu şu anda birleştirmek, bilgi işlem arzının kendisinin asimptotik mikroişlemci performansındaki gelişmeler — yanında tedarik zinciri ve jeopolitik çip kıtlığı.

Bölüm 2: Gensyn'in Koordinasyonuna Neden İhtiyaç Duyulur?

Bu ağı oluşturmadaki temel zorluk, tamamlanmış makine öğrenimi çalışmasının doğrulanmasıdır. Bu, karmaşıklık teorisi, oyun teorisi, kriptografi ve optimizasyonun kesiştiği noktada yer alan oldukça karmaşık bir problemdir. Model tasarımında insan bilgisinin yanı sıra, uygulamalı makine öğreniminin ilerlemesini yavaşlatan üç temel sorun vardır: 1) hesaplama gücüne erişim; 2) verilere erişim; ve 3) bilgiye erişim (yer gerçeği etiketlemesi). Gensyn, birinci sorunu, adil piyasa fiyatıyla küresel olarak ölçeklenebilir işleme isteğe bağlı erişim sağlayarak çözerken, Gensyn Vakfı, araştırma, finansman ve diğer protokollerle işbirlikleri yoluyla iki ve üçe yönelik çözümleri teşvik etmeye çalışacaktır.

Spesifik olarak, üstün işlemcilere erişim, giderek daha büyük/karmaşık modellerin eğitilmesini sağlar. Geçtiğimiz on yılda, transistör yoğunluğu kazanımları ve bellek erişim hızı/paralelleştirmedeki ilerlemeler, büyük modeller için eğitim sürelerini önemli ölçüde azalttı. AWS ve Alibaba gibi bulut devleri aracılığıyla bu donanıma sanal erişim, aynı anda benimsenmeyi genişletti. Buna göre, son teknoloji işlemcileri üretme araçlarını edinme konusunda güçlü bir devlet çıkarı vardır. Anakara Çin, işlemcilerde önemli bir bileşen olan son teknoloji yarı iletkenler (yani silikon gofretler) üretme konusunda henüz uçtan uca yeteneğe sahip değil. Bunları özellikle TSMC'den (Taiwan Semiconductor Manufacturing Company) ithal etmeleri gerekiyor. Çip satıcıları ayrıca diğer müşterilerin çip üreticilerine erişmesini engellemeye çalışır. tedarik satın alarak. Eyalet düzeyinde, ABD agresif bir şekilde engelleme Çinli şirketler tarafından bu teknolojiyi elde etmek için herhangi bir hamle. Teknoloji yığınının daha da yukarısında, bazı şirketler, Google'ın TPU kümeleri gibi kendi derin öğrenmeye özgü donanımlarını oluşturmaya kadar gitti. Bunlar, derin öğrenmede standart GPU'lardan daha iyi performans gösterir ve satılık değil, yalnızca kiralıktır.

Erişilebilir bilgi işlemin ölçeğini büyük ölçüde artırırken birim maliyetini düşürürken, hem araştırma hem de endüstriyel topluluklar için derin öğrenme için tamamen yeni bir paradigmanın kapısını açar. Ölçek ve maliyetteki iyileştirmeler, protokolün halihazırda kanıtlanmış, önceden eğitilmiş bir dizi temel model oluşturmasına olanak tanır. Temel Modelleri– şuna benzer şekilde model hayvanat bahçeleri popüler çerçeveler. Bu, araştırmacıların ve mühendislerin, büyük açık veri kümeleri üzerinde üstün modelleri açıkça araştırmasına ve eğitmesine olanak tanır. Eleuther proje. Bu modeller, merkezi mülkiyet veya sansür olmaksızın insanlığın bazı temel sorunlarını çözecektir. Kriptografi, özellikle İşlevsel Şifreleme, protokolün talep üzerine özel veriler üzerinden kullanılmasına izin verecektir. Büyük temel modelleri daha sonra özel bir veri kümesi kullanan herkes tarafından ince ayar yapılabilir, bu verilerdeki değeri/gizliliği korur, ancak yine de model tasarımı ve araştırmasında kolektif bilgiyi paylaşır.

Gensyn Protokolü, Sinir Ağlarını Daha Düşük Büyüklük Sırasıyla Hiper Ölçekte Güvenle Eğitir…
Yüksek ölçek + düşük maliyet: Gensyn protokolü, AWS'yi geçebilecek bir ölçekte bir veri merkezinde sahip olunan bir GPU'ya benzer bir maliyet sağlar. (Kasım 2021 itibariyle fiyatlar).

Bölüm 3: Gensyn Drives Web3-Native Data Centralization

İnternet 1960'larda ABD Hükümeti'nden doğmuş olabilir, ancak 1990'larda anarşik bir yaratıcılık, bireycilik ve fırsat ağıydı. Google, TPU'ları stoklamadan çok önce, SETI@home gibi projeler, merkezi olmayan bilgi işlem gücünü kitle kaynaklı kullanarak yabancı yaşamı keşfetmeye çalıştı. 2000 yılına gelindiğinde SETI@home'un işlem hızı şu şekildeydi: 17 terafloplarBu, o zamanki en iyi süper bilgisayar olan IBM ASCI White'ın performansının iki katından fazla. Bu süre genellikle 'web1' olarak adlandırılır, Google veya Amazon (web2) gibi büyük platformların hegemonyasından bir an önce, ancak merkezi olmayan bilgi işlem, o sırada çeşitli sorunlar nedeniyle internetin ilk ihtiyaçlarını karşılamak için ölçeklendirmede bocaladı.

Bununla birlikte, web altyapısının devasa web2 platformlarında mevcut merkezileştirilmesi, maliyet gibi kendi sorunlarını yaratır (AWS'nin brüt marjı tahminidir. kârimizin %61, çoğu alt ölçekli araştırmacı ve veri odaklı işletme için marj sıkıştırmasını temsil eder. Aynı zamanda, merkezi bilgi işlem bulut sunucuları da kontrolü feda ediyor - AWS, popüler sağcı sosyal medya platformu Parler'ın altyapısını şu şekilde kapattı: bir günlük ihbar 6 Ocak 2021 Capitol Riot'un ardından. Birçok kişi bu kararla hemfikirdi, ancak emsal, AWS'nin ev sahibi %42 İnternetteki en iyi 10,000 siteden biri. Ancak, derin öğrenme modellerini merkezi olmayan donanımlar üzerinden eğitmek, Gensyn Protokolünün çözmesine yardımcı olan doğrulama sorunu nedeniyle zordur.

Pazar yerini bir Web3 protokolü olarak oluşturmak, ölçeklendirmeyle ilgili merkezi genel giderleri ortadan kaldırır ve yeni tedarik katılımcıları için giriş engellerini azaltarak ağın potansiyel olarak dünyadaki her bilgi işlem cihazını kapsamasına olanak tanır. Tüm cihazları tek bir merkezi olmayan ağ üzerinden bağlamak, mevcut herhangi bir sağlayıcı aracılığıyla elde edilmesi şu anda imkansız olan bir ölçeklenebilirlik düzeyi sağlar ve dünyanın bilgi işlem arzının tamamına benzeri görülmemiş isteğe bağlı erişim sağlar. Son kullanıcılar için bu, maliyete karşı ölçek ikilemini tamamen ortadan kaldırır ve potansiyel olarak sonsuz ölçeklenebilirlik (dünya çapındaki fiziksel donanım sınırlarına kadar) ve birim fiyatlarının piyasa dinamikleri tarafından belirlenmesi için şeffaf ve düşük maliyetli bir ML eğitim hesaplaması sağlar. Bu, büyük sağlayıcıların keyif aldığı olağan hendeklerden kaçınır, fiyatları önemli ölçüde düşürür ve kaynak düzeyinde gerçek anlamda küresel rekabeti kolaylaştırır ve hatta mevcut bulut hizmetleri sağlayıcılarının Gensyn protokolünü daha merkezileştirilmiş birinci tarafı tamamlayan bir dağıtım yolu olarak gördüğü bir durumu bile dikkate alır. paket teklifler.

Sonuç:

AI ile neredeyse kripto para birimi ve blok zincirler kadar popüler bir moda kelime ile, burada önizlendiği gibi Gensyn'e yatırım yapma tezimiz, protokolün yeteneği için belirlenen fırsat konusunda hırslı olurken, anlaşılması kolay ve kanıta dayalı olma testlerini geçmelidir. Web3'e özgü, başlangıçta hedeflenen ancak genelleştirilebilir bir kaynak ağına değer katın. Gensyn protokolü ile, gelecekte sayısız uygulamanın temelini oluşturan daha da değerli içgörülerin önünü açan hiper ölçeklenebilir, uygun maliyetli bir koordinasyon ağının başlangıcını gördüğümüze inanıyoruz.

CoinFund Hakkında

CoinFund, 2015 yılında kurulmuş, merkezi ABD'de bulunan, çeşitliliğe sahip, önde gelen blok zinciri odaklı bir yatırım firmasıdır. CoinFund stratejileri hem likit hem de girişim piyasalarını kapsar ve teknik kriptonatif yeteneği geleneksel finans deneyimiyle senkronize eden çok disiplinli yaklaşımımızdan yararlanır. “Önce kurucular” yaklaşımıyla CoinFund, dijital varlık alanında inovasyonu yönlendirmek için portföy şirketleriyle yakın işbirliği içindedir.

feragat

Bu sitede sağlanan içerik yalnızca bilgilendirme ve tartışma amaçlıdır ve belirli bir yatırım kararıyla bağlantılı olarak güvenilmemeli veya herhangi bir yatırımla ilgili teklif, tavsiye veya talep olarak yorumlanmamalıdır. Yazar, bu makalede tartışılan herhangi bir şirketi, projeyi veya jetonu onaylamamaktadır. Tüm bilgiler burada açık veya zımni hiçbir garanti olmaksızın "olduğu gibi" sunulmaktadır ve ileriye dönük beyanların yanlış olduğu ortaya çıkabilir. CoinFund Management LLC ve bağlı kuruluşları, bu makalede tartışılan token veya projelerde uzun veya kısa pozisyonlara sahip olabilir.

Gensyn Protokolü, Sinir Ağlarını Daha Düşük Büyüklük Sırasıyla Hiper Ölçekte Güvenle Eğitir…


Gensyn Protokolü, Sinir Ağlarını Daha Düşük Büyüklük Sırasıyla Hiper Ölçekte Güvenle Eğitir… Ilk başta CoinFund Blogu İnsanlar bu hikayeyi vurgulayarak ve yanıt vererek sohbete devam ediyor.

Source: https://blog.coinfund.io/the-gensyn-protocol-trustlessly-trains-neural-networks-at-hyperscale-with-lower-order-of-magnitude-227fe968fabf?source=rss—-f5f136d48fc3—4

İlgili Makaleler

spot_img

Son Makaleler

spot_img