Analiz Kuantum hesaplamanın gerçekleşmesine on yıldan fazla bir süre kaldı, ancak endüstri uzmanlarına göre yapay zekanın doyumsuz iştahını dizginlemenin sırrını barındırıyor olabilir.

Her geçen ay daha büyük, daha fazla parametre yoğunluklu modeller ortaya çıkıyor ve yapay zeka dağıtımlarının ölçeği de buna paralel olarak genişliyor. Yalnızca bu yıl Meta gibi hiper ölçekleyiciler şunları yapmayı planlıyor: dağıtmak yüzbinlerce hızlandırıcı. Hatta OpenAI kurucusu Sam Altman hala ikna Yapay zekayı daha da geliştirmek istiyorsak katlanarak daha fazla hesaplamaya ihtiyacımız olacak.

Bu nedenle, en son işe alınan OpenAI'nin olur fırsat buldukça kuantum bilişime olan bahislerini koruyor. Geçen hafta yapay zeka ezici gücü, PsiQuantum'da eski kuantum sistemleri mimarı olan Ben Bartlett'i saflarına ekledi.

Bartlett'in yapay zeka trend belirleyicisinde neler yapacağı hakkında daha fazla bilgi edinmek için Open AI'ye ulaştık ancak yanıt alamadık. Ancak onun bio Araştırmalarının çoğu kuantum fiziği, makine öğrenimi ve nanofotonik arasındaki kesişme üzerine odaklandığı için bazı ipuçları sunuyor ve "temel olarak benim fotonlar için onları yararlı hesaplamalar yapmaları için kandıracak küçük yarış pistleri tasarlamamdan ibaret"

Peki OpenAI bir kuantum fizikçisinden tam olarak ne isteyebilir? Eğitim veri kümelerini düzene koymak için kuantum optimizasyonunu kullanmaktan veya karmaşık grafik veritabanlarını boşaltmak için kuantum işleme birimlerini (QPU'lar) kullanmaktan, modern yarı iletken paketlemenin sınırlarının ötesine ölçeklendirmek için optik kullanmaya kadar birkaç olasılık vardır.

Sinir ağları sadece başka bir optimizasyon problemidir

D-Wave'den Murray Thom, kuantum hesaplamanın, büyük yapay zeka modellerinin eğitiminin verimliliğini önemli ölçüde artırma potansiyeline sahip olduğunu ve bu modellerin daha az parametreli modellerden daha doğru yanıtlar elde etmelerine olanak sağladığını söylüyor. Kayıt.

GPT-4'ün trilyonlarca parametreyi aştığı söylentileri göz önüne alındığında, bunun neden çekici olabileceğini anlamak zor değil. Yapay zeka modelleri, nicemleme ve diğer sıkıştırma stratejilerine başvurmadan, FP1 veya Int8 hassasiyetinde ve daha yüksek hassasiyette, hatta bundan çok daha fazlasında çalışırken, her milyar parametre için yaklaşık 8 GB belleğe ihtiyaç duyar.

Trilyon parametreli modeller, tek bir yapay zeka sunucusunun verimli bir şekilde barındırabileceği sınırlara yaklaşıyor. Daha büyük modelleri desteklemek için birden fazla sunucu bir araya getirilebilir, ancak kutuyu bırakmak performans kaybına neden olur.

Ve bugün bu. Ve eğer Altman haklıysa bu modeller daha da büyüyecek ve yaygınlaşacak. Bu nedenle, OpenAI'nin parametre sayısını anlamlı bir şekilde artırmadan modellerinin kapasitesini artırmasına olanak tanıyan herhangi bir teknoloji, ona bir avantaj sağlayabilir.

D-Wave'in yazılım ve algoritmalardan sorumlu başkan yardımcısı Trevor Lanting, "Bir modeli eğitirken, modele giren parametrelerin sayısı gerçekten de model eğitiminin maliyetini ve karmaşıklığını artırıyor" diyor. Kayıt.

Bunu aşmak için geliştiricilerin genellikle söz konusu modelin eğitimi için en önemli olacağını düşündükleri özellikleri alt seçeceklerini ve bunun da gerekli parametre sayısını azaltacağını açıklıyor.

Ancak bunu geleneksel sistemler kullanarak yapmaya çalışmak yerine D-Wave, kuantum optimizasyon algoritmalarının hangi özelliklerin dahil edilip edilmeyeceğine karar vermede daha etkili olabileceğini öne sürüyor.

Eğer aşina değilseniz, yol bulma veya lojistikte yaygın olarak görülen optimizasyon sorunlarının, şimdiye kadar kuantum hesaplamanın en umut verici uygulamalarından biri olduğu kanıtlanmıştır.

Thom, "Kuantum bilgisayarlarımızın gerçekten iyi olduğu şey, bir şeyin olduğu veya olmadığı şeyleri optimize etmektir: birine belirli bir programın atanması veya belirli bir teslimatın atanması gibi" dedi Thom. "Bu kararlar bağımsız olsaydı bu iyi olurdu ve klasik bir bilgisayarın bunu yapması kolay olurdu, ancak aslında havuzdaki diğer kaynakları etkiliyorlar ve bir tür ağ etkisi var."

Başka bir deyişle, gerçek dünya karmaşıktır. Yolda birden fazla araç olabilir, yol kapatılabilir, hava olayları vb. olabilir. Klasik bilgisayarlarla karşılaştırıldığında, kuantum bilgisayarların doğasında bulunan benzersiz özellikler, en iyi rotayı belirlemek için bu faktörleri aynı anda keşfetmelerine olanak tanır.

Thom, bu durumu "nöronların ateşlendiği veya ateşlenmediği ve onların ve onların diğer nöronlarla sinaptik bağlantılara sahip olduğu, diğer nöronları ateşlenmesini uyaran veya engelleyen bir sinir ağına tamamen benzer" diye açıklıyor.

Lanting, bunun, yapay zeka eğitim veri kümelerini belirli gereksinimler için optimize etmek için kuantum algoritmalarının kullanılabileceği anlamına geldiğini ve bunun eğitildiğinde daha yalın, daha doğru bir modelle sonuçlanacağını iddia etti.

Kuantum örnekleme ve boşaltma

Daha uzun vadede D-Wave ve diğerleri QPU'ları eğitim sürecine daha derinlemesine uygulamanın yollarını arıyor.

Bu kullanım durumlarından biri, örneklemeye kuantum hesaplamanın uygulanmasını içerir. Örnekleme, LLM'ler gibi AI modellerinin bir sonraki kelimenin veya daha spesifik olarak belirtecin bir olasılık dağılımına dayalı olarak ne olması gerektiğini nasıl belirlediğini ifade eder. Bu nedenle, LLM'lerin yalnızca steroidler üzerinde otomatik tamamlama olduğu konusunda sıklıkla şaka yapılır.

"Donanım örnek üretmede çok iyi ve dağıtımı ayarlayabilirsiniz, böylece bu örneklerin ağırlığını ayarlayabilirsiniz. Ve araştırdığımız şey şu: Bu, tavlama kuantum hesaplamasını eğitim iş yüküne daha doğrudan ve daha sert bir şekilde yerleştirmenin iyi bir yolu mu?" diye açıkladı Lanting.

Fransız kuantum hesaplama girişimi Pasqal, sinir ağlarında yaygın olarak bulunan grafik yapılı veri setlerinin yükünü boşaltmak için kuantum hesaplamayı uygulamaya çalışıyor.

Pasqal Eş CEO'su Loïc Henriet, "Makine öğreniminde verileri klasik olarak temsil etmenin gerçekten basit bir yolu yoktur, çünkü grafik karmaşık bir nesnedir" dedi. Kayıt. "Grafik yapılı verileri nispeten doğal bir şekilde kuantum dinamiğine gömebilirsiniz, bu da bu veri parçalarını işlemenin bazı yeni yollarına yol açar."

Ancak Henriet, bunun başarılabilmesi için kuantum sistemlerinin çok daha büyük ve çok daha hızlı olması gerektiğini açıkladı.

"Büyük veri kümeleri şu an için pratik değil" dedi. “Bu yüzden kübit sayısını artırıyoruz; tekrarlama oranı. Çünkü daha fazla kubitle daha fazla veri gömebilirsiniz.”

Kuantum grafik sinir ağlarının uygulanabilir hale gelmesi için ne kadar beklememiz gerekeceğini söylemek zor. Pasqal'ın halihazırda 10,000 kübitlik bir sistemi var eserlerinde. Ne yazık ki araştırmalar, bunun için 10,000'den fazla hata düzeltme kübiti veya yaklaşık bir milyon fiziksel kübit gerektiğini gösteriyor. yarışmak modern GPU'larla.

Silikon fotonik oyunu mu?

Egzotik kuantum yapay zeka kullanım durumları bir yana, OpenAI'nin peşinde olabileceği ve Bartlett'in uzman olduğu başka teknolojiler de var.

En önemlisi, Bartlett'in eski işvereni PsiQuantum'un silikon fotoniğini temel alan sistemler geliştiriyor olması. Bu, işe alınmasının OpenAI ile ilgili olabileceğini gösteriyor rapor özel bir AI hızlandırıcı üzerinde çalışın.

Ayar Labs, Lightmatter ve Celestial AI dahil olmak üzere birçok silikon fotonik girişimi, teknolojiyi, makine öğrenimi performansını ölçeklendiren sınırlayıcı bir faktör haline gelen bant genişliği sınırlarının üstesinden gelmenin bir yolu olarak kullandı.

Buradaki fikir, tamamen elektrik sinyaline göre çok daha fazla veriyi ışıkla çok daha uzun bir mesafeye iletebilmenizdir. Bu tasarımların çoğunda ışık aslında silikonun içine kazınmış dalga kılavuzları tarafından taşınıyor; bu kulağa "fotonlar için küçük yarış pistleri tasarlamaya" çok benziyor.

Işık Maddesi inanıyor Bu teknoloji, birden fazla hızlandırıcının, çipten ayrılan veriler için bant genişliği cezasına maruz kalmadan tek bir cihaz gibi çalışmasına olanak tanıyacak. Bu sırada Celestial bir fırsat hızlandırıcı kalıbının hemen yanındaki modülleri birlikte paketleme ihtiyacını ortadan kaldırarak GPU'ların kullanabileceği yüksek bant genişlikli bellek miktarını büyük ölçüde artırmak. Bu yeteneklerin her ikisi de yapay zeka sistemleriyle büyük ölçekte çalışan bir şirket için cazip olacaktır.

OpenAI'nin sonuçta kuantum yapay zekayı mı yoksa silikon fotoniğini mi takip edeceği henüz bilinmiyor, ancak kurucusu uzun vadeli yatırımlar yapmaya yabancı olmayan bir şirket için bu, Altman'ın desteklediği en tuhaf şey olmayacaktır. ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/03/13/quantum_openai_hire/