Yazar: Vitalik Buterin aracılığıyla Vitalik Buterin'in Blogu

Geri bildirimleri ve tartışmaları için Worldcoin ve Modulus Labs ekiplerine, Xinyuan Sun, Martin Koeppelmann ve Illia Polosukhin'e özellikle teşekkür ederiz.

Yıllar boyunca birçok insan bana benzer bir soru sordu: Nedir? kavşaklar Kripto ve yapay zeka arasında en verimli olduğunu düşündüğüm şey nedir? Mantıklı bir soru: Kripto ve yapay zeka son on yılın iki ana derin (yazılım) teknolojisi trendi ve öyle görünüyor ki şart ikisi arasında bir tür bağlantı olabilir. Yüzeysel bir düzeyde sinerji yaratmak kolaydır: kriptonun merkeziyetsizleştirilmesi, Yapay zeka merkezileştirmesini dengeleyin, Yapay Zeka opaktır ve kripto şeffaflık getirir, Yapay Zeka verilere ihtiyaç duyar ve blok zincirler verileri depolamak ve izlemek için iyidir. Ancak yıllar geçtikçe insanlar benden daha derine inmemi ve belirli uygulamalar hakkında konuşmamı istediğinde, cevabım hayal kırıklığı yaratan bir yanıt oldu: "evet, birkaç şey var ama o kadar da değil."

Son üç yılda, modern teknolojiler biçiminde çok daha güçlü yapay zekanın yükselişiyle birlikte LLM'lerve sadece blockchain ölçeklendirme çözümleri değil aynı zamanda çok daha güçlü kriptoların yükselişi ZKP'ler, FHE, (iki parti ve N parti) MPCBu değişimi görmeye başlıyorum. Blockchain ekosistemlerinde gerçekten de bazı gelecek vaat eden yapay zeka uygulamaları var veya Yapay zeka kriptografiyle birlikteancak yapay zekanın nasıl uygulandığı konusunda dikkatli olmak önemlidir. Özel bir zorluk şudur: Kriptografide bir şeyi gerçekten güvenli hale getirmenin tek yolu açık kaynaktır, ancak yapay zekada bir modelin (veya hatta eğitim verilerinin) açık olması büyük ölçüde artar karşı savunmasızlığı rakip makine öğrenimi saldırılar. Bu yazı, kripto ve yapay zekanın kesişebileceği farklı yolların bir sınıflandırmasını ve her bir kategorinin beklentilerini ve zorluklarını ele alacak.

Kripto+AI kesişimlerinin üst düzey bir özeti uETH blog yazısı. Peki bu sinerjilerden herhangi birini somut bir uygulamada gerçekleştirmek için ne gerekiyor?

 

Dört ana kategori

Yapay Zeka çok geniş bir kavramdır: "Yapay Zeka"yı, açıkça belirterek değil, büyük bir hesaplama çorbasını karıştırarak ve çorbayı doğru yöne iten bir tür optimizasyon baskısı koyarak oluşturduğunuz bir dizi algoritma olarak düşünebilirsiniz. İstediğiniz özelliklere sahip algoritmalar üretmek. Bu açıklama kesinlikle küçümsenmemelidir: içerir the süreç o çevrimiçi kurslar düzenliyorlar. öncelikle biz insanlar! Ancak bu, yapay zeka algoritmalarının bazı ortak özelliklere sahip olduğu anlamına geliyor: son derece güçlü şeyler yapma yetenekleri ve arka planda neler olup bittiğini bilme veya anlama becerimizin sınırları.

Yapay zekayı kategorize etmenin birçok yolu vardır; AI ve blok zincirleri (bir platform olarak tanımlanan) arasındaki etkileşimlerden bahseden bu yazının amaçları doğrultusunda “oyunlar” yaratmak), aşağıdaki gibi kategorize edeceğim:

• Bir oyunda oyuncu olarak yapay zeka [en yüksek uygulanabilirlik]: Teşviklerin nihai kaynağının insan girdileriyle yapılan bir protokolden geldiği mekanizmalara katılan yapay zekalar.
• Oyunun arayüzü olarak yapay zeka [yüksek potansiyel, ancak riskli]: Yapay zekalar, kullanıcıların çevrelerindeki kripto dünyasını anlamalarına ve davranışlarının (örn. imzalı mesajlar ve işlemler) niyetleriyle uyumlu olmasını ve kandırılmamalarını veya dolandırılmamalarını sağlamalarına yardımcı olur.
• Oyunun kuralları olarak AI [çok dikkatli davranın]: Blockchain'ler, DAO'lar ve benzer mekanizmalar doğrudan yapay zekaları çağırıyor. Örneğin düşünün. “Yapay zeka hakimleri”
• Oyunun amacı olarak yapay zeka [uzun vadeli ama merak uyandırıcı]: Eğitimi daha iyi teşvik etmek veya yapay zekanın özel verileri sızdırmasını veya kötüye kullanılmasını önlemek için kripto bitlerini kullanarak, başka amaçlar için kullanılabilecek bir yapay zeka oluşturmak ve sürdürmek amacıyla blok zincirler, DAO'lar ve benzer mekanizmalar tasarlamak.

Bunları tek tek ele alalım.

Bir oyunda oyuncu olarak yapay zeka

Bu aslında neredeyse on yıldır var olan bir kategori, en azından o zamandan beri Zincir içi merkezi olmayan borsalar (DEX'ler) önemli bir kullanım görmeye başladı. Ne zaman bir takas olursa, arbitraj yoluyla para kazanma fırsatı da doğar ve botlar arbitrajı insanlardan çok daha iyi yapabilir. Bu kullanım durumu, bugün sahip olduğumuzdan çok daha basit yapay zekalarla bile uzun süredir varlığını sürdürüyor ancak sonuçta bu, çok gerçek bir yapay zeka + kripto kesişimidir. Yakın zamanda MEV arbitraj botlarını gördük sıklıkla birbirlerini sömürmek. Açık artırmaları veya ticareti içeren bir blockchain uygulamanız olduğunda, arbitraj botlarına sahip olacaksınız.

Ancak AI arbitraj botları, çok daha büyük bir kategorinin yalnızca ilk örneğidir ve bunun yakında birçok başka uygulamayı da içermeye başlayacağını umuyorum. AIOmen ile tanışın, Yapay zekaların oyuncu olduğu bir tahmin pazarının demosu:

Tahmin piyasaları uzun süredir epistemik teknolojisinin kutsal kâsesi olmuştur; Tahmin piyasalarını yönetişime (“futarchy”) girdi olarak kullanmak beni heyecanlandırıyordu. geri 2014 içinde, ve onlarla yoğun bir şekilde oynadım hem de son seçimde son zamanlarda. Ancak şu ana kadar tahmin piyasaları yükselişe geçmedi çok fazla Pratikte bunun için yaygın olarak verilen bir dizi neden vardır: En büyük katılımcılar genellikle mantıksızdır, doğru bilgiye sahip insanlar, aksi durumlar gerçekleşmedikçe zaman ayırmaya ve bahis oynamaya istekli değildirler. çok işin içinde para var, piyasalar genellikle zayıf, vb.

Buna verilecek bir yanıt, devam eden UX iyileştirmelerine işaret etmektir. polimarket veya diğer yeni tahmin pazarları ve önceki yinelemelerin başarısız olduğu yerde başarılı olacaklarını umuyoruz. Sonuçta hikaye devam ediyor, insanlar bahse girmeye istekli spora on milyarlarca dolaröyleyse neden insanlar ABD seçimlerine yetecek kadar para yatırmıyorlar ya da LK99 ciddi oyuncuların gelmeye başlaması mantıklı gelmeye başladı mı? Ancak bu argüman, önceki yinelemelerin olduğu gerçeğiyle mücadele etmelidir. var bu ölçeğe ulaşmayı başaramadı (en azından savunucularının hayalleriyle karşılaştırıldığında) ve öyle görünüyor ki yeni bir şey Tahmin piyasalarının başarılı olmasını sağlamak. Dolayısıyla farklı bir yanıt, tahmin piyasası ekosistemlerinin 2020'larda görmediğimiz ama 2010'lerde görmeyi bekleyebileceğimiz belirli bir özelliğine işaret etmektir: Yapay zekaların her yerde bulunma olasılığı.

Yapay zekalar saatte 1 dolardan daha az bir ücret karşılığında çalışmaya isteklidir ve bir ansiklopedi bilgisine sahiptir; bu yeterli değilse, gerçek zamanlı web arama özelliğiyle bile entegre edilebilirler. Bir pazar oluşturursanız ve 50 dolarlık bir likidite sübvansiyonu koyarsanız, insanlar teklif vermeye yeterince önem vermeyecektir, ancak binlerce yapay zeka sorunun her yerine kolayca akın edecek ve ellerinden gelen en iyi tahmini yapacaktır. Herhangi bir soruda iyi bir iş çıkarma teşviki küçük olabilir, ancak iyi tahminler yapan bir yapay zeka yapma teşviki Genel olarak milyonlarca olabilir. Potansiyel olarak şunu unutmayın: çoğu soruyu karara bağlamak için insanlara bile ihtiyacınız yok: buna benzer çok yönlü bir anlaşmazlık sistemi kullanabilirsiniz Augur veya daha önceki turlara katılanların da yapay zekalar olacağı Kleros. İnsanların yalnızca bir dizi gerilimi tırmandırdığı ve her iki tarafın da büyük miktarlarda para taahhüt ettiği birkaç vakada yanıt vermesi gerekecek.

Bu güçlü bir ilkeldir, çünkü bir "tahmin piyasası" bu kadar mikroskobik ölçekte çalışacak şekilde oluşturulduğunda, "tahmin piyasası" ilkelini diğer birçok soru türü için yeniden kullanabilirsiniz:

• Bu sosyal medya gönderisi [kullanım koşulları] kapsamında kabul edilebilir mi?
• X hisse senedinin fiyatına ne olacak (örn. bkz. Numerai)
• Şu anda bana mesaj atan bu hesap gerçekten Elon Musk mı?
• Bu çalışmanın çevrimiçi bir görev pazarında sunulması kabul edilebilir mi?
• https://examplefinance.network adresindeki dapp bir dolandırıcılık mı?
• Is 0x1b54....98c3 aslında “Casinu Inu” ERC20 tokeninin adresi?

Bu fikirlerin çoğunun benim "" dediğim yöne doğru gittiğini fark edebilirsiniz.bilgi savunması" içinde . Genel anlamda soru şu: Merkezi bir otoriteye doğru ve yanlışa karar verme yetkisi vermeden, kullanıcıların doğru ve yanlış bilgileri ayırmasına ve dolandırıcılıkları tespit etmesine nasıl yardımcı olabiliriz? Mikro düzeyde cevap “Yapay Zeka” olabilir. Ancak makro düzeyde soru şu: Yapay zekayı kim inşa ediyor? Yapay zeka, onu yaratan sürecin bir yansımasıdır ve bu nedenle önyargılardan kaçınamaz. Bu nedenle, farklı yapay zekaların ne kadar iyi performans gösterdiğine karar veren, yapay zekaların oyuna oyuncu olarak katılabileceği daha yüksek seviyeli bir oyuna ihtiyaç var..

Yapay zekaların, insanlardan girdi toplayan zincir içi bir mekanizma tarafından (olasılığa dayalı olarak) ödüllendirildikleri veya cezalandırıldıkları bir mekanizmaya katıldığı yapay zekanın bu kullanımı (buna merkezi olmayan pazar temelli diyebiliriz) RLHF?), gerçekten araştırmaya değer olduğunu düşündüğüm bir şey. Şimdi bunun gibi kullanım durumlarına daha fazla bakmanın tam zamanı, çünkü blockchain ölçeklendirmesi nihayet başarılı oluyor ve daha önce çoğu zaman mümkün olmayan "mikro" her şeyi nihayet zincir üzerinde uygulanabilir hale getiriyor.

İlgili bir uygulama kategorisi, yüksek düzeyde özerk aracılara yöneliktir Daha iyi işbirliği için blockchain kullanmakÖdemeler yoluyla veya güvenilir taahhütlerde bulunmak için akıllı sözleşmeler kullanılarak.

Oyunun arayüzü olarak yapay zeka

Aklıma getirdiğim bir fikir üzerine yazılar kullanıcının gezindiği çevrimiçi dünyadaki tehlikeleri yorumlayıp belirleyerek kullanıcıların çıkarlarını koruyacak, kullanıcıya yönelik bir yazılım yazmaya yönelik bir pazar fırsatının olduğu fikridir. Bunun halihazırda mevcut bir örneği Metamask'ın dolandırıcılık tespit özelliğidir:

Başka bir örnek Habby cüzdanı Kullanıcıya imzalamak üzere olduğu işlemin beklenen sonuçlarını gösteren simülasyon özelliği.

Habby bana, tüm "BITCOIN"imi (bazı rastgele dolandırıcılık ERC20, gerçek BTC değil) ETH karşılığında takas etmek için bir işlem imzalamanın sonuçlarını açıklıyor.

Potansiyel olarak bu tür araçlar yapay zeka ile güçlendirilebilir. Yapay zeka, ne tür bir dapp'e katıldığınız, imzaladığınız daha karmaşık operasyonların sonuçları, belirli bir tokenın gerçek olup olmadığı (örn. BITCOIN sadece bir karakter dizisi değil, bir ERC20 tokenı olmayan ve fiyatı 0.045 dolardan çok daha yüksek olan gerçek bir kripto para biriminin adıdır ve modern bir LLM bunu bilir) vb. Bu yönde ilerlemeye başlayan projeler var (örn. LangChain cüzdanıYapay zekayı bir araç olarak kullanan birincil arayüz). Benim görüşüm, saf yapay zeka arayüzlerinin şu anda muhtemelen çok riskli olduğu, çünkü bu durumun riskini artırdığı yönünde. diğer çeşitli hatalarancak daha geleneksel bir arayüzü tamamlayan yapay zeka giderek daha uygulanabilir hale geliyor.

Bahsetmeye değer özel bir risk var. Aşağıdaki "Oyunun kuralları olarak yapay zeka" bölümünde bu konuya daha fazla değineceğim, ancak genel sorun, çekişmeli makine öğrenimidir: Bir kullanıcının açık kaynaklı bir cüzdan içindeki bir AI asistanına erişimi varsa, kötü adamlar da bu AI asistanına erişebilecek ve böylece dolandırıcılıklarını tetiklenmeyecek şekilde optimize etmek için sınırsız fırsata sahip olacaklar. o cüzdanın savunması. Tüm modern yapay zekaların bir yerinde hatalar vardır ve bu bir eğitim süreci için çok da zor değildir, hatta yalnızca modele sınırlı erişim, onları bulmak için.

Burası "zincir içi mikro pazarlara katılan yapay zekaların" daha iyi çalıştığı yerdir: Her bir yapay zeka aynı risklere karşı savunmasızdır, ancak kasıtlı olarak bunları sürekli olarak yineleyen ve geliştiren düzinelerce insandan oluşan açık bir ekosistem yaratıyorsunuz. Dahası, her bir yapay zeka kapalıdır: sistemin güvenliği, sistemin kurallarının açıklığından gelir. oyun, her birinin iç işleyişi değil oyuncu.

Özet: Yapay zeka, kullanıcıların sade bir dille neler olup bittiğini anlamalarına yardımcı olabilir, gerçek zamanlı bir öğretmen görevi görebilir, kullanıcıları hatalardan koruyabilir, ancak kötü niyetli yanlış bilgi verenlere ve dolandırıcılara karşı doğrudan kullanılmaya çalışıldığında uyarılmalıdır.

Oyunun kuralları olarak yapay zeka

Şimdi, pek çok insanın heyecan duyduğu ama bence en riskli ve en dikkatli adım atmamız gereken uygulamaya geliyoruz: Yapay zeka dediğim şeyin oyunun kurallarının bir parçası olması. Bu, ana akım siyasi elitlerin "Yapay Zeka yargıçları" konusundaki heyecanıyla bağlantılıdır (örn. bkz. Bu makale “Dünya Hükümeti Zirvesi” web sitesinde) ve blockchain uygulamalarında bu arzuların benzerleri var. Blockchain tabanlı bir akıllı sözleşmenin veya bir DAO'nun öznel bir karar vermesi gerekiyorsa (örneğin, belirli bir iş ürünü, bir işe alım sözleşmesinde kabul edilebilir mi? İyimserlik gibi doğal dil yapısının doğru yorumu hangisidir?) Zincirler Kanunu?), bu kuralların uygulanmasına yardımcı olmak için bir yapay zekanın sözleşmenin veya DAO'nun bir parçası olmasını sağlayabilir misiniz?

İşte burası rakip makine öğrenimi son derece zorlu bir mücadele olacak. Temel iki cümlelik argüman neden aşağıdaki gibidir:

Bir mekanizmada kilit rol oynayan bir yapay zeka modeli kapalıysa iç işleyişini doğrulayamazsınız ve bu nedenle merkezi bir uygulamadan daha iyi değildir. AI modeli açıksa, saldırgan onu yerel olarak indirip simüle edebilir ve modeli kandırmak için yoğun şekilde optimize edilmiş saldırılar tasarlayabilir ve daha sonra canlı ağda yeniden oynatabilir.

Çelişkili makine öğrenimi örneği. Kaynak: Researchgate.net

Şimdi, bu blogu sık sık okuyanlar (ya da kripto evreninin sakinleri) benden önce davranıp şöyle düşünüyor olabilirler: ama bekleyin! Süslü sıfır bilgi kanıtlarımız ve gerçekten harika kriptografi formlarımız var. Elbette biraz şifreleme büyüsü yapabilir ve modelin iç işleyişini gizleyerek saldırganların saldırıları optimize etmesini önleyebiliriz, ancak aynı zamanda kanıtlamak Modelin doğru bir şekilde yürütüldüğünü ve makul bir temel veri seti üzerinde makul bir eğitim süreci kullanılarak oluşturulduğunu!

Normalde bu kesinlikle hem bu blogda hem de diğer yazılarımda savunduğum düşünce tarzı. Ancak yapay zekayla ilgili hesaplamalar söz konusu olduğunda iki büyük itiraz var:

1. Kriptografik ek yük: Bir SNARK (veya MPC veya…) içinde bir şey yapmak, onu "açıkça" yapmaktan çok daha az verimlidir. Yapay zekanın zaten hesaplama açısından çok yoğun olduğu göz önüne alındığında, kriptografik kara kutuların içinde yapay zeka yapmak hesaplama açısından uygun mudur?
2. Kara kutu çekişmeli makine öğrenimi saldırıları: Yapay zeka modellerine yönelik saldırıları optimize etmenin yolları var pek bir şey bilmeden bile modelin iç işleyişi hakkında. Ve eğer saklanırsan çok fazlaeğitim verilerini seçen kişinin modeli bozmasını çok kolaylaştırma riskiyle karşı karşıya kalırsınız. zehirleme saldırılar.

Bunların her ikisi de karmaşık tavşan delikleridir, o yüzden sırayla her birine girelim.

Kriptografik ek yük

Kriptografik aygıtların, özellikle ZK-SNARK'lar ve MPC gibi genel amaçlı aygıtların ek yükü yüksektir. Bir istemcinin bir Ethereum bloğunu doğrudan doğrulaması birkaç yüz milisaniye sürer, ancak böyle bir bloğun doğruluğunu kanıtlamak için bir ZK-SNARK oluşturmak saatler alabilir. MPC gibi diğer kriptografik cihazların tipik yükü daha da kötü olabilir. Yapay zeka hesaplaması zaten pahalıdır: En güçlü Yüksek Lisans'lar tek tek kelimeleri insanların okuyabildiğinden yalnızca biraz daha hızlı üretebilir; bunun çoğu zaman multimilyon dolarlık hesaplama maliyetlerinden bahsetmeye bile gerek yok. Eğitim modeller. Üst seviye modeller ile daha fazla tasarruf etmeye çalışan modeller arasındaki kalite farkı eğitim maliyeti or parametre sayısı büyük. İlk bakışta bu, yapay zekayı kriptografiye sararak garantiler eklemeye çalışan tüm projeden şüphelenmek için çok iyi bir neden.

Neyse ki, AI bir çok spesifik bir tür Her türlü optimizasyona uygun hale getiren hesaplama ZK-EVM'ler gibi daha "yapılandırılmamış" hesaplama türlerinin yararlanamayacağı bir durum. Bir yapay zeka modelinin temel yapısını inceleyelim:

Genellikle bir yapay zeka modeli çoğunlukla eleman başına doğrusal olmayan işlemlerle serpiştirilmiş bir dizi matris çarpımından oluşur. relu işlevi (y = max(x, 0)). Asimptotik olarak işin çoğunu matris çarpımları alır: ikinin çarpılması N*N matrisler �(�2.8) zaman alırdoğrusal olmayan işlemlerin sayısı ise çok daha azdır. Bu, kriptografi için gerçekten kullanışlıdır, çünkü birçok kriptografi biçimi doğrusal işlemleri (ki bu matris çarpımları, en azından modeli şifrelerseniz ancak girdileri şifrelerseniz) neredeyse "ücretsiz" yapabilir..

Eğer bir kriptograf iseniz, muhtemelen benzer bir fenomeni zaten duymuşsunuzdur. homomorfik şifreleme: performans ilave şifrelenmiş şifreli metinlerde bu gerçekten kolaydır, ancak çarpmalar inanılmaz derecede zor ve 2009 yılına kadar bunu sınırsız derinlikle yapmanın hiçbir yolunu bulamadık.

ZK-SNARK'lar için eşdeğeri: 2013'ten itibaren bunun gibi protokoller, gösteren bir 4x'ten az Matris çarpımlarını ispatlama yükü. Ne yazık ki, doğrusal olmayan katmanlardaki ek yük hala önemli düzeydedir ve pratikteki en iyi uygulamalar yaklaşık 200 kat ek yük göstermektedir. Ancak daha ileri araştırmalarla bunun büyük ölçüde azaltılabileceğine dair umut var; Görmek Ryan Cao'nun bu sunumu GKR'ye dayalı yeni bir yaklaşım ve benimki için GKR'nin ana bileşeninin nasıl çalıştığına dair basitleştirilmiş açıklama.

Ancak birçok uygulama için sadece bunu yapmak istemiyoruz kanıtlamak Bir AI çıktısının doğru şekilde hesaplandığını görmek istiyoruz. modeli gizle. Bu konuda naif yaklaşımlar var: Modeli, farklı bir sunucu kümesinin her katmanı yedekli olarak depolayacağı şekilde bölebilir ve bazı katmanları sızdıran sunuculardan bazılarının çok fazla veri sızdırmamasını umabilirsiniz. Ancak şaşırtıcı derecede etkili formlar da var. özel çok partili hesaplama.

Bu yaklaşımlardan birinin, modeli gizli tutan ancak girdileri herkese açık hale getiren basitleştirilmiş bir diyagramı. Modeli ve girdileri gizli tutmak istiyorsak, biraz daha karmaşık olsa da bunu yapabiliriz: bkz. sayfa 8-9. kağıt.

Her iki durumda da hikayenin anlamı aynıdır: Bir yapay zeka hesaplamasının en büyük kısmı matris çarpımlarıdır ve bunun için aşağıdakileri yapmak mümkündür: çok verimli ZK-SNARK'lar veya MPC'ler (hatta FHE) ve dolayısıyla yapay zekayı kriptografik kutulara koymanın toplam yükü şaşırtıcı derecede düşük. Genel olarak, daha küçük boyutlarına rağmen en büyük darboğaz, doğrusal olmayan katmanlardır; belki daha yeni teknikler gibi bağımsız değişkenleri arama yardımcı olabilir.

Kara kutu çekişmeli makine öğrenimi

Şimdi diğer büyük soruna geçelim: yapabileceğiniz saldırı türleri bile modelin içeriği gizli tutulur ve modele yalnızca “API erişiminiz” vardır. Alıntı yapmak 2016'ten kağıt:

Birçok makine öğrenimi modeli, rakip örneklere karşı savunmasızdır: bir makine öğrenimi modelinin yanlış bir çıktı üretmesine neden olmak için özel olarak hazırlanmış girdiler. Bir modeli etkileyen karşıt örnekler, iki model farklı mimarilere sahip olsa veya farklı eğitim setlerinde eğitilmiş olsa bile, her iki model de aynı görevi gerçekleştirmek üzere eğitildiği sürece sıklıkla başka bir modeli de etkiler.. Bu nedenle bir saldırgan, kendi yedek modelini eğitebilir, yedek modele karşı rakip örnekler hazırlayabilir ve kurban hakkında çok az bilgiyle bunları bir kurban modeline aktarabilir.

Kendi yerel olarak depolanan "çıkarılan sınıflandırıcınızı" eğitmek ve geliştirmek için bir "hedef sınıflandırıcıya" kara kutu erişimini kullanın. Daha sonra, yerel olarak, çıkarılan sınıflandırıcıya karşı optimize edilmiş saldırılar oluşturun. Bu saldırıların sıklıkla orijinal hedef sınıflandırıcıya karşı da işe yarayacağı ortaya çıktı. Diyagram kaynağı.

Potansiyel olarak bilerek saldırılar bile oluşturabilirsiniz. sadece eğitim verileriSaldırmaya çalıştığınız modele çok sınırlı erişiminiz olsa veya hiç erişiminiz olmasa bile. 2023 yılı itibarıyla bu tür saldırılar büyük sorun olmaya devam ediyor.

Bu tür kara kutu saldırılarını etkili bir şekilde azaltmak için iki şey yapmamız gerekir:

1. Gerçekten modeli kimin veya neyin sorgulayabileceğini sınırlama ve ne kadar. Sınırsız API erişimine sahip kara kutular güvenli değildir; API erişimi çok kısıtlı olan kara kutular olabilir.
2. Güveni korurken eğitim verilerini gizleyin eğitim verilerini oluşturmak için kullanılan sürecin bozuk olmadığından emin olun.

İlkinde en çok şey yapan proje belki de Worldcoin'dir ve onun daha eski bir versiyonunu (diğer protokollerin yanı sıra) uzun uzadıya analiz ediyorum. okuyun. Worldcoin, (i) iris taramalarını benzerlik açısından karşılaştırması kolay kısa "iris kodlarına" dönüştürmek ve (ii) taradığı şeyin aslında bir insan olduğunu doğrulamak için AI modellerini protokol düzeyinde kapsamlı bir şekilde kullanır. Worldcoin'in güvendiği ana savunma, kimsenin basitçe AI modelini aramasına izin vermiyor; bunun yerine, modelin yalnızca kürenin kamerası tarafından dijital olarak imzalanmış girişleri kabul etmesini sağlamak için güvenilir donanım kullanıyor.

Bu yaklaşımın işe yarayacağı garanti edilmez: Biyometrik yapay zekaya karşı, şu şekilde gelen düşmanca saldırılar yapabileceğiniz ortaya çıkıyor: yüzünüze takabileceğiniz fiziksel yamalar veya takılar:

Alnınıza fazladan bir şey takın ve tespit edilmekten kurtulun, hatta başka birinin kimliğine bürünün. Kaynak.

Ama umut şu ki, eğer tüm savunmaları bir araya getirin, AI modelinin kendisini gizleyerek, sorgu sayısını büyük ölçüde sınırlayarak ve her sorgunun bir şekilde doğrulanmasını gerektirerek, sistemin güvenli olabilmesi için yeterince zor olan düşmanca saldırılar yapabilirsiniz.

Bu da bizi ikinci kısma getiriyor: Eğitim verilerini nasıl gizleyebiliriz? burası "Yapay zekayı demokratik olarak yönetmek için DAO'lar" aslında mantıklı olabilir: Kimin eğitim verilerini göndermesine izin verildiğini (ve verinin kendisinde hangi tasdiklerin gerekli olduğunu), kimin sorgulama yapmasına izin verildiğini ve kaç tane sorgulama yapmasına izin verildiğini ve MPC gibi şifreleme tekniklerini kullanma sürecini yöneten zincir üstü bir DAO oluşturabiliriz. Yapay zekayı oluşturma ve çalıştırma sürecinin tamamını, her bir kullanıcının eğitim girişinden her sorgunun son çıktısına kadar şifrelemek. Bu DAO, aynı zamanda son derece popüler olan, veri gönderen kişilere ödeme yapma hedefini de karşılayabilir.

Bu planın son derece iddialı olduğunu ve uygulanamaz hale gelebileceği birçok yol bulunduğunu tekrar belirtmekte fayda var:

• Kriptografik ek yük hala çok yüksek olabilir Bu tür tamamen kara kutu mimarisinin geleneksel kapalı "bana güven" yaklaşımlarıyla rekabet edebilmesi için.
• Bu ortaya çıkabilir eğitim verileri gönderme sürecini merkezi olmayan hale getirmenin iyi bir yolu yok ve korumalı Zehirlenme saldırılarına karşı.
• Çok partili hesaplama aygıtları bozulabilir nedeniyle güvenlik veya gizlilik garantileri katılımcılar gizli anlaşma yapıyor: sonuçta bu, zincirler arası kripto para birimi köprülerinde de oldu tekrar ve tekrar.

Bu bölüme "Yapay zekalı yargıçlar yapmayın, bu distopiktir" diyen daha büyük kırmızı uyarı etiketleriyle başlamamamın bir nedeni, toplumumuzun halihazırda hesap vermeyen merkezi yapay zeka yargıçlarına oldukça bağımlı olmasıdır: hangi tür yargıların yapılacağını belirleyen algoritmalar. Sosyal medyada paylaşımlar ve siyasi görüşler öne çıkarılıyor, destekleri kaldırılıyor, hatta sansürleniyor. Bu eğilimin genişletilmesi gerektiğini düşünüyorum daha fazla bu aşamada oldukça kötü bir fikir, ancak bunun büyük bir şansı olduğunu düşünmüyorum. blockchain topluluğu yapay zekalarla daha fazla deney yapıyor daha da kötüleşmesine katkıda bulunan şey olacaktır.

Aslında, kripto teknolojisinin bu mevcut merkezi sistemleri bile daha iyi hale getirebileceğine oldukça güvendiğim bazı basit, düşük riskli yollar var. Basit bir teknik, gecikmeli yayınla doğrulanmış yapay zeka: Bir sosyal medya sitesi yapay zeka tabanlı gönderi sıralaması yaptığında, bu sıralamayı oluşturan modelin karma değerini kanıtlayan bir ZK-SNARK yayınlayabilir. Site, örneğin sonrasında AI modellerini açıklamayı taahhüt edebilir. bir yıllık gecikme. Bir model ortaya çıktığında, kullanıcılar doğru modelin yayınlandığını doğrulamak için hash'i kontrol edebilir ve topluluk, modelin adil olup olmadığını doğrulamak için model üzerinde testler yapabilir. Yayın gecikmesi, model ortaya çıktığında zaten güncelliğini yitirmiş olmasını sağlayacaktır.

Yani şuna kıyasla merkezi dünya, soru şu değil if daha iyisini yapabiliriz ama ne kadar. Için merkezi olmayan dünyaancak dikkatli olmak önemlidir: birisi örneğin inşa ederse. bir tahmin piyasası veya yapay zeka kahinini kullanan bir stablecoin ve kehanetin saldırıya açık olduğu ortaya çıktı; bu, bir anda ortadan kaybolabilecek çok büyük miktarda para anlamına geliyor.

Oyunun amacı olarak AI

İçeriği hiç kimse tarafından bilinmeyen bir kara kutu olan, ölçeklenebilir, merkezi olmayan özel bir yapay zeka oluşturmaya yönelik yukarıdaki teknikler gerçekten işe yarayabilirse, o zaman bu, blockchainlerin ötesine geçen faydalara sahip yapay zekalar oluşturmak için de kullanılabilir. NEAR protokol ekibi bunu bir hale getiriyor devam eden çalışmalarının temel amacı.

Bunu yapmanın iki nedeni var:

1. Eğer sen yapabilmek yapmak "güvenilir kara kutu yapay zekaları"Blockchain ve MPC'nin bir kombinasyonunu kullanarak eğitim ve çıkarım sürecini çalıştırarak, kullanıcıların sistemin önyargılı olduğundan veya kendilerini aldattığından endişe duyduğu birçok uygulama bundan faydalanabilir. Birçok kişi arzusunu dile getirdi demokratik yönetişim sistemik olarak önemli yapay zekaların güveneceğimiz; kriptografik ve blockchain tabanlı teknikler bunu yapmanın bir yolu olabilir.
2. Bir yapay zeka güvenliği perspektiften bakıldığında bu, aynı zamanda doğal bir öldürme anahtarına sahip olan ve yapay zekayı kötü niyetli davranışlar için kullanmayı amaçlayan sorguları sınırlandırabilecek merkezi olmayan bir yapay zeka yaratma tekniği olabilir.

Ayrıca, "daha iyi yapay zeka yapmayı teşvik etmek için kripto teşviklerini kullanmanın", onu tamamen şifrelemek için kriptografi kullanmanın tavşan deliğine inmeden de yapılabileceğini belirtmekte fayda var: gibi yaklaşımlar BitTensor bu kategoriye girer.

Sonuç

Artık hem blok zincirler hem de yapay zekalar daha güçlü hale geldikçe, iki alanın kesişiminde artan sayıda kullanım durumu var. Ancak bu kullanım durumlarından bazıları diğerlerinden çok daha anlamlı ve çok daha sağlamdır. Genel olarak, altta yatan mekanizmanın kabaca eskisi gibi tasarlanmaya devam ettiği ancak bireysel oyuncular Mekanizmanın çok daha mikro ölçekte etkili bir şekilde çalışmasına olanak tanıyan yapay zekalar, en kısa sürede umut vaat eden ve doğru yapılması en kolay olanlardır.

Doğru olanı elde etmek en zor olanı, bir "tek" oluşturmak için blok zincirleri ve kriptografik teknikleri kullanmaya çalışan uygulamalardır: bazı uygulamaların belirli bir amaç için güveneceği tek bir merkezi olmayan güvenilir yapay zeka. Bu uygulamalar, hem işlevsellik hem de yapay zeka güvenliğini, bu soruna yönelik daha genel yaklaşımlarla ilişkili merkezileştirme risklerini önleyecek şekilde iyileştirme açısından umut vaat ediyor. Ancak temeldeki varsayımların başarısız olabileceği birçok yol da vardır; bu nedenle, özellikle bu uygulamaları yüksek değerli ve yüksek riskli bağlamlarda devreye alırken dikkatli davranmaya değer.

Tüm bu alanlarda yapay zekanın yapıcı kullanım örneklerine yönelik daha fazla girişim görmeyi sabırsızlıkla bekliyorum, böylece hangilerinin geniş ölçekte gerçekten uygulanabilir olduğunu görebiliriz.

Yazar: Vitalik Butterin

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: Plato Veri Zekası.