Zephyrnet Logosu

@ttunguz'dan Yapay Zeka Tasarım Desenleri

Tarih:

Yapay zeka ortamını ve uygulamaların nasıl oluşturulacağını araştırırken, yapay zeka ürünleri için birkaç tasarım modeli ortaya çıkıyor.

Bu tasarım kalıpları basit zihinsel modellerdir. İnşaatçıların bugün yapay zeka uygulamalarını nasıl tasarladığını ve gelecekte hangi bileşenlerin önemli olabileceğini anlamamıza yardımcı oluyorlar.

görüntü

İlk tasarım modeli AI sorgu yönlendiricisidir. Bir kullanıcı bir sorgu girer ve bu sorgu, girişi kategorilere ayıran bir sınıflandırıcı olan bir yönlendiriciye gönderilir.

Tanınmış bir sorgu, daha doğru, daha duyarlı ve çalıştırılması daha ucuz olan küçük dil modeline yönlendirilir.

Sorgu tanınmazsa büyük bir dil modeli bunu işler. LLM'lerin işletilmesi çok daha pahalıdır, ancak daha geniş bir sorgu yelpazesine başarılı bir şekilde yanıt verir.

Bu şekilde bir yapay zeka ürünü maliyet, performans ve kullanıcı deneyimini dengeleyebilir.

görüntü
İkinci tasarım deseni eğitim içindir. Modeller verilerle eğitilir (bunlar gerçek dünyaya ait ve sentetik olabilir veya başka bir makine tarafından yapılmış olabilir), ardından değerlendirme için gönderilir.

Değerlendirme bugün çok tartışılan bir konu çünkü model mükemmelliğine ilişkin altın standarda sahip değiliz. Bu modellerin değerlendirilmesindeki zorluk, girdilerin çok büyük farklılıklar gösterebilmesidir. İki kullanıcının aynı soruyu aynı şekilde sorması pek olası değildir.

Bu algoritmaların determinizm dışı ve kaotik doğasının bir sonucu olarak çıktılar da oldukça değişken olabilir.

Yapay zekayı test etmek ve değerlendirmek için çekişmeli modeller kullanılacaktır. Çelişkili modeller, modeli vurgulamak için milyarlarca test önerebilir. Hedef modelden farklı güçlere sahip olacak şekilde eğitilebilirler. Tıpkı harika takım arkadaşları ve rakiplerin performansımızı artırması gibi, rakip modeller de yapay zeka için bu rolü oynayacak.

görüntü

Yüksek Lisans'ların etrafındaki temel güvenliğin iki bileşeni vardır. Burada proxy olarak adlandırılan bir kullanıcı bileşeni ve modeli saran bir güvenlik duvarı.

Proxy, hem çıkışta hem de girişte bir kullanıcı sorgusunu yakalar. Proxy, kişisel olarak tanımlanabilir bilgileri (PII) ve fikri mülkiyeti (IP) ortadan kaldırır, sorguları günlüğe kaydeder ve maliyetleri optimize eder.

Güvenlik duvarı modeli ve kullandığı altyapıyı korur. İnsanların, temeldeki eğitim verilerini, temel işlevlerini ve kötü niyetli eylemlere yönelik düzenlemeyi ortaya çıkarmak için modelleri nasıl manipüle edebilecekleri konusunda asgari düzeyde bir anlayışa sahibiz. Ancak bu güçlü modellerin savunmasız olduğunu biliyoruz.

Yığın içinde başka güvenlik katmanları da bulunacaktır, ancak sorgu yolu açısından bunlar en önemlileridir.

görüntü

Yapay zeka geliştirici tasarım yolundaki mevcut tasarım modellerimizin sonuncusu.

Geliştiricinin makinesi, modelleri ve temeldeki modelleri eğitmek için kullanılan verilerin bozulmamasını sağlamak için uç nokta algılama ve yanıt veya EDR ile güvence altına alınmıştır.

Geliştiricinin kodu bir CICD sistemine gönderilir. CICD sistemi, imzaları (Sig Doğrulaması) kullanarak modeli ve verilerin doğruluğunu kontrol eder. Günümüzde çoğu yazılımın imzası doğrulanmaktadır. Ancak yapay zeka modelleri değil.

Ayrıca büyük dil modeli, beklendiği gibi performans gösterdiğinden emin olmak için bir test donanımına (bir dizi test) tabi tutulacaktır. Canlı trafikten gelen gerçek kullanıcı sorguları emniyet kemerini bilgilendirecektir.

Bu testler geçtikten sonra model üretime aktarılıyor.

Bunlar, büyük dil modellerinin nasıl oluşturulacağına, güvence altına alınacağına ve dağıtılacağına ilişkin mevcut dört zihinsel modelimizdir. Bunlar karanlık bir odada çizmeye çalıştığımız filin her bacağının çizimleri.

Diğer tasarım desenleri veya mevcut tasarımlardaki iyileştirmeler hakkında fikirleriniz varsa, lütfen bizimle iletişime geçin. Başkalarına yardımcı olmak için bunları geliştirmeyi çok isteriz.

spot_img

En Son İstihbarat

spot_img