COVİD-19 salgını sağlıkta eşitsizlikle ilgili rahatsız edici verileri ortaya çıkardı. 2020'de Ulusal Sağlık Enstitüsü (NIH) bir rapor yayınladı rapor Nüfusun daha küçük bir yüzdesini oluşturmalarına rağmen Siyah Amerikalıların, Beyaz Amerikalılara göre daha yüksek oranlarda Kovid-19'dan öldüğünü belirtiyor. NIH'ye göre bu eşitsizlikler, bakıma sınırlı erişimden, kamu politikasındaki yetersizliklerden ve kardiyovasküler hastalık, diyabet ve akciğer hastalıkları dahil olmak üzere orantısız yandaş hastalık yükünden kaynaklanıyordu.

The NIH ayrıca 47.5 milyon ile 51.6 milyon arasında Amerikalının doktora gitmeyi göze alamayacağını belirtti. Tarihsel olarak yetersiz hizmet alan toplulukların, tıbbi tavsiye istemek için üretken bir dönüştürücüyü, özellikle de bilmeden bir arama motoruna yerleştirilmiş olanı kullanma olasılığı yüksektir. Bireylerin yerleşik bir yapay zeka aracısı ve sorgusu olan popüler bir arama motoruna gitmesi düşünülemez bir şey değil, "Babamın kendisine reçete edilen kalp ilacını artık almaya gücü yetmiyor. Bunun yerine işe yarayabilecek tezgahta ne mevcut?başlıklı bir kılavuz yayınladı

Long Island Üniversitesi'ndeki araştırmacılara göre, ChatGPT %75 hatalı CNN'e göre chatbot bazen ciddi yan etkilere neden olabilecek iki ilacın kombinasyonunun onaylanması gibi tehlikeli tavsiyelerde bile bulunuyordu.

Üretken dönüştürücülerin anlamı anlamadığı ve hatalı çıktılara sahip olacağı göz önüne alındığında, profesyonel yardım yerine bu teknolojiyi kullanan, tarihsel olarak yetersiz hizmet alan topluluklar, diğerlerinden çok daha büyük oranlarda zarar görebilir.

Daha adil ve güvenilir sonuçlar için yapay zekaya proaktif olarak nasıl yatırım yapabiliriz?

Günümüzün yeni üretken yapay zeka ürünleriyle, güven, güvenlik ve düzenleme konuları devlet sağlık görevlileri için en önemli endişe kaynağı olmaya devam ediyor ve biyofarmasötik şirketlerini, sağlık sistemlerini, tıbbi cihaz üreticilerini ve diğer kuruluşları temsil eden üst düzey liderler. Üretken yapay zekanın kullanılması, uygun kullanım durumları ve güvenlik ve güven etrafındaki korkuluklar hakkındaki konuşmalar da dahil olmak üzere yapay zeka yönetişimini gerektirir (bkz. Yapay Zeka Hakları Bildirgesi için Yapay Zeka ABD Planı, AB Yapay Zeka Kanunu ve Beyaz Saray Yapay Zeka Yönetici Kararı).

Yapay zekayı sorumlu bir şekilde düzenlemek, bütünsel bir yaklaşım gerektiren sosyoteknik bir zorluktur. Yapay zeka modelinizin doğru, denetlenebilir, açıklanabilir, adil ve insanların veri gizliliğini koruyucu olduğundan emin olmak da dahil olmak üzere insanların güvenini kazanmak için gereken birçok unsur vardır. Kurumsal inovasyon da yardımcı olacak bir rol oynayabilir.

Kurumsal yenilik: Tarihsel bir not

Kurumsal değişimden önce genellikle felaket niteliğinde bir olay gelir. Başlıca görevi gıda, ilaç ve kozmetiklerin kamu kullanımı için güvenli olmasını sağlamak olan ABD Gıda ve İlaç İdaresi'nin gelişimini düşünün. Bu düzenleyici kurumun kökleri 1848'e kadar uzanabilirken, ilaçların güvenlik açısından izlenmesi 1937'ye kadar doğrudan bir sorun değildi. İksir Sülfanilamid felaketi.

Saygın bir Tennessee ilaç firması tarafından yaratılan Elixir Sulfanilamide, streptokok boğazını önemli ölçüde iyileştirdiği öne sürülen sıvı bir ilaçtı. O zamanlar yaygın olduğu gibi, ilaç piyasaya çıkmadan önce toksisite açısından test edilmedi. İksir, antifrizde kullanılan zehirli bir kimyasal olan dietilen glikol içerdiğinden, bunun ölümcül bir hata olduğu ortaya çıktı. Zehirli iksiri almaktan 100'den fazla kişi öldü ve bu da FDA'nın Gıda, İlaç ve Kozmetik Yasası'nın ilaçların güvenli kullanım için yeterli talimatlarla etiketlenmesini gerektirmesine yol açtı. FDA tarihindeki bu önemli dönüm noktası, doktorların ve hastalarının ilaçların gücüne, kalitesine ve güvenliğine tamamen güvenebilmelerini sağladı; bu, bugün bizim de doğal karşıladığımız bir güvencedir.

Benzer şekilde, yapay zekadan adil sonuçlar elde etmek için kurumsal inovasyon gereklidir.

Üretken yapay zekanın hizmet verdiği toplulukları desteklediğinden emin olmak için 5 temel adım

Üretken yapay zekanın sağlık ve yaşam bilimleri (HCLS) alanında kullanımı, FDA'nın 2015 yılında ihtiyaç duyduğu kurumsal yeniliğin aynısını gerektirir. İksir Sülfanilamid felaketi. Aşağıdaki öneriler, tüm yapay zeka çözümlerinin savunmasız nüfuslar için daha eşitlikçi ve adil sonuçlar elde etmesini sağlamaya yardımcı olabilir:

1. Güven ve şeffaflık ilkelerini işlevsel hale getirin. Adillik, açıklanabilirlik ve şeffaflık önemli kelimelerdir ancak yapay zeka modellerinizin işlevsel ve işlevsel olmayan gereksinimleri açısından bunlar ne anlama gelir? Dünyaya yapay zeka modellerinizin adil olduğunu söyleyebilirsiniz ancak yapay zeka modelinizi geçmişte en az hizmet alan nüfuslara hizmet verecek şekilde eğittiğinizden ve denetlediğinizden emin olmalısınız. Hizmet verdiği toplulukların güvenini kazanmak için yapay zekanın insandan daha iyi performans gösteren kanıtlanmış, tekrarlanabilir, açıklanmış ve güvenilir çıktılara sahip olması gerekir.
2. Kuruluşunuzda yapay zeka kullanımından elde edilecek adil sonuçlardan sorumlu olacak bireyleri atayın. Daha sonra onlara bu zor işi gerçekleştirmeleri için güç ve kaynaklar verin. Bu alan uzmanlarının işi yapmak için tam olarak finanse edilen bir yetkiye sahip olduklarını doğrulayın, çünkü sorumluluk olmadan güven olmaz. Birinin yönetişim için gerekli işleri yapabilecek güce, zihniyete ve kaynaklara sahip olması gerekir.
3. Etki alanı uzmanlarını, modelleri eğitmek için kullanılan güvenilir veri kaynaklarını seçme ve sürdürme konusunda güçlendirin. Bu güvenilir veri kaynakları, doğrudan güvenilir bir kaynaktan (ontoloji veya anlamsal arama gibi) gelen yanıtlar için dil varyasyonları sağlamak üzere büyük dil modelleri (LLM'ler) kullanan ürünler için içerik temeli sunabilir. 
4. Çıktıların denetlenebilir ve açıklanabilir olmasını zorunlu kılın. Örneğin, bazı kuruluşlar hastalara veya doktorlara tıbbi tavsiye sunan üretken yapay zekaya yatırım yapıyor. Kurumsal değişimi teşvik etmek ve tüm popülasyonları korumak için bu HCLS kuruluşları, hesap verebilirliği ve kalite kontrolünü sağlamak amacıyla denetimlere tabi tutulmalıdır. Bu yüksek riskli modellere ilişkin çıktılar, test-tekrar test güvenilirliği sunmalıdır. Çıktılar %100 doğru olmalı ve kanıtlarla birlikte ayrıntılı veri kaynaklarına sahip olmalıdır.
5. Şeffaflık gerektirir. HCLS kuruluşları, üretken yapay zekayı hasta bakımına entegre ederken (örneğin, bir ABD hastanesine giriş yaparken otomatik hasta alımı veya bir hastanın klinik deney sırasında ne olacağını anlamasına yardımcı olmak şeklinde), hastaları üretken bir yapay zeka modelinin gerekli olduğu konusunda bilgilendirmelidirler. kullanımda. Kuruluşlar aynı zamanda hastalara bu modelin güvenilirliğini ve doğruluğunu, bu model için eğitim verilerinin kaynağını ve bu modelin denetim sonuçlarını ayrıntılarıyla anlatan yorumlanabilir meta veriler sunmalıdır. Meta veriler ayrıca bir kullanıcının bu modeli kullanmaktan nasıl vazgeçebileceğini (ve aynı hizmeti başka bir yerde alabileceğini) göstermelidir. Kuruluşlar sentetik olarak oluşturulmuş metinleri sağlık hizmeti ortamında kullanıp yeniden kullandıklarından, insanların hangi verilerin sentetik olarak üretildiği ve hangilerinin üretilmediği konusunda bilgilendirilmesi gerekir.

Operasyonlarımızı yapay zeka ile dönüştürme yaklaşımımızı kurumsal olarak yenilemek için FDA'dan öğrenebileceğimize ve öğrenmemiz gerektiğine inanıyoruz. İnsanların güvenini kazanma yolculuğu, yapay zekanın hizmet verdiği toplulukları daha iyi yansıtmasını sağlayacak sistemik değişiklikler yapmakla başlar.   

Sorumlu yapay zeka yönetimini işletmenizin dokusuna nasıl yerleştireceğinizi öğrenin