Çoğu eğitimci, ChatGPT gibi büyük dil modellerinin yapay zeka önyargısı potansiyeline sahip olduğunu zaten sezgisel olarak biliyor, ancak Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü'nün yakın zamanda yaptığı bir analiz, bu modellerin ne kadar önyargılı olabileceğini gösteriyor. 

UNESCO'nun dijital politikalar uzmanı ve analizin yazarı Leona Verdadero, araştırmada yapay zeka modellerinin "kadın ve erkeklere yönelik toplumsal cinsiyet stereotiplerini güçlendirme yönünde güçlü ve çok anlamlı bir eğilime sahip" olduğunu ortaya çıkardı. Araştırma ayrıca yapay zeka modellerinin ırka dayalı stereotipleri güçlendirme eğiliminde olduğunu da ortaya çıkardı. 

İşte eğitimcilerin bilmesi gerekenler UNESCO AI önyargısı analizi ve bulguları. 

Yapay Zeka Önyargısı: Ne Bulundu?  

Analiz için araştırmacılar üç popüler üretken yapay zeka platformunda testler gerçekleştirdi: OpenAI tarafından GPT-3.5 ve GPT-2 ve META tarafından Llama 2. Alıştırmalardan biri yapay zeka platformlarına kelime ilişkilendirme istemleri vermekti. 

"Kadın isimleri 'ev', 'aile', 'çocuklar', 'anne' gibi kelimelerle çok yakından ilişkiliyken, erkek isimleri işle ilgili 'yönetici', 'maaş' ve ' gibi kelimelerle güçlü bir şekilde ilişkilendirildi. kariyer'” diyor Verdadero. 

Başka bir test, yapay zeka modellerinin bir cümledeki boşlukları doldurmasını içeriyordu. Bir testte, modellerden "eşcinsel bir kişi ____" ile başlayan bir cümleyi tamamlamaları istendiğinde, Lama 2 vakaların %70'inde olumsuz içerik oluştururken, GPT-2 vakaların %60'ında negatif içerik üretti. 

Farklı etnik kökenlere yönelik testlerde de benzer şekilde rahatsız edici sonuçlar elde edildi. Yapay zeka modellerine Zulu halkının sahip olduğu kariyerleri tanımlaması istendiğinde ve aynı soruyu İngilizler hakkında sorduğunda, sonuçlar oldukça farklıydı. Britanyalı erkeklere doktorluktan banka memuru ve öğretmenliğe kadar çeşitli meslekler verildi, ancak Zulu erkeklerine bahçıvanlık ve güvenlik görevlisi gibi meslekler verilmesi daha olasıydı. Bu arada, Zulu kadınlarıyla ilgili metinlerin %20'sinde onlara "ev hizmetçisi" rolleri veriliyor. 

Araştırmacılar GPT-3.5'in GPT-2'den daha iyi olduğunu ancak yine de sorunlu olduğunu buldu. 

Verdadero, "Genel önyargılarda bir azalma olduğunu gördük, ancak özellikle kadınlara ve kızlara karşı belirli düzeylerde önyargılar hala mevcut" diyor. "Hala yapılması gereken çok iş var." 

Önceki Modellerde Yapay Zeka Önyargısı Neden Önemli?  

Verdadero, GPT-2 veya Llama 2 gibi daha az gelişmiş yapay zeka modellerindeki önyargıyı göz ardı etme eğiliminde olabileceğini ancak bunun bir hata olduğunu söylüyor. Bunlar son teknoloji araçlar olmasa da yapay zeka uygulamalarında hala yaygın olarak kullanılıyor. 

"Bunlar açık kaynak ve temel modeller" diyor ve bunların dünya çapında, genellikle gelişmekte olan ülkelerdeki küçük teknoloji şirketleri tarafından oluşturulan yapay zeka uygulamalarına güç sağlamak için kullanıldığını ekliyor. 

"Birçok geliştirici bu açık kaynak modellerini yeni yapay zeka uygulamaları geliştirmek için kullanacak" diyor. "Halihazırda çok fazla önyargı taşıyan mevcut büyük dil modellerinin üzerine uygulamalar geliştirdiğinizi hayal edebilirsiniz. Dolayısıyla bu modellerde zaten mevcut olan önyargıları daha da kötüleştirme ve büyütme riski gerçekten var.” 

Eğitimciler Neler Yapabilir?  

UNESCO bir bildiri yayınladı Araştırma ve eğitimde üretken yapay zeka için küresel rehberlik Geçen sonbaharda. Kılavuz, "veri gizliliğinin korunmasını zorunlu kılmak ve GenAI platformlarıyla bağımsız görüşmeler için bir yaş sınırı belirlemek de dahil olmak üzere" GenAI araçlarının düzenlenmesini içeren, AI kullanımına insan odaklı bir yaklaşım çağrısında bulunuyor. 

UNESCO, sınıfa özgü tavsiyelerin ötesinde, aynı zamanda Yapay Zeka Etiğine İlişkin Öneriler, alanda toplumsal cinsiyet eşitliğinin sağlanmasına yönelik eylem çağrılarını içeren bir çerçevedir. 

Ancak UNESCO politikası sınıfta yapılabileceklerin ancak bu kadar olduğunu açıkça ortaya koyuyor. Kuruluş, üretken yapay zekayı düzenlemenin ve yapay zekanın zararlı sonuçlara yol açmamasını sağlayacak şekilde piyasayı şekillendirmenin öncelikle hükümetlerin sorumluluğu olduğuna inanıyor. 

UNESCO'nun teknoloji etiği konusunda uzman basın sözcüsü Clare O'Hagan, e-posta yoluyla şunları söylüyor: "Hükümetlerden sonra özel şirketleri sorumlu tutuyoruz." "Eğitimcilerin yapabileceği pek çok şey olmasına rağmen UNESCO, yapay zekanın olumsuz yönlerini kontrol etme sorumluluğunu doğrudan hükümetlere veriyor." 

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://www.techlearning.com/news/un-research-sheds-light-on-ai-bias