Geçen hafta, Alphabet'in sahip olduğu AI laboratuvarı DeepMind, Sparrow adlı yeni chatbot teklifini başlattı. 

Sohbet amaçlı ve bilgilendirici bir araç olarak tasarlanan Sparrow, DeepMind'in Chinchilla dil modeli kullanılarak eğitildi ve kullanıcıların sorularını yanıtlamak için hızla arama yapabilmesi için canlı bir Google aracıyla entegre edildi. Takviye öğrenimi de, Sparrow'un yeteneklerini geliştirmek için kullanıldı ve kullanıcı geri bildirimi aracın geliştirilmesine entegre edildi.  

Yeni sohbet robotu, potansiyel olarak zararlı içeriği aktarmadan bilgi için interneti tarayan ve bir düzeyde konuşma özerkliğini korurken, konuşma AI'ları oluşturmada devam eden sorunlara bir cevap olarak tasarlandı. Sparrow ekibinin yazdığı gibi blog yazısı, özerk diyalog oluşturmak, “esnek ve etkileşimli iletişim” içerdiğinden karmaşık bir iştir.

"Ancak," diye eklediler, "büyük dil modelleri tarafından desteklenen diyalog ajanları, yanlış veya icat edilmiş bilgileri ifade edebilir, ayrımcı bir dil kullanabilir veya güvenli olmayan davranışları teşvik edebilir." 

DeepMind, aracını geliştirmek için insan tepkilerini kullanarak, bot tarafından iletilen işe yaramaz veya zararlı bilgi miktarını azaltmayı umuyor. Bunu test etmek için ekip, insan katılımcılara bir soruya birden fazla olası yanıt verdi ve AI sistemini vermesi gereken yanıt türleri konusunda eğitmek için bunu kullanarak en alakalı veya yararlı yanıtı seçmelerini sağladı. 

Ekip, dış kaynaklardan da bilgi çeken bir sohbet robotu oluşturmanın doğruluğunu artırdığını ve Sparrow'un gerçek sorular için zamanın %78'inde kanıtları doğru bir şekilde alıntıladığını söylediğini söylüyor. 

Akıllı dil araçlarının potansiyel tehlikelerine ilişkin korkular, bu cihazlar daha akıllı hale getirildikçe ve açıklanabilir yapay zekaya olan talep artık pazarı yönlendirirken büyüyor. Gelişme aynı zamanda Google'ın sohbet robotunun şu anda işten atılmış bir mühendis tarafından duyarlı olduğu iddiasıyla ilgili tartışmaların ardından geldi. Farklı türde bir potansiyel tehlike oluştururken, etkisi daha güvenli AI konuşma modellerine olan talebi artırmaya devam ediyor.