Inside the Tech, bizim yayınımıza eşlik eden bir blog serisidir. Teknoloji Konuşmaları Podcast'i. Podcast'in 20. bölümü olan Roblox Avatarlarının Evrimi'nde Roblox CEO'su David Baszucki, Kıdemli Mühendislik Direktörü Kiran Bhat, Kıdemli Ürün Direktörü Mahesh Ramasubramanian ve Baş Ürün Müdürü Effie Goenawan ile konuştu. sürükleyici iletişimin geleceği avatarlar ve bunu güçlendirmek için çözdüğümüz teknik zorluklar aracılığıyla. Inside the Tech'in bu sayısında, bu teknik zorluklardan biri olan kapsamlı sesli iletişimde güvenlik ve ekibin çalışmalarının herkes için güvenli ve sivil bir dijital ortam oluşturmaya nasıl yardımcı olduğu hakkında daha fazla bilgi edinmek için Kıdemli Mühendislik Müdürü Andrew Portner ile konuştuk. bizim platformumuz.

Ekibinizin karşılaştığı en büyük teknik zorluklar neler?

Kullanıcılarımız için güvenli ve olumlu bir deneyim sürdürmeye öncelik veriyoruz. Güvenlik ve nezaket bunlar bizim için her zaman ilk sırada yer alır, ancak bunu gerçek zamanlı olarak ele almak büyük bir teknik zorluk olabilir. Ne zaman bir sorun olsa, onu inceleyip gerçek zamanlı olarak harekete geçebilmek istiyoruz, ancak ölçeğimiz göz önüne alındığında bu oldukça zor. Bu ölçeği etkili bir şekilde yönetebilmek için otomatik güvenlik sistemlerinden yararlanmamız gerekiyor. 

Odaklandığımız bir diğer teknik zorluk, denetlemeye yönelik güvenlik önlemlerimizin doğruluğudur. Politika ihlallerini ele almak ve gerçek zamanlı olarak doğru geri bildirim sağlamak için iki denetleme yaklaşımı vardır: reaktif ve proaktif denetleme. Reaktif denetleme için, platformdaki kişilerden gelen raporlara yanıt vererek çalışan, farklı türdeki politika ihlallerini doğru bir şekilde tespit etmek amacıyla makine öğrenimi (ML) modelleri geliştiriyoruz. Proaktif olarak potansiyelin gerçek zamanlı tespiti üzerinde çalışıyoruz politikalarımızı ihlal eden içerik, kullanıcıları davranışları konusunda eğitmek. Konuşulan sözcüğü anlamak ve ses kalitesini artırmak karmaşık bir süreçtir. Halihazırda ilerleme görüyoruz ancak nihai hedefimiz, politikayı ihlal eden davranışları gerçek zamanlı olarak tespit edebilecek son derece hassas bir modele sahip olmak. 

Bu teknik zorlukların üstesinden gelmek için kullandığımız yenilikçi yaklaşımlardan ve çözümlerden bazıları nelerdir?

Ses verilerini analiz edebilen ve politika ihlallerinin türüne (örneğin bu zorbalık, küfür vb. ne kadar muhtemel) dayalı olarak bir güven düzeyi sağlayan uçtan uca bir makine öğrenimi modeli geliştirdik. Bu model, belirli raporları otomatik olarak kapatma yeteneğimizi önemli ölçüde geliştirdi. Modelimiz kendine güvendiğinde ve insanlardan daha iyi performans gösterdiğinden emin olduğunda harekete geçiyoruz. Lansmanından sadece birkaç ay sonra, bu modelle neredeyse tüm İngilizce ses istismarı raporlarını denetlemeyi başardık. Bu modelleri kendi bünyemizde geliştirdik ve bu, birçok açık kaynak teknolojisi ile onun arkasındaki teknolojiyi yaratmaya yönelik kendi çalışmamız arasındaki işbirliğinin bir kanıtıdır. 

Gerçek zamanlı olarak neyin uygun olduğunu belirlemek oldukça karmaşık görünüyor. Bu nasıl çalışıyor?

Sistemi bağlamsal olarak bilinçli hale getirmek için çok fazla düşünce var. Ayrıca eyleme geçmeden önce zaman içindeki kalıplara da bakarız, böylece eylemlerimizin haklı olduğundan emin olabiliriz. Politikalarımız kişinin yaşına, kamusal alanda mı yoksa özel sohbette mi olduğuna ve diğer birçok faktöre bağlı olarak incelikli bir şekilde belirlenir. Gerçek zamanlı olarak nezaketi teşvik etmenin yeni yollarını araştırıyoruz ve makine öğrenimi bunun merkezinde yer alıyor. Kullanıcılara politikalarımızı hatırlatmak için yakın zamanda otomatik anlık bildirimleri (veya "dürtmeler") kullanıma sunduk. Bir kişinin niyetini daha iyi anlamak ve alaycılık veya şaka gibi şeyleri ayırt etmek için ses tonu gibi diğer faktörleri de inceliyoruz. Son olarak, bazı kişilerin birden fazla dil konuşması ve hatta cümlenin ortasında dil değiştirmesi nedeniyle çok dilli bir model de oluşturuyoruz. Bunlardan herhangi birinin mümkün olabilmesi için doğru bir modele sahip olmamız gerekir. 

Şu anda taciz, ayrımcılık ve küfür gibi en belirgin istismar türlerini ele almaya odaklanıyoruz. Bunlar kötüye kullanım raporlarının çoğunluğunu oluşturur. Amacımız bu alanlarda önemli bir etki yaratmak ve sivil çevrimiçi sohbetin teşvik edilmesi ve sürdürülmesi konusunda sektör normlarını belirlemektir. Herkes için güvenli ve sivil bir deneyimi etkili bir şekilde geliştirmemize olanak tanıdığı için ML'yi gerçek zamanlı olarak kullanma potansiyeli konusunda heyecanlıyız. 

Roblox'ta çözdüğümüz zorluklar nasıl benzersiz? İlk önce neyi çözebilecek durumdayız?

nen Uzamsal Sesle Sohbet Edin teknoloji, gerçek dünya iletişimini taklit ederek daha sürükleyici bir deneyim yaratıyor. Mesela birinin solunda duruyorsam beni sol kulaklarıyla duyacaklar. Gerçek dünyada iletişimin nasıl çalıştığına bir benzetme yaratıyoruz ve bu, ilk önce çözebileceğimiz bir zorluk. 

Ben de bir oyuncu olarak çevrimiçi oyunlarda çok sayıda tacize ve zorbalığa tanık oldum. Bu, kullanıcının anonimliği ve sonuçların eksikliği nedeniyle sıklıkla kontrol edilmeyen bir sorundur. Ancak bu konuda uğraştığımız teknik zorluklar, diğer platformların birkaç alanda karşılaştığı durumlara özgüdür. Bazı oyun platformlarında etkileşimler takım arkadaşlarıyla sınırlıdır. Roblox, gerçek hayatı daha yakından taklit eden bir sosyal ortamda takılmak için çeşitli yollar sunar. ML ve gerçek zamanlı sinyal işlemedeki ilerlemeler sayesinde, kötü niyetli davranışları etkili bir şekilde tespit edip giderebiliyoruz; bu, yalnızca daha gerçekçi bir ortam olmakla kalmayıp, aynı zamanda herkesin başkalarıyla etkileşimde ve bağlantı kurmakta kendini güvende hissettiği bir ortam olduğumuz anlamına da geliyor. Teknolojimiz, kapsamlı platformumuz ve kullanıcıları politikalarımız konusunda eğitme kararlılığımızın birleşimi, bizi bu zorluklarla doğrudan başa çıkabilecek bir konuma getiriyor.

Bu teknik çalışmayı yaparken öğrendiğiniz bazı önemli şeyler nelerdir?

Önemli bir şey öğrendiğimi hissediyorum. Ben makine öğrenimi mühendisi değilim. Çoğunlukla oyunlarda ön uçta çalıştım, bu yüzden bu modellerin nasıl çalıştığı konusunda daha derine inebilmek çok büyük bir şeydi. Umudum, nezaketi teşvik etmek için attığımız adımların, çevrimiçi toplulukta eksik olan bir empati düzeyine dönüşmesidir.  

Son öğrenilenlerden biri de her şeyin girdiğiniz eğitim verilerine bağlı olduğudur. Verilerin doğru olması için insanların, politikayı ihlal eden belirli davranışları kategorize etmek için kullanılan etiketler üzerinde anlaşması gerekir. Herkesin üzerinde hemfikir olabileceği kaliteli veriler üzerinde eğitim almak gerçekten önemlidir. Çözülmesi gerçekten zor bir problem. ML'nin her şeyin çok ilerisinde olduğu alanları ve ardından hala erken aşamalarda olduğu diğer alanları görmeye başlıyorsunuz. ML'nin hala büyümekte olduğu pek çok alan var, bu nedenle mevcut sınırlarının farkında olmak çok önemli. 

Ekibiniz en çok hangi Roblox değerine uyuyor?

Topluma saygı duymak bu süreç boyunca yol gösterici değerimizdir. Öncelikle nezaketi geliştirmeye ve platformumuzdaki politika ihlallerini azaltmaya odaklanmamız gerekiyor. Bunun genel kullanıcı deneyimi üzerinde önemli bir etkisi vardır. İkinci olarak, bu yeni özellikleri nasıl sunacağımızı dikkatlice düşünmeliyiz. Modeldeki yanlış pozitiflere (örneğin, bir şeyin yanlış şekilde kötüye kullanım olarak işaretlenmesi) karşı dikkatli olmalı ve kullanıcıları hatalı şekilde cezalandırmaktan kaçınmalıyız. Modellerimizin performansını ve kullanıcı katılımı üzerindeki etkisini izlemek çok önemlidir. 

Roblox ve ekibinizin nereye gittiği konusunda sizi en çok heyecanlandıran şey nedir?

Kamuoyunun sesli iletişimini iyileştirme konusunda önemli ilerleme kaydettik, ancak hâlâ yapılacak çok şey var. Özel iletişim, keşfedilmesi heyecan verici bir alandır. Özel iletişimi geliştirmek, kullanıcıların yakın arkadaşlarına kendilerini ifade etmelerine olanak sağlamak, deneyimler arasında veya bir deneyim sırasında arkadaşlarıyla etkileşimde bulunurken sesli arama yapmak için büyük bir fırsat olduğunu düşünüyorum. Kullanıcıların kendi kendilerini organize etmelerini, topluluklara katılmalarını, içerik paylaşmalarını ve fikir paylaşmalarını sağlayacak daha iyi araçlarla bu toplulukları geliştirme fırsatının da bulunduğunu düşünüyorum.

Büyümeye devam ederken, sohbet teknolojimizi bu genişleyen toplulukları destekleyecek şekilde nasıl ölçeklendirebiliriz? Yapabileceğimiz birçok şeyin sadece yüzeyini çiziyoruz ve daha önce yapılmamış bir şekilde sektör genelinde çevrimiçi iletişim ve işbirliği nezaketini geliştirme şansının olduğunu düşünüyorum. Doğru teknoloji ve ML yetenekleriyle sivil çevrimiçi iletişimin geleceğini şekillendirecek benzersiz bir konumdayız.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://blog.roblox.com/2024/01/inside-the-tech-solving-for-safety-in-immersive-voice-communication/