Bu, PGA TOUR'dan Scott Gutterman ile birlikte yazılan bir misafir yazısıdır.

Üretken yapay zeka (üretken yapay zeka), akıllı sistemler oluşturmak için yeni olanaklar sağladı. Üretken yapay zeka tabanlı büyük dil modellerindeki (LLM'ler) son gelişmeler, bunların bilgi erişimini çevreleyen çeşitli uygulamalarda kullanılmasına olanak sağlamıştır. Veri kaynakları göz önüne alındığında, Yüksek Lisans'lar, yıllar önce muhtemelen daha kötü performansa sahip olabilecek bir Soru-Cevap sohbet robotu oluşturmamıza olanak tanıyan araçları sağladı. PGA TOUR'un, verilerini etkileşimli bir biçimde etkileşimli bir biçimde hayranlar için erişilebilir hale getirebilecek gelecekteki bir hayran etkileşim platformu için bir prototip oluşturmasına olanak tanıyacak bir Alma-Artırılmış Nesil (RAG) çözümü formüle ettik.

Soruları yanıtlamak için yapılandırılmış verileri kullanmak, kullanıcının sorgusuyla alakalı verileri etkili bir şekilde çıkarmanın bir yolunu gerektirir. Bir kullanıcının doğal dil sorgusunun LLM kullanılarak bir SQL ifadesine dönüştürüldüğü bir metinden SQL'e yaklaşımını formüle ettik. SQL tarafından çalıştırılır Amazon Atina İlgili verileri döndürmek için. Bu veriler yine bir LLM'ye sağlanır ve ondan veri verildiğinde kullanıcının sorgusunu yanıtlaması istenir.

Metin verilerinin kullanılması, bir kullanıcı sorgusunu yanıtlamak için bir LLM'de arama yapmak ve ilgili bağlamı sağlamak için kullanılabilecek bir dizin gerektirir. Hızlı bilgi alımını sağlamak için şunu kullanırız: Amazon Kendrası bu belgeler için dizin olarak. Kullanıcılar soru sorduğunda sanal asistanımız ilgili bilgileri bulmak için Amazon Kendra dizininde hızlı bir şekilde arama yapar. Amazon Kendra, kullanıcı sorgularını anlamak ve en alakalı belgeleri bulmak için doğal dil işlemeyi (NLP) kullanır. İlgili bilgiler daha sonra nihai yanıtın oluşturulması için LLM'ye sunulur. Nihai çözümümüz, bu metinden SQL'e ve metin-RAG yaklaşımlarının birleşimidir.

Bu yazıda bunun nasıl olduğunu vurguluyoruz. AWS Üretken Yapay Zeka İnovasyon Merkezi ile işbirliği yaptı AWS Profesyonel Hizmetleri ve PGA TOUR kullanarak bir prototip sanal asistan geliştirmek Amazon Ana Kayası Bu, taraftarların herhangi bir etkinlik, oyuncu, delik veya şut seviyesi ayrıntıları hakkında kesintisiz etkileşimli bir şekilde bilgi almasına olanak tanıyabilir. Amazon Bedrock, AI21 Labs, Anthropic, Cohere, Meta, Stability AI ve Amazon gibi önde gelen AI şirketlerinin yüksek performanslı temel modelleri (FM'ler) seçeneklerini tek bir API aracılığıyla geniş bir yelpazede sunan, tümüyle yönetilen bir hizmettir. güvenlik, gizlilik ve sorumlu yapay zeka ile üretken yapay zeka uygulamaları oluşturmak için ihtiyacınız olan yetenekler.

Geliştirme: Verilerin hazırlanması

Veriye dayalı tüm projelerde olduğu gibi performans da yalnızca veriler kadar iyi olacaktır. Yüksek Lisans'ın ilgili verileri etkili bir şekilde sorgulayabilmesini ve alabilmesini sağlamak için verileri işledik.

Tablo şeklindeki rekabet verileri için, en fazla sayıda kullanıcı sorgusuyla ilgili bir veri alt kümesine odaklandık ve sütunları, Yüksek Lisans'ların anlamasını kolaylaştıracak şekilde sezgisel olarak etiketledik. Ayrıca LLM'nin aksi durumda zorluk çekebileceği kavramları anlamasına yardımcı olmak için bazı yardımcı sütunlar da oluşturduk. Örneğin, eğer bir golfçü par değerinden daha az bir atış yaparsa (mesela par 3'te 4 atışta veya par 4'te 5 atışta deliğe girerse), buna genel olarak denir. minik kuş. Bir kullanıcı “X oyuncusu geçen yıl kaç birdie yaptı?” diye sorarsa, sadece skorun ve parın tabloda yer alması yeterli değildir. Sonuç olarak, öcü, birdie ve kartal gibi yaygın golf terimlerini gösteren sütunlar ekledik. Ayrıca, Yarışma verilerini ayrı bir video koleksiyonuna, bir sütunda birleştirerek bağladık. video_idBu, uygulamamızın Yarışma verilerindeki belirli bir çekimle ilişkili videoyu çekmesine olanak tanır. Ayrıca metin verilerinin tablo verilerine birleştirilmesini de etkinleştirdik; örneğin her oyuncunun biyografilerini bir metin sütunu olarak eklemek. Aşağıdaki şekillerde, metinden SQL'e ardışık düzen için bir sorgunun nasıl işlendiğine ilişkin adım adım prosedür gösterilmektedir. Sayılar, bir sorguyu yanıtlamak için gereken adım serisini gösterir.

Aşağıdaki şekilde uçtan uca boru hattımızı gösteriyoruz. Kullanırız AWS Lambda çeşitli veri kaynaklarıyla, LLM'lerle etkileşimden ve kullanıcı sorgusuna dayalı hata düzeltmesinden sorumlu orkestrasyon fonksiyonumuz olarak. 1-8 arasındaki adımlar, devam eden şekilde gösterilenlere benzer. Daha sonra tartışacağımız yapılandırılmamış verilerde küçük değişiklikler var.

Metin verileri, konu tutarlılığını korurken uzun belgeleri LLM tarafından sindirilebilecek parçalara ayıran (veya bölümlere ayıran) benzersiz işleme adımları gerektirir. Çeşitli yaklaşımlar denedik ve Medya Kılavuzlarının formatına uygun, sayfa düzeyinde bir parçalama şeması üzerinde karar kıldık. Yerleştirme spesifikasyonu gerektirmeden belgelerin indekslenmesiyle ilgilenen ve geri alma için kolay bir API sağlayan yönetilen bir hizmet olan Amazon Kendra'yı kullandık. Aşağıdaki şekil bu mimariyi göstermektedir.

Geliştirdiğimiz birleşik, ölçeklenebilir işlem hattı, PGA TOUR'un, bazıları 1800'lere kadar uzanan tüm veri geçmişine göre ölçeklendirilmesine olanak tanır. Zengin gerçek zamanlı deneyimler oluşturmak için kurs bağlamında hayata geçirilebilecek gelecekteki uygulamalara olanak tanır.

Geliştirme: Yüksek Lisans'ların değerlendirilmesi ve üretken yapay zeka uygulamalarının geliştirilmesi

Üretim hattımıza ve kullanım senaryomuza en uygun modeli seçmek için Amazon Bedrock'ta bulunan birinci ve üçüncü taraf LLM'leri dikkatli bir şekilde test edip değerlendirdik. Amazon Bedrock'ta Anthropic'in Claude v2'sini ve Claude Instant'ı seçtik. Nihai yapılandırılmış ve yapılandırılmamış veri hattımız için Anthropic'in Amazon Bedrock'taki Claude 2'sinin nihai veri hattımız için daha iyi genel sonuçlar ürettiğini gözlemledik.

İstemde bulunmak, LLM'lerin metni istenildiği gibi çıktı olarak vermesini sağlamanın kritik bir yönüdür. Görevlerin her biri için farklı istemleri denemek için oldukça zaman harcadık. Örneğin, metinden SQL'e işlem hattı için artan özgüllük ve kademeli olarak basitleştirilmiş tablo şemaları ile birkaç geri dönüş istemimiz vardı. Bir SQL sorgusu geçersizse ve Athena'dan bir hatayla sonuçlandıysa, hatayı ve yanlış SQL'i LLM'ye iletecek ve ondan düzeltmesini isteyecek bir hata düzeltme istemi geliştirdik. Metinden SQL'e işlem hattındaki son istem, LLM'den Markdown veya CSV formatında sağlanabilen Athena çıktısını almasını ve kullanıcıya bir yanıt vermesini ister. Yapılandırılmamış metin için, kullanıcı sorusunu yanıtlamak üzere Amazon Kendra'dan alınan bağlamı kullanmaya yönelik genel istemler geliştirdik. İstemde, yalnızca Amazon Kendra'dan alınan bilgilerin kullanılmasına ve LLM ön eğitiminden elde edilen verilere güvenilmemesine ilişkin talimatlar yer alıyordu.

Gecikme, üretken yapay zeka uygulamalarında sıklıkla karşılaşılan bir sorundur ve burada da durum aynıdır. Bu, özellikle ilk SQL nesil LLM çağrısını ve ardından yanıt oluşturma LLM çağrısını gerektiren metinden SQL'e yönelik bir endişe kaynağıdır. Anthropic'in Claude V2'si gibi büyük bir LLM kullanıyorsak, bu, yalnızca bir LLM çağrısının gecikmesini etkili bir şekilde iki katına çıkarır. Çalışma süresini ve doğruluğunu değerlendirmek için büyük ve küçük LLM'lerin çeşitli konfigürasyonlarını denedik. Aşağıdaki tabloda, Anthropic'in Claude V2 ve Amazon Bedrock'ta Claude Instant ile oluşturulan yanıtların yanı sıra gecikmeyi gösteren bir soru için bir örnek gösterilmektedir.

Prototip

Uygulamamızda Amazon Athena, Amazon Kendra ve Amazon Bedrock arasındaki istem seçimlerini ve iletişimi düzenlemek için bir Lambda işlevi kullandık. Sanal asistan, React ve Cloudscape Tasarım Sistemi ile oluşturulmuş, kullanıcılarla etkileşim kurmak için metin ve videolar kullanan bir konuşma arayüzüne sahiptir.

Sanal asistanımız PGA TOUR etkinlikleri, oyuncular, istatistikler, tarih ve daha fazlası hakkında çok çeşitli sorular sorabilir. Örneğin, Tony Finau'nun Shriners Children's Open'daki (PGA TOUR'un özel etkinliklerinden biri) en uzun sürüşleri sorulduğunda asistan, atış seviyesi verilerini almak için yapılandırılmış verileri sorgulayabilir. Metinden SQL'e boru hattını kullanarak bu kaydı elde ettiği mesafeyi, yuvarlak sayısını ve deliği yarda cinsinden tam olarak çıkarabilir. Asistan daha sonra nihai bir yanıt oluşturmak için bu sayısal verileri yorumlar. Aşağıdaki tabloda bazı örnek yanıtlar yer almaktadır.

Aşağıdaki açıklayıcı video, sanal asistanla etkileşime geçmenin birkaç örneğini vurgulamaktadır.

İlk testlerde, PGA TOUR sanal asistanımız hayran deneyimlerini iyileştirme konusunda büyük umut vaat ediyor. Asistan, metinden SQL'e, anlamsal arama ve doğal dil oluşturma gibi yapay zeka teknolojilerini harmanlayarak bilgilendirici, ilgi çekici yanıtlar sunar. Hayranlar, daha önce bulunması zor olan verilere ve anlatılara zahmetsizce erişme yetkisine sahip.

Gelecek ne gösterir?

Geliştirmeye devam ettikçe sanal asistanımızın çözebileceği soru yelpazesini genişleteceğiz. Bu, AWS ve PGA TOUR arasındaki işbirliği yoluyla kapsamlı testler gerektirecektir. Zamanla asistanı web, mobil ve ses arayüzlerinden erişilebilen kişiselleştirilmiş, çok kanallı bir deneyime dönüştürmeyi hedefliyoruz.

Bulut tabanlı üretken bir yapay zeka asistanının kurulması, PGA TOUR'un geniş veri kaynağını birden fazla iç ve dış paydaşa sunmasına olanak tanır. Spora yönelik üretken yapay zeka ortamı geliştikçe yeni içeriklerin oluşturulmasına olanak sağlıyor. Örneğin, hayranların bir etkinliği izlerken veya yapım ekipleri önceki turnuvalardan güncel bir etkinlikle eşleşen çekimleri ararken görmek istedikleri içeriği ortaya çıkarmak için yapay zeka ve makine öğrenimini (ML) kullanabilirsiniz. Örneğin, Max Homa, PGA TOUR Şampiyonası'ndaki son atışını pinin 20 metre uzağındaki bir noktadan yapmaya hazırlanıyorsa, PGA TOUR, onun kliplerini AI tarafından oluşturulan yorumlarla birlikte tanımlamak ve sunmak için AI ve ML'yi kullanabilir. Daha önce benzer bir atışı beş kez denemiştim. Bu tür erişim ve veriler, yapım ekibinin yayına anında değer katmasına veya bir hayranın görmek istediği veri türünü özelleştirmesine olanak tanır.

“PGA TOUR, fan deneyimini geliştirmek için en son teknolojiyi kullanma konusunda sektör lideridir. Yapay zeka, hayranlar için daha ilgi çekici ve etkileşimli bir ortam yaratmamızı sağlayan teknoloji yığınımızın ön sıralarında yer alıyor. Bu, dönüşümsel bir uçtan uca müşteri deneyimi için AWS Üretken Yapay Zeka İnovasyon Merkezi ile işbirliği içinde yürüttüğümüz üretken yapay zeka yolculuğumuzun başlangıcıdır. PGA TOUR hayranlarının bir etkinlik, oyuncu, istatistikler veya diğer içeriklerle ilgili ilgi çekici bilgileri etkileşimli bir şekilde bulmaları için etkileşimli bir deneyim oluşturmak amacıyla Amazon Bedrock'tan ve özel verilerimizden yararlanmak için çalışıyoruz."
– Scott Gutterman, PGA TOUR Yayın ve Dijital Özelliklerden Sorumlu Kıdemli Başkan Yardımcısı.

Sonuç

Bu yazıda tartıştığımız proje, yeni nesil sanal asistanlar oluşturmak için yapılandırılmış ve yapılandırılmamış veri kaynaklarının yapay zeka kullanılarak nasıl birleştirilebileceğini örnekliyor. Spor organizasyonları için bu teknoloji, daha kapsamlı taraftar etkileşimi sağlar ve dahili verimliliğin kilidini açar. Ortaya çıkardığımız veri zekası, oyuncular, antrenörler, yetkililer, ortaklar ve medya gibi PGA TOUR paydaşlarının bilinçli kararları daha hızlı almasına yardımcı olur. Sporun ötesinde metodolojimiz her sektörde tekrarlanabilir. Aynı ilkeler, müşterilerle, çalışanlarla, öğrencilerle, hastalarla ve diğer son kullanıcılarla etkileşime giren bina asistanları için de geçerlidir. Dikkatli tasarım ve testlerle neredeyse her kuruluş, yapılandırılmış veritabanlarını, belgelerini, resimlerini, videolarını ve diğer içeriklerini bağlamsallaştıran bir yapay zeka sisteminden yararlanabilir.

Benzer işlevleri uygulamakla ilgileniyorsanız, kullanmayı düşünün Amazon Bedrock Temsilcileri ve Amazon Bedrock için Bilgi Tabanları alternatif, tamamen AWS tarafından yönetilen bir çözüm olarak. Bu yaklaşım, özelleştirilebilir aracılar aracılığıyla akıllı otomasyon ve veri arama yeteneklerinin sağlanmasını daha da araştırabilir. Bu aracılar potansiyel olarak kullanıcı uygulama etkileşimlerini daha doğal, verimli ve etkili olacak şekilde dönüştürebilir.

yazarlar hakkında

Scott Gutterman PGA TOUR'un Dijital Operasyonlardan Sorumlu Kıdemli Başkan Yardımcısıdır. TOUR'un genel dijital operasyonlarından, ürün geliştirmesinden sorumludur ve GenAI stratejisini yönlendirmektedir.

Ahsan Ali Amazon Generative AI İnovasyon Merkezi'nde Uygulamalı Bilim Adamıdır ve burada farklı alanlardan müşterilerle birlikte çalışarak onların acil ve pahalı sorunlarını Generative AI kullanarak çözmektedir.

Tahin Seyyid Amazon Üretken Yapay Zeka İnovasyon Merkezi'nde Uygulamalı Bilim Adamıdır ve burada üretken yapay zeka çözümleriyle iş sonuçlarının gerçekleştirilmesine yardımcı olmak için müşterilerle birlikte çalışır. İş dışında yeni yemekler denemekten, seyahat etmekten ve tekvando öğretmekten hoşlanıyor.

Grace Lang AWS Profesyonel Hizmetler'de Associate Data & ML mühendisidir. Zorlu zorlukların üstesinden gelme tutkusuyla hareket eden Grace, makine öğrenimi destekli çözümler geliştirerek müşterilerin hedeflerine ulaşmalarına yardımcı oluyor.

Jae lee ProServe'in İzleme ve Değerlendirme sektöründe Kıdemli Katılım Yöneticisidir. Karmaşık etkileşimleri yönetir ve gerçekleştirir, güçlü problem çözme becerileri sergiler, paydaş beklentilerini yönetir ve yönetici düzeyinde sunumlar düzenler. Spor, üretken yapay zeka ve müşteri deneyimine odaklanan projeler üzerinde çalışmaktan hoşlanıyor.

Karn Çahar AWS'de ortak dağıtım ekibinde Güvenlik Danışmanıdır. Müşterilerin güvenlik sorunlarını çözmek ve buluttaki güvenlik duruşlarını iyileştirmek için onlarla çalışmaktan keyif alan bir teknoloji tutkunu.

Mike Amjadi AWS ProServe'e sahip, müşterilerin verilerden elde ettiği değeri en üst düzeye çıkarmasına odaklanan bir Veri ve ML Mühendisidir. İyi tasarlanmış ilkeleri takip ederek veri hatlarını tasarlama, oluşturma ve optimize etme konusunda uzmanlaşmıştır. Mike, sorunları çözmek için teknolojiyi kullanma konusunda tutkulu ve müşterilerimize en iyi sonuçları sunmaya kendini adamıştır.

Vrushali Sawant Proserve'de Ön Uç Mühendisidir. Responsive web siteleri oluşturma konusunda oldukça yeteneklidir. Müşterilerle çalışmayı, onların gereksinimlerini anlamayı ve onlara ölçeklenebilir, benimsenmesi kolay UI/UX çözümleri sunmayı seviyor.

Neelam Patel AWS'de Müşteri Çözümleri Yöneticisi olarak önemli Üretken Yapay Zeka ve bulut modernizasyon girişimlerine liderlik etmektedir. Neelam, bulut dönüşümündeki zorlukları çözmek için kilit yöneticiler ve teknoloji sahipleriyle birlikte çalışıyor ve müşterilerin bulutu benimsemenin faydalarını en üst düzeye çıkarmasına yardımcı oluyor. İngiltere'deki Warwick Business School'dan MBA derecesine ve Hindistan'da Bilgisayar Mühendisliği alanında lisans derecesine sahiptir.

Dr. Murali Baktha AWS'de Küresel Golf Çözüm Mimarı olup, Üretken Yapay Zeka, veri analitiği ve en son bulut teknolojilerini içeren önemli girişimlere öncülük etmektedir. Murali, müşterinin ticari zorluklarını anlamak için kilit yöneticiler ve teknoloji sahipleriyle birlikte çalışır ve bu zorlukların üstesinden gelmek için çözümler tasarlar. UConn'dan Finans alanında MBA derecesine ve Iowa Eyalet Üniversitesi'nden doktora derecesine sahiptir.

Mehdi Nur Generative Ai İnovasyon Merkezi'nde Uygulamalı Bilim Yöneticisidir. Teknoloji ve inovasyon arasında köprü kurma tutkusuyla AWS müşterilerinin Üretken Yapay Zeka potansiyelini açığa çıkarmalarına yardımcı oluyor; gelişmiş yapay zeka teknolojilerinin ölçeklenebilir, ölçülebilir ve etkili kullanımlarına odaklanarak ve yolu kolaylaştırarak potansiyel zorlukları hızlı deneme ve inovasyon fırsatlarına dönüştürmelerine yardımcı oluyor. üretime.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/the-journey-of-pga-tours-generative-ai-virtual-assistant-from-concept-to-development-to-prototype/