Amazon SageMaker Stüdyosu tüm makine öğrenimi (ML) geliştirme adımlarını gerçekleştirebileceğiniz birleşik, web tabanlı bir görsel arayüz sağlayarak veri bilimi ekiplerini 10 kata kadar daha üretken hale getirir. Studio, modelleri oluşturmak, eğitmek ve dağıtmak için gereken her adıma tam erişim, kontrol ve görünürlük sağlar. Studio not defterleri, önceden bilgi işlem örnekleri ve dosya depolaması ayarlamanız gerekmediği için hızla başlatabileceğiniz ortak çalışma not defterleridir. Amazon Adaçayı Yapıcı altyapı yönetiminin ağır yüklerini soyutlayan yetenekler sunan ve farklı özelliklere sahip büyük ölçekli makine öğrenimi etkinlikleri için arzu ettiğiniz çevikliği ve ölçeklenebilirliği sağlayan ve kullandıkça öde özelliği sunan tam olarak yönetilen bir hizmettir. fiyatlandırma modeli.

Bu gönderide, aşağıdakilerin nasıl yapıldığını gösteriyoruz:

• Hem manuel hem de otomatik olarak yüklenebilen otomatik kapanma Jupyter uzantısını kullanarak Studio içinde maliyet oluşturan atıl kaynakları tespit edin ve durdurun
• Otomatik kapanma uzantısını yüklememiş olan Studio etki alanlarındaki kullanıcı profillerini izlemek için etkinlik bildirimlerini etkinleştirin
• Yönetmek için yüklü otomatik kapanma uzantısını kullanın Amazon SageMaker Veri Düzenleyicisi beklenenden daha yüksek maliyetlerle sonuçlanabilecek örnekleri otomatik olarak kapatarak maliyetler

Stüdyo bileşenleri

Studio'da, çalışan not defterleri, işlem altyapısı boyutlandırmasını ayırmak için JupyterServer UI'den ayrı olarak kapsayıcıya alınır. Studio not defteri, aşağıdakiler tarafından tanımlanan bir ortamda çalışır:

• Örnek türü – Fiyatlandırma oranını belirleyen temel donanım yapılandırması. Bu, işlemcilerin sayısını ve türünü (vCPU ve GPU) ve bellek miktarını ve türünü içerir.
• Adaçayı Yapıcı resmi – Dizüstü bilgisayar çekirdeğini barındıran uyumlu bir kapsayıcı görüntüsü (SageMaker tarafından sağlanan veya özel). Görüntü, yerleşik Python 3 (Veri Bilimi) çekirdeği gibi sunduğu çekirdek özelliklerini tanımlar.
• SageMaker çekirdek ağ geçidi uygulaması – Belirli bir örnek türünde kapsayıcı görüntüsünün çalışan bir örneği. Birden çok uygulama, çalışan bir örneği paylaşabilir.
• Çekirdek oturumunu çalıştırma – Not defterinde bulunan kodu inceleyen ve çalıştıran işlem. Aynı spesifikasyona ve örnek tipine sahip birden çok açık not defteri (çekirdek) aynı uygulamada açılır.

Studio kullanıcı arayüzü, ayrı bir tür uygulaması olarak çalışır JupyterServer yerine KernelGatewayBu, açık bir not defterini Studio kullanıcı arayüzünden farklı çekirdeklere veya örnek türlerine geçirmenize olanak tanır. Bir dizüstü bilgisayar çekirdeğinin aşağıdakilerle ilgili olarak nasıl çalıştığı hakkında daha fazla bilgi için KernelGateway uygulama, kullanıcı ve Studio etki alanı, bkz. Amazon SageMaker Studio Defterlerini Kullanma.

Stüdyo faturalandırması

Studio'yu kullanmak için ek ücret alınmaz. Studio not defterlerini, etkileşimli kabukları, konsolları ve terminalleri çalıştırmak için katlanılan maliyetler, Studio örnek türü kullanımına bağlıdır. Fiyatlandırma örnekleriyle birlikte faturalandırma hakkında bilgi için, bkz. Amazon SageMaker Fiyatlandırması.

Studio içinde bir Studio not defteri, etkileşimli kabuk veya görüntü terminali çalıştırdığınızda, bir çekirdek ve bir örnek türü seçmelisiniz. Bu kaynaklar, kullanıcı arayüzünden seçilen türe göre bir Studio örneği kullanılarak başlatılır. Bu türden bir örnek daha önce başlatılmışsa ve kullanılabilir durumdaysa, kaynak o örnekte çalıştırılır. CPU tabanlı görüntüler için varsayılan örnek türü ml.t3.medium. GPU tabanlı görüntüler için varsayılan örnek türü ml.g4dn.xlarge. Oluşan maliyetler, bulut sunucusu türüne bağlıdır ve her bulut sunucusu için ayrı faturalandırılırsınız. Ölçüm, bir örnek oluşturulduğunda başlar ve örnekteki tüm uygulamalar kapatıldığında veya örnek kapatıldığında sona erer.

Ücretlendirmeyi durdurmak için örneği kapatın. Bulut sunucusunda çalışan not defterini kapatırsanız ancak bulut sunucusunu kapatmazsanız yine de ücretlendirilirsiniz. Aynı örnek türünde birden çok not defteri açtığınızda, not defterleri farklı çekirdekler kullanıyor olsalar bile aynı örnekte çalışır. Yalnızca bir örneğin çalıştığı süre için faturalandırılırsınız. Yapabilirsin örnek türünü değiştir açtıktan ve dizüstü bilgisayarlar, terminaller, çekirdekler, uygulamalar ve örnekler dahil olmak üzere tek tek kaynakları kapattıktan sonra dizüstü bilgisayarın içinden. Ayrıca bu kategorilerden birindeki tüm kaynakları aynı anda kapatabilirsiniz. Bir not defterini kapattığınızda, not defterindeki kaydedilmemiş tüm bilgiler kaybolur. Not defteri silinmez.

Açık bir not defterini Studio'dan kapatabilirsiniz fileto menüsünden veya Terminal ve Çekirdekleri Çalıştırma bölme. Terminalleri ve Çekirdekleri Çalıştırma pano dört bölümden oluşmaktadır. Her bölüm, o türdeki tüm kaynakları listeler. Her kaynağı ayrı ayrı kapatabilir veya bir bölümdeki tüm kaynakları aynı anda kapatabilirsiniz. Bir bölümdeki tüm kaynakları kapatmayı seçtiğinizde aşağıdakiler gerçekleşir:

• Çalışan Örnekler/Çalışan Uygulamalar – Tüm örnekler, uygulamalar, not defterleri, çekirdek oturumları, Data Wrangler oturumları, konsollar veya kabuklar ve görüntü terminalleri kapatılır. Sistem terminalleri kapatılmaz. Tüm masrafların tahakkukunu durdurmak için bu seçeneği seçin.
• Kernel Oturumları – Tüm çekirdekler, dizüstü bilgisayarlar ve konsollar veya kabuklar kapatılır.
• Terminal Oturumları – Tüm görüntü terminalleri ve sistem terminalleri kapatılır.

Kaynakları kapatmak için sol kenar çubuğunda Terminalleri ve Çekirdekleri Çalıştırma simge. Belirli bir kaynağı kapatmak için, Power kaynakla aynı satırdaki simge.

Çalışan örnekler için bir onay iletişim kutusu kapatılacak tüm kaynakları listeler. Çalışan uygulamalar için bir onay iletişim kutusu görüntülenir. Seç Tümünü Kapat Devam etmek için. Çekirdek oturumları veya terminal oturumları için onay iletişim kutusu görüntülenmez. Bir bölümdeki tüm kaynakları kapatmak için X bölüm etiketinin sağındaki simge. Bir onay iletişim kutusu görüntülenir. Seç Tümünü Kapat Devam etmek için.

JupyterLab uzantısıyla boştaki çekirdekleri otomatik olarak kapatın

Kullanıcılara artık kullanmadıkları kaynakları kapatmalarına güvenmek yerine, atıl kaynakları otomatik olarak algılamak ve kapatmak için Studio otomatik kapanma uzantısını kullanabilirsiniz, böylece maliyet tasarrufu sağlayabilirsiniz. JupyterLab uzantıları dizüstü bilgisayar ortamının temel işlevlerini genişleten basit eklentilerdir. Uzantı, belirtilen bir süre boyunca boşta kaldıklarında Studio'da çalışan çekirdekleri, uygulamaları ve örnekleri otomatik olarak kapatır. Kullanıcı arabirimi aracılığıyla boşta kalma süresi eşiğini (dakika olarak) görsel olarak yapılandırabilirsiniz. Çekirdekler yeterince uzun süre boşta kaldıktan sonra, uzantı onları otomatik olarak kapatır. Uzantının nasıl indirileceği ve yükleneceği ile ilgili talimatlar için bkz. GitHub repo.

kullanıyorsanız, JupyterServer'ın başlatılması sırasında uzantıyı otomatik olarak yükleyebilirsiniz. AWS Kimlik ve Erişim Yönetimi (IAM) kimlik doğrulamasını kullanıcılarınız için yapın veya tek oturum açma (SSO) kimlik doğrulaması kullanıyorsanız bunu manuel olarak yapın.

Uzantı yüklendikten sonra Studio arayüzünün sol kenar çubuğunda bir simge olarak gösterilir. Bu uzantının sağladığı kullanıcı arabirimini kullanarak bir boşta kalma süresi sınırı yapılandırabilirsiniz. Kurulum talimatları GitHub deposunda sağlanır.

Boşta kalma süresi sınırı parametresi, etkin not defteri oturumu olmayan boşta kalan kaynakların kapatılacağı bir süre ayarlamaktır. Varsayılan olarak, boşta kalma süresi sınırı şu şekilde ayarlanmıştır: 120 dak.

Sınırlamalar ve sorun giderme

Otomatik kapanma uzantısı aşağıdaki sınırlamalara sahiptir:

• Uzantı, açık terminallerdeki etkinliği izlemez. Örneğin, çekirdekleriniz yapılandırdığınız süre boyunca boştaysa ancak terminaller çalışmıyorsa, uzantı terminalleri ve çekirdekleri kapatır.
• Uzantıyı yeniden yüklemeniz ve silerseniz boşta kalma süresi sınırını yapılandırmanız gerekir. JupyterServer SageMaker Studio konsolunda ve yeniden oluşturun. Otomatik yükleme yaklaşımını kullanıyorsanız bu bir sınırlama değildir.

Uzantı günlüklerini kontrol edebilirsiniz Amazon Bulut İzleme altında /aws/sagemaker/studio günlük grubu ve üzerinden geçerek <Studio_domain>/<user_profile>/JupyterServer/default günlük akışı.

Studio otomatik kapanma uzantısı denetleyicisi

Aşağıdaki şema, bir Studio altında bulunan birden çok kullanıcı profilinde çalışan boş kaynakları izlemek için e-posta bildirimlerinin nasıl etkinleştirileceğini gösterir.

Otomatik kapanma uzantısını Studio alan adınıza nasıl yüklediğinizden bağımsız olarak yöneticiler, uzantı olmadan çalışan kullanıcıları izlemek ve uyarmak isteyebilir. Uyumluluğu izlemeye ve maliyetleri optimize etmeye yardımcı olmak için GitHub repo otomatik kapanma uzantısı denetleyicisini ayarlamak ve olay bildirimlerini etkinleştirmek için.

Mimari diyagramına göre, bir CloudWatch Olayları kuralı periyodik bir programa göre tetiklenir (örneğin, saatlik veya gecelik). Kuralı oluşturmak için sabit bir zamanlama seçiyoruz ve görevin ne sıklıkta çalışacağını belirliyoruz. Hedefimiz için bir AWS Lambda Bir Studio etki alanı altındaki tüm kullanıcı profillerinin otomatik kapanma için uzantıyı yükleyip yüklemediğini periyodik olarak kontrol eden işlev. Bu işlev, bu gereksinimi karşılamayan kullanıcı profilleri adlarını toplar.

Kullanıcı profilleri daha sonra bir Amazon Basit Bildirim Servisi Studio yöneticilerinin ve diğer paydaşların (e-posta veya Slack gibi) bildirim almak için abone olabileceği (Amazon SNS) konusu. Aşağıdaki ekran görüntüsü, kullanıcı profillerinin bulunduğu bir e-posta uyarı bildirimini göstermektedir. user-w ve user-y SageMaker etki alanı içinde d-bo6udbiz4vmi otomatik kapanma uzantısını yüklemediniz.

Otomatik kapanma Data Wrangler kaynakları

Otomatik kapanma uzantısının nasıl çalıştığını daha fazla göstermek için, ona Studio içindeki Data Wrangler perspektifinden bakalım. Data Wrangler, SageMaker'ın veri bilimcileri ve mühendislerinin görsel bir arayüz kullanarak ML uygulamaları için veri hazırlamasını hızlandıran yeni bir özelliğidir.

Data Wrangler'ı Studio'dan başlattığınızda, otomatik olarak bir ml.m5.4xlarge örneği ve bu örneği kullanarak çekirdeği başlatır. Data Wrangler'ı kullanmadığınızda, ek ücret ödememek için çalıştığı bulut sunucusunu kapatmak önemlidir.

Data Wrangler, veri akışınızı her 60 saniyede bir otomatik olarak kaydeder. İş kaybını önlemek için Data Wrangler'ı kapatmadan önce veri akışınızı manuel olarak kaydedin. Bunu yapmak için fileto ve sonra seç Veri Wrangler Akışını Kaydet.

Studio'da Data Wrangler örneğini kapatmak için Çalışan Örnekler ve Çekirdekler simge. Altında Çalışan Uygulamalar, locate the sagemaker-data-wrangler-1.0 app. Seç Power Bu uygulamanın yanındaki simge.

Bu adımları manuel olarak uygulamak zahmetli olabilir ve unutması kolaydır. Otomatik kapanma uzantısıyla, ekstra SageMaker maliyetlerinden kaçınmak için Data Wrangler'ı çalıştıran atıl kaynakların dikkatli bir şekilde kapatılmasını sağlayabilirsiniz.

Sonuç

Bu gönderide, Studio'da çalışan boş kaynakları kapatmak için otomatik kapanma Jupyter uzantısını kullanarak SageMaker maliyetlerini nasıl azaltacağımızı gösterdik. Ayrıca, uzantıyı yüklememiş olan Studio'daki kullanıcı profillerini izlemek için bir otomatik kapanma uzantısı denetleyicisinin nasıl kurulacağını ve etkinlik bildirimlerinin nasıl etkinleştirileceğini de gösterdik. Son olarak, uzantının Data Wrangler'a güç sağlayan atıl kaynakları kapatarak Data Wrangler maliyetlerini nasıl azaltabileceğini gösterdik.

Kaynak kullanımını ve maliyetlerini optimize etme hakkında daha fazla bilgi için bkz. Amazon SageMaker'da kaynakları doğru boyutlandırma ve gereksiz maliyetleri önleme.

Herhangi bir yorumunuz veya sorunuz varsa, lütfen bunları yorumlar bölümüne bırakın.

Yazarlar Hakkında

Arunprasath Şankar AWS'li bir Yapay Zeka ve Makine Öğrenimi (AI / ML) Uzman Çözüm Mimarıdır ve küresel müşterilerin yapay zeka çözümlerini bulutta etkili ve verimli bir şekilde ölçeklendirmelerine yardımcı olur. Arun boş zamanlarında bilim kurgu filmleri izlemekten ve klasik müzik dinlemekten hoşlanıyor.

 andras garzo AWS AI Platforms ekibinde bir ML Çözümleri Mimarıdır ve müşterilerin SageMaker'a geçiş yapmasına, en iyi uygulamaları benimsemesine ve maliyetten tasarruf etmesine yardımcı olur.

Pavan Kumar Sunder Amazon Web Servislerinde Kıdemli Ar-Ge Mühendisidir. Teknik rehberlik sağlar ve mümkün olanın sanatını AWS'de göstererek müşterilerin yenilik yapma becerilerini hızlandırmalarına yardımcı olur. Müşterilerimiz için AI/ML, IoT ve Robotics etrafında çok sayıda prototip oluşturdu.

Alex Thewsey Singapur merkezli AWS'de Makine Öğrenimi Uzmanı Çözüm Mimarıdır. Alex, Güneydoğu Asya'daki müşterilerin AI ve ML ile çözümler tasarlamasına ve uygulamasına yardımcı oluyor. Ayrıca karting yapmaktan, açık kaynaklı projelerle çalışmaktan ve yeni makine öğrenimi araştırmalarına ayak uydurmaya çalışmaktan hoşlanıyor.

Coinsmart. Europa İçindeki En İyi Bitcoin-Börse
Kaynak: https://aws.amazon.com/blogs/machine-learning/save-costs-by-automatically-shutting-down-idle-resources-within-amazon-sagemaker-studio/