Amazon Sage Maker klanten kunnen hun quotumlimieten bekijken en beheren via Servicequota's. Bovendien kunnen ze bijna realtime gebruiksstatistieken bekijken en creëren Amazon Cloud Watch metriek om SageMaker-quota te bekijken en programmatisch te doorzoeken.

SageMaker helpt u eenvoudig machine learning (ML)-modellen te bouwen, trainen en implementeren. Raadpleeg voor meer informatie Aan de slag met Amazon SageMaker. Service Quotas vereenvoudigt limietbeheer doordat u uw quota voor SageMaker vanaf een centrale locatie kunt bekijken en beheren.

Met Servicequota's kunt u het maximale aantal bronnen, acties of items in uw AWS-account of AWS-regio bekijken. U kunt ook Servicequota's gebruiken om een ​​verhoging aan te vragen voor aanpasbare quota's.

Met het toenemende gebruik van MLOps-praktijken, en dus de vraag naar resources die zijn aangewezen voor ML-modelexperimenten en hertraining, moeten meer klanten meerdere instances uitvoeren, vaak van hetzelfde instancetype tegelijkertijd.

Veel datawetenschapsteams werken vaak parallel en gebruiken verschillende instanties voor gelijktijdige verwerking, training en afstemming. Voorheen bereikten gebruikers soms een instelbare accountlimiet voor een bepaald instantietype en moesten ze handmatig een limietverhoging aanvragen bij AWS.

Om quotaverhogingen handmatig aan te vragen bij de Gebruikersinterface voor servicequota, kunt u het quotum uit de lijst kiezen en kiezen Quotaverhoging aanvragen. Voor meer informatie, zie: Verzoek om een ​​verhoging van het quotum.

In dit bericht laten we zien hoe u de nieuwe functies kunt gebruiken om automatisch limietverhogingen aan te vragen wanneer een hoog aantal instanties is bereikt.

Overzicht oplossingen

Het volgende diagram illustreert de oplossingsarchitectuur.

Deze architectuur omvat de volgende workflow:

1. Een CloudWatch-statistiek bewaakt het gebruik van de bron. Een CloudWatch-alarm wordt geactiveerd wanneer het resourcegebruik een bepaalde vooraf geconfigureerde drempel overschrijdt.
2. Er wordt een bericht gestuurd naar Amazon eenvoudige meldingsservice (Amazone SNS).
3. Het bericht wordt ontvangen door een AWS Lambda functie.
4. De Lambda-functie vraagt ​​om de quotaverhoging.

Naast het aanvragen van een quotumverhoging voor het specifieke account, kan de Lambda-functie ook de quotumverhoging toevoegen aan de organisatie sjabloon (tot 10 quota). Op deze manier heeft elk nieuw account dat wordt aangemaakt onder een bepaalde AWS-organisatie standaard de verhoogde quotaverzoeken.

Voorwaarden

Voer de volgende vereiste stappen uit:

1. Stel een AWS-account en maak een AWS Identiteits- en toegangsbeheer (IAM) gebruiker. Raadpleeg voor instructies Beveilig uw AWS-account.
2. Installeer de AWS SAM CLI.

Implementeer met behulp van het AWS Serverless Application Model

Om de applicatie te implementeren met behulp van de GitHub repo, voer de volgende opdracht uit in de terminal:

git clone https://github.com/aws-samples/sagemaker-quotas-alarm.git
cd sagemaker-quotas-alarm
sam build && sam deploy --stack-name usage --region us-east-1 --resolve-s3 --capabilities CAPABILITY_IAM --parameter-overrides ResourceUsageThreshold=50 SecurityGroupIds=<SECURITY-GROUP-IDS> SubnetIds=<SUBNETS>

Nadat de oplossing is geïmplementeerd, zou u een nieuw alarm op de CloudWatch-console moeten hebben. Dit alarm bewaakt het gebruik van SageMaker-notebookinstanties voor de ml.t3.medium-instantie.

Als uw resourcegebruik meer dan 50% bereikt, wordt het alarm geactiveerd en vraagt ​​de Lambda-functie om een ​​verhoging.

Als het account dat u heeft deel uitmaakt van een AWS-organisatie en u beschikt over de sjabloon voor quotaverzoeken ingeschakeld, zou u die verhogingen ook op de sjabloon moeten zien, als de sjabloon beschikbare slots heeft. Op deze manier hebben nieuwe accounts van die organisatie ook de verhogingen geconfigureerd bij het aanmaken.

Implementeer met behulp van de CloudWatch-console

Voer de volgende stappen uit om de applicatie te implementeren met behulp van de CloudWatch-console:

1. Kies op de CloudWatch-console Alle alarmen in het navigatievenster.
2. Kies Alarm maken.
   
3. Kies Selecteer metrisch.
   
4. Kies Gebruik.
   
5. Selecteer de statistiek die u wilt controleren.
   
6. Selecteer de toestand waarin u wilt dat het alarm afgaat.

Voor meer mogelijke configuraties bij het configureren van het alarm, zie Creëer een CloudWatch-alarm op basis van een statische drempel.

7. Configureer het SNS-onderwerp om op de hoogte te worden gesteld van het alarm.

U kunt ook Amazon SNS gebruiken om een ​​Lambda-functie te activeren wanneer het alarm wordt geactiveerd. Zien AWS Lambda gebruiken met Amazon SNS voor meer informatie.

8. Voor Alarmnaam:, voer een naam in.
9. Kies Volgende.
   
10. Kies Alarm maken.
    

Opruimen

Zorg ervoor dat u alle gemaakte stapels verwijdert om de bronnen op te ruimen die als onderdeel van dit bericht zijn gemaakt. Voer hiervoor de volgende opdracht uit:

sam delete --stack-name usage --region us-east-1

Conclusie

In dit bericht hebben we laten zien hoe u de nieuwe integratie van SageMaker met Service Quotas kunt gebruiken om de verzoeken om quotaverhogingen voor SageMaker-bronnen te automatiseren. Op deze manier kunnen datawetenschapsteams effectief parallel werken en problemen met betrekking tot de onbeschikbaarheid van instanties verminderen.

U kunt meer leren over Amazon SageMaker-quota door naar de documentatie. U kunt ook meer te weten komen over servicequota's hier.

Over de auteurs

Bruno Klein is een Machine Learning Engineer in het AWS ProServe-team. Hij geniet vooral van het creëren van automatiseringen en het verbeteren van de levenscyclus van modellen in productie. In zijn vrije tijd brengt hij graag tijd buiten door en wandelt hij graag.

Para Mehra is senior productmanager bij AWS. Hij richt zich op het helpen bouwen van Amazon SageMaker Training en Processing. In zijn vrije tijd brengt Paras graag tijd door met zijn gezin en houdt hij van wielrennen in de Bay Area. Je vindt hem op LinkedIn.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• Platoblockchain. Web3 Metaverse Intelligentie. Kennis versterkt. Toegang hier.
• Bron: https://aws.amazon.com/blogs/machine-learning/best-practices-for-viewing-and-querying-amazon-sagemaker-service-quota-usage/