Ottimizzazione dell'Inferenza AWS SageMaker per Dispositivi Cloud ed Edge

Distribuire modelli di machine learning in modo efficiente richiede un equilibrio tra velocità, costi e vincoli hardware. Questo corso basato esclusivamente su testo ti guida attraverso le strategie essenziali per ottimizzare i tuoi modelli sia per endpoint cloud che per ambienti edge con risorse limitate. Passerari dal semplice addestramento di modelli alla distribuzione di pipeline di inferenza altamente ottimizzate ed economiche. Attraverso spiegazioni chiare e guide scritte, imparerai ad analizzare i colli di bottiglia delle prestazioni e a compilare modelli per diversi target hardware. Cosa imparerai: 1. Comprendere i concetti fondamentali dell'inferenza di machine learning, latenza e throughput. 2. Configurare SageMaker Inference Recommender per selezionare le dimensioni ideali delle istanze cloud per i tuoi carichi di lavoro. 3. Compilare e ottimizzare modelli per dispositivi edge utilizzando SageMaker Neo. 4. Applicare tecniche di quantizzazione e potatura dei modelli per ridurre l'impronta di memoria. 5. Distribuire endpoint di inferenza containerizzati utilizzando le moderne best practice MLOps. 6. Esercitarsi nella risoluzione dei problemi di prestazioni attraverso guide scritte passo-passo e analisi del codice. Il corso inizia con la terminologia chiave e i concetti fondamentali della compilazione dei modelli prima di passare a guide pratiche di configurazione per scenari cloud ed edge. È progettato per ingegneri di machine learning principianti, sviluppatori e appassionati di cloud, senza prerequisiti di distribuzione avanzati richiesti. Inizia oggi stesso a ottimizzare le tue pipeline di distribuzione di machine learning.