Wdrażanie głębokiego uczenia się: kwantyzacja, serwowanie i sztuczna inteligencja brzegowa

Stworzenie modelu głębokiego uczenia się to tylko połowa sukcesu. Prawdziwe wyzwanie polega na efektywnym wdrożeniu go w środowiskach produkcyjnych i na urządzeniach o ograniczonych zasobach. Ten kurs tekstowy przeprowadzi Cię przez podstawowe techniki optymalizacji modelu, serwowania i wdrażania krawędzi. Przejdziesz od szkolenia modeli w notebookach do wdrażania ich jako szybkich, lekkich i skalowalnych gotowych do produkcji interfejsów API i aplikacji brzegowych. Czego się nauczysz: - Zrozum podstawowe koncepcje wnioskowania o głębokim uczeniu się i potoków wdrażania. - Zastosuj techniki kwantyzacji modelu, aby zmniejszyć rozmiar modelu i opóźnienie bez utraty dokładności. - Skonfiguruj wysokowydajne ramy serwisowe, aby uruchomić wnioskowanie modelu w skali. - Wdrażaj zoptymalizowane modele na urządzeniach brzegowych z ograniczonymi zasobami obliczeniowymi. - Wdrażaj nowoczesne silniki uruchomieniowe, takie jak ONNX, aby zapewnić kompatybilność międzyplatformową. - Ćwicz pisanie czystego, gotowego do produkcji kodu dla modelu obsługującego interfejsy API. Kurs zaczyna się od kluczowej terminologii i podstawowych definicji, zanim przejdziemy do praktycznych technik optymalizacji. Będziesz czytać uporządkowane wyjaśnienia, przeglądać konfiguracje kodu w świecie rzeczywistym i wykonywać ćwiczenia koncepcyjne mające na celu utrwalenie zrozumienia nowoczesnych przepływów pracy wdrażania. Ten kurs jest przeznaczony dla początkujących inżynierów ML, programistów i naukowców zajmujących się danymi, którzy chcą nauczyć się podstaw wdrażania. Nie jest wymagane wcześniejsze doświadczenie w zakresie wdrażania, chociaż pomocne jest podstawowe zrozumienie Pythona i sieci neuronowych. Zacznij czytać już dziś, aby wypełnić lukę między teorią głębokiego uczenia się a wdrożeniem produkcyjnym.