LLM i wdrażanie generatywnej sztucznej inteligencji z NVIDIA: Associate Exam Prep

Wydajne wdrażanie dużych modeli językowych wymaga specjalistycznej akceleracji sprzętowej i optymalizacji oprogramowania. Ten kurs tekstowy przeprowadzi Cię przez podstawowe koncepcje obsługi generatywnych modeli AI przy użyciu standardowych technologii NVIDIA. Przejdziesz od zrozumienia podstawowych architektur modeli do konfigurowania i wdrażania wysokowydajnych potoków wnioskowania. Dzięki uporządkowanym wyjaśnieniom, analizom architektonicznym i przewodnikom konfiguracyjnym zdobędziesz praktyczną wiedzę potrzebną do optymalizacji modeli do produkcji i przygotowania się do egzaminów wdrożeniowych na poziomie Associate. Co się nauczysz: Zrozumienie podstawowej architektury dużych modeli językowych i potoków wdrażania generatywnej sztucznej inteligencji; Konfigurowanie Triton Inference Server do skalowalnego, wielomodelowego serwisowania; Optymalizacja wydajności modelu za pomocą TensorRT-LLM i nowoczesnych technik kwantyzacji; Wdrażanie przepływów pracy z pozyskiwaniem wzmocnionego generowania (RAG) do produkcji Monitoruj i rozwiązuj problemy z opóźnieniem modelu, przepustowością i wykorzystaniem sprzętu; Ćwicz z pojęciami dostosowanymi do egzaminu, aby zbudować zaufanie do certyfikacji na poziomie Associate. Kurs zaczyna się od podstawowej terminologii i podstaw przyspieszonego sprzętowo wnioskowania przed przejściem do praktycznych scenariuszy konfiguracji. Poznasz praktyczne strategie wdrażania, dostrajanie wydajności i wzorce optymalizacji za pomocą jasnych, pisemnych wyjaśnień i przykładów konfiguracji. Ten kurs jest przeznaczony dla początkujących inżynierów AI, administratorów systemów i programistów, którzy chcą wejść w dziedzinę operacji AI; nie jest wymagane wcześniejsze doświadczenie w zakresie wdrażania, chociaż pomocna jest podstawowa znajomość koncepcji AI. Zacznij czytać już dziś, aby opanować podstawy wdrażania wysokowydajnej generatywnej sztucznej inteligencji.