LLM und Bereitstellung von generativer KI mit NVIDIA: Vorbereitung auf das Associate-Examen

Die effiziente Bereitstellung großer Sprachmodelle erfordert spezielle Hardwarebeschleunigung und Softwareoptimierung. Dieser textbasierte Kurs führt Sie durch die grundlegenden Konzepte der Bereitstellung generativer KI-Modelle mit NVIDIA-Technologien nach Industriestandard. Sie werden vom Verständnis grundlegender Modellarchitekturen zum Konfigurieren und Bereitstellen von Hochleistungs-Inferenz-Pipelines übergehen. Durch strukturierte Erläuterungen, Architektur-Breakdowns und Konfigurations-Walkthroughs erwerben Sie das praktische Wissen, das Sie benötigen, um Modelle für die Produktion zu optimieren und sich selbstbewusst auf die Bereitstellungsprüfungen auf Associate-Ebene vorzubereiten. Was Sie lernen: Verstehen Sie die Kernarchitektur großer Sprachmodelle und generativer KI-Bereitstellungspipelines; Konfigurieren Sie Triton Inference Server für skalierbare, Multi-Modell-Serving; Optimieren Sie die Modellleistung mit TensorRT-LLM und modernen Quantisierungstechniken; Bereitstellen Sie Retrieval-Augmented Generation (RAG) Workflows für die Produktion Überwachen und beheben Sie Probleme mit der Modelllatenz, dem Durchsatz und der Hardwareauslastung. Üben Sie mit auf die Prüfung abgestimmten Konzepten, um Vertrauen für die Zertifizierung auf Associate-Ebene aufzubauen. Der Kurs beginnt mit der wesentlichen Terminologie und den Grundlagen der hardwarebeschleunigte Inferenz, bevor Sie in praktische Konfigurationsszenarien einsteigen. Sie lernen praktische Bereitstellungsstrategien, Performance-Tuning und Optimierungsmuster anhand klarer, schriftlicher Erklärungen und Konfigurationsbeispiele kennen. Dieser Kurs richtet sich an angehende KI-Ingenieure, Systemadministratoren und Entwickler, die in den Bereich des KI-Betriebs einsteigen möchten. Es ist keine vorherige Bereitstellungserfahrung erforderlich, obwohl grundlegende Kenntnisse der KI-Konzepte hilfreich sind. Beginnen Sie noch heute mit dem Lesen, um die Grundlagen der leistungsstarken Bereitstellung von generativer KI zu erlernen.