LLM và Generative AI Deployment with NVIDIA: Associate Exam Prep

Thiết lập mô hình ngôn ngữ lớn hiệu quả đòi hỏi tăng tốc phần cứng chuyên dụng và tối ưu hóa phần mềm. Lớp học dựa trên văn bản này hướng dẫn bạn qua các khái niệm cơ bản của việc phục vụ các mô hình AI sinh sản sử dụng các công nghệ NVIDIA tiêu chuẩn ngành. Bạn sẽ chuyển từ việc hiểu kiến trúc mô hình cơ bản đến cấu hình và triển khai các đường ống suy luận hiệu suất cao. Thông qua các giải thích cấu trúc, phân tích kiến trúc và hướng dẫn cấu hình, bạn sẽ có được kiến thức thực tế cần thiết để tối ưu hóa các mô hình cho sản xuất và chuẩn bị tự tin cho các kỳ thi triển khai cấp liên kết. Bạn sẽ học được gì: Hiểu kiến trúc cốt lõi của các mô hình ngôn ngữ lớn và các đường ống triển khai AI sinh học; Cấu hình Triton Inference Server cho việc phục vụ đa mô hình có thể mở rộng; Tối ưu hóa hiệu suất mô hình bằng cách sử dụng TensorRT-LLM và các kỹ thuật lượng tử hiện đại; Thiết lập các luồng công việc tăng cường truy xuất (RAG) cho sản xuất Môi trường; Kiểm soát và khắc phục sự chậm trễ mô hình, thông lượng và sử dụng phần cứng; Thực hành với các khái niệm phù hợp với kỳ thi để xây dựng niềm tin cho chứng nhận cấp liên kết. Chương trình bắt đầu với thuật ngữ thiết yếu và các nền tảng của suy luận gia tốc phần cứng trước khi chuyển sang các kịch bản cấu hình thực tế. Bạn sẽ khám phá các chiến lược triển khai thực tế, điều chỉnh hiệu suất và các mô hình tối ưu hóa thông qua các giải thích và ví dụ cấu hình rõ ràng. Chương trình này được thiết kế cho các kỹ sư AI, quản trị viên hệ thống và nhà phát triển đang tìm kiếm để nhập vào lĩnh vực hoạt động AI; không cần kinh nghiệm triển khai trước, mặc dù sự quen thuộc cơ bản với các khái niệm AI là hữu ích. Bắt đầu đọc hôm nay để nắm vững các nền tảng của việc triển khai AI sinh sản hiệu suất cao.