Açık Modelleri ve LLM'leri Dağıtma

Açık kaynaklı modeller eşsiz gizlilik, özelleştirme ve maliyet kontrolü sunar, ancak bunları kendiniz barındırmak, dağıtım süreçleri hakkında sağlam bir anlayış gerektirir. Bu metin tabanlı kurs, açık ağırlıklı modelleri üretime taşımak için gereken temel kavramlar ve pratik adımlar konusunda size rehberlik eder. Kapalı kaynaklı API'leri kullanmaktan, kendi açık modellerinizi sunmaya, yönetmeye ve ölçeklendirmeye geçiş yapacak, böylece AI altyapınız üzerinde tam kontrol sahibi olacaksınız. Bu kursta şunları yapacaksınız: 1. Açık ağırlıklı modellerin temel mimarisini ve tescilli API'lerden nasıl farklılaştığını anlayın. 2. Modern konteynerleştirme araçlarını kullanarak modelleri verimli bir şekilde çalıştırmak için yerel ve bulut ortamlarını yapılandırın. 3. Hafif web çatısı (framework) kullanarak açık modeller etrafında üretime hazır API uç noktaları oluşturun. 4. Büyük modelleri sınırlı donanımda çalıştırmak için quantization gibi optimizasyon tekniklerini uygulayın. 5. Dağıtılan modellerinizi harici verilere bağlamak için temel Retrieval-Augmented Generation desenlerini uygulayın. 6. Model performansını, gecikme süresini (latency) ve kaynak tüketimini izleyin. Kurs, adım adım yazılı açıklamalara, kod parçacıklarına (code snippets) ve optimizasyon stratejilerine geçmeden önce temel terminoloji ve donanım gereksinimleriyle başlar. Bu kurs, makine öğrenimi dağıtımına yeni başlayan, daha önce DevOps veya AI mühendisliği deneyimi olmayan yazılım geliştiricileri, mühendisler ve teknik yaratıcılar için tasarlanmıştır. Kendi kendine barındırılan AI hattınızı (pipeline) bugün oluşturmaya başlayın.