Despliegue de LLM y LLMOps: Escalando Modelos en Producción

Desplegar modelos de lenguaje grandes en producción requiere más que simples llamadas a API; exige operaciones robustas, optimización de costos e infraestructura escalable. Este curso basado en texto te guía a través de los principios centrales de LLMOps para transicionar tus modelos del desarrollo a entornos de producción confiables. Obtendrás una comprensión profunda de cómo gestionar el ciclo de vida de modelos como Llama, optimizar la velocidad de inferencia y minimizar los costos computacionales. Al estudiar arquitecturas prácticas y patrones de configuración, aprenderás a construir pipelines de despliegue de IA eficientes, escalables y seguros. Lo que aprenderás: - Comprender los conceptos fundamentales de LLMOps, ciclos de vida de modelos y la transición de MLOps tradicional a pipelines específicos de LLM. - Configurar y rastrear modelos utilizando MLflow para versionado, registro y gestión sistemática del ciclo de vida. - Aplicar técnicas avanzadas de optimización y cuantización, incluyendo GPTQ, AWQ y LoRA, para reducir el tamaño del modelo y los costos de ejecución. - Escalar cargas de trabajo de inferencia eficientemente utilizando Ray, estrategias de batching, Flash Attention y Paged Attention. - Integrar patrones modernos de generación aumentada por recuperación (RAG) y frameworks de observabilidad para monitorear el rendimiento del modelo y rastrear salidas. Comenzando con definiciones fundamentales de alojamiento de modelos, el curso te guía paso a paso a través de la configuración, optimización, escalado y monitoreo de producción. Aprenderás a través de explicaciones escritas claras, recorridos arquitectónicos estructurados y ejercicios conceptuales. Este curso está diseñado para ingenieros de software, científicos de datos e ingenieros de IA aspirantes que son nuevos en el despliegue de modelos y desean construir una base sólida en LLMOps. No se requiere experiencia previa en escalado de producción. Comienza tu viaje en la ingeniería de IA de grado de producción y empieza a optimizar tus despliegues hoy mismo.