شرح ممتاز وواضح جداً للمخاطر.
Fundamentos de Seguridad de Agentes de AI
Aprenda a proteger aplicaciones de modelos de lenguaje comprendiendo el prompt injection, implementando guardrails y aplicando sandboxing a las acciones de los agentes.
-
💬
Instructor de IA
Pregunta sobre cualquier lección y recibe una respuesta clara al instante, cuando quieras. -
🕐
Empieza cuando quieras
Sin horarios ni fechas límite: aprende a tu ritmo, cuando quieras. -
🌐
En español
Lecciones, tareas y certificado: todo completamente en tu idioma.
Sobre este curso
A medida que los agentes de AI se convierten en una parte central del software moderno, protegerlos contra nuevos tipos de vulnerabilidades es esencial. Sin las defensas adecuadas, los modelos de lenguaje pueden ser manipulados para filtrar datos o ejecutar comandos no deseados. Este curso proporciona una comprensión fundamental de la seguridad de las aplicaciones de AI. Explorará cómo identificar amenazas comunes y aplicar mecanismos de defensa prácticos para mantener sus sistemas seguros. Al centrarse en conceptos fundamentales, ganará la confianza necesaria para crear flujos de trabajo de AI resilientes.
Lo que aprenderá:
• Comprender la terminología central de AI y cómo los modelos de lenguaje procesan instrucciones
• Identificar y prevenir intentos de prompt injection y jailbreaking
• Implementar robustos guardrails para validar entradas y filtrar salidas del modelo
• Asegurar pipelines de Retrieval-Augmented Generation (RAG) contra datos maliciosos
• Aplicar principios de sandboxing para aislar y controlar las acciones de los agentes de AI
• Diseñar arquitecturas seguras para aplicaciones modernas de modelos de lenguaje.
El plan de estudios comienza con definiciones esenciales y la mecánica básica de los modelos de lenguaje antes de guiarlo a través de vulnerabilidades y estrategias de defensa específicas. Leerá explicaciones detalladas y explorará patrones de código escritos para comprender cómo se aplican las prácticas de seguridad en escenarios del mundo real. Diseñado para desarrolladores e ingenieros de software que son principiantes en seguridad de AI, este curso no requiere experiencia previa en ciberseguridad o machine learning avanzado. Dé el primer paso hacia la creación de aplicaciones de AI seguras y confiables hoy mismo.
Lo que obtendrás
-
📜
Certificado de finalización
Añádelo a tu perfil de LinkedIn -
💬
Tutor AI personal
¿Atascado en una lección? Pregúntale a tu tutor integrado lo que quieras, cuando quieras. -
♾️
Acceso de por vida
Vuelve cuando quieras, sin caducidad -
📱
Teléfono o computadora
Funciona en cualquier dispositivo -
💸
Reembolso de 14 días
Sin preguntas -
⚡
Breve y enfocado
2 h 54 min de contenido práctico
Reseñas (20)
El curso desarma muy bien cómo un atacante puede manipular un agente con instrucciones ocultas en un documento, algo que no había considerado antes. Los ejercicios prácticos ayudan a fijar el concepto en vez de quedarse solo en teoría. Eso sí, la parte sobre evaluación de riesgos se siente un poco apresurada comparada con el resto.
Полезно, но местами суховато подано.
Endlich Prompt Injection wirklich verstanden.
Gostei muito de como o curso desmonta um ataque de prompt injection passo a passo até mostrar a correção aplicada no código.
Solid walkthrough of how prompt injection actually works against tool-using agents, not just the surface-level 'ignore previous instructions' examples you see everywhere. I liked that it covered defense layers like input sanitization and permission scoping rather than pretending one trick fixes everything. Definitely changed how I think about giving an agent access to email or file systems.
프롬프트 인젝션을 직접 막아보고 에이전트 동작을 샌드박싱하는 부분이 정말 실무에 바로 쓸 만했어요.
Muy claro y directo, excelente.
Kursus ini benar-benar membuka mata saya soal cara kerja prompt injection dan kenapa agen AI bisa dimanipulasi tanpa disadari penggunanya. Materinya disusun rapi dari konsep dasar sampai contoh serangan nyata, jadi gampang diikuti walau saya bukan orang security. Sekarang saya jauh lebih hati-hati saat merancang guardrail untuk aplikasi LLM di kantor.
The module on sandboxing tool calls alone was worth going through the whole course slowly and taking notes.
Baru dua bab masuk saya udah paham kenapa agen AI saya kemarin gampang dibobol lewat input yang aneh-aneh. Penjelasan soal sandboxing dan validasi input dikasih contoh kode yang bisa langsung dicoba, bukan cuma teori. Worth banget buat siapa saja yang lagi bikin produk berbasis LLM.
প্রম্পট ইনজেকশন কীভাবে কাজ করে সেটা উদাহরণ দিয়ে খুব ভালোভাবে বোঝানো হয়েছে, তবে কিছু অংশ আরেকটু ধীরে ব্যাখ্যা করলে ভালো হতো।
Enfin je comprends l'injection de prompt.
프롬프트 인젝션이 실제로 어떻게 먹히는지 예제로 보여줘서 막연했던 개념이 확 정리됐어요.
Explicações claras sobre prompt injection.
Explica muy bien los ataques de inyección de prompts, aunque algunos ejemplos de código ya están un poco desactualizados.
I went into this course thinking I already understood prompt injection pretty well, and it humbled me fast. The instructor breaks down real attack patterns against LLM apps step by step, then walks through concrete mitigations instead of just waving hands at 'be careful with user input.' What stood out most was the section on tool-calling agents getting tricked into leaking data through indirect injection hidden in documents or web pages, something I had genuinely never considered before. The pacing is steady enough that you can pause and actually test the examples yourself rather than just watching. By the end I had a checklist I've already started applying to a chatbot we're shipping at work. If you're building anything that lets a model call tools or read external content, this is time well spent.
Depois desse curso passei a revisar todo agente que construo pensando em quem vai tentar manipular o prompt dele.
Finally understand prompt injection properly.
Nội dung hay nhưng hơi nhanh.
Otros también tomaron
🎓 Con certificado
IA sin Código: Crea y Despliega Modelos de Machine Learning
Certificado
Práctica
59 zł
→
⚡ Ideal para empezar
🎓 Con certificado
Fundamentos de Inteligencia Artificial y Big Data
Certificado
Práctica
59 zł
→
🎓 Con certificado
Fundamentos de Ingeniería de IA y Machine Learning
Certificado
Práctica
59 zł
→
🎓 Con certificado
Fundamentos de Ciberseguridad para Inteligencia Artificial
Certificado
Práctica
59 zł
→
Preguntas frecuentes
¿Qué necesito para tomar este curso? +
Solo un teléfono o computadora con internet. Sin instalaciones ni hardware especial.
¿Cómo pago? +
Con tarjeta a través de Stripe. No almacenamos datos de tarjeta — Stripe los gestiona de forma segura.
¿Puedo obtener un reembolso? +
Sí — reembolso completo en 14 días, sin preguntas.
¿Por cuánto tiempo tendré acceso? +
Para siempre. Una vez comprado, el curso es tuyo para revisarlo cuando quieras.
¿Obtendré un certificado? +
Sí. Al finalizar recibirás un certificado que puedes añadir a tu perfil de LinkedIn.
Diseñado para profesionales en
Tecnología
Diseño
Finanzas
Marketing
Salud
Educación
Hostelería
Manufactura