شرح ممتاز وواضح جداً للمخاطر.
AI Agent 보안의 기초
prompt injection을 이해하고, guardrails를 구현하며, 에이전트 작업을 sandboxing하여 언어 모델 애플리케이션을 보호하는 방법을 배웁니다.
-
💬
AI 강사
어떤 강의든 질문하면 언제든 즉시 명확한 답을 받을 수 있어요. -
🕐
언제든지 시작
정해진 일정이나 마감이 없어요 — 원할 때 자신의 속도로 배우세요. -
🌐
한국어로
강의, 과제, 수료증까지 — 모두 완전히 당신의 언어로.
이 과정 소개
AI 에이전트가 현대 소프트웨어의 핵심 요소가 됨에 따라, 새로운 유형의 취약점으로부터 이를 보호하는 것이 필수적입니다. 적절한 방어 체계가 없다면 언어 모델은 데이터를 유출하거나 의도하지 않은 명령을 실행하도록 조작될 수 있습니다. 이 과정은 AI 애플리케이션 보안에 대한 기초적인 이해를 제공합니다. 일반적인 위협을 식별하고 시스템을 안전하게 유지하기 위한 실질적인 방어 메커니즘을 적용하는 방법을 탐구하게 됩니다. 핵심 개념에 집중함으로써 회복 탄력성이 있는 AI 워크플로우를 구축할 수 있는 자신감을 얻게 될 것입니다.
학습 내용:
• 핵심 AI 용어와 언어 모델이 지침을 처리하는 방식 이해
• prompt injection 및 jailbreaking 시도 식별 및 방지
• 입력 유효성을 검사하고 모델 출력을 필터링하기 위한 강력한 guardrails 구현
• 악성 데이터로부터 Retrieval-Augmented Generation (RAG) 파이프라인 보호
• AI 에이전트 작업을 격리하고 제어하기 위해 sandboxing 원칙 적용
• 현대적인 언어 모델 애플리케이션을 위한 보안 아키텍처 설계
커리큘럼은 필수적인 정의와 언어 모델의 기본 메커니즘으로 시작하여 특정 취약점과 방어 전략을 안내합니다. 상세한 설명을 읽고 작성된 코드 패턴을 탐구하며 실제 시나리오에서 보안 관행이 어떻게 적용되는지 이해하게 됩니다. AI 보안 초보자인 개발자와 소프트웨어 엔지니어를 위해 설계된 이 과정은 사전 사이버 보안이나 고급 머신러닝 경험이 필요하지 않습니다. 오늘 안전하고 신뢰할 수 있는 AI 애플리케이션을 구축하기 위한 첫걸음을 내딛으세요.
받게 되는 것
-
📜
수료증
LinkedIn 프로필에 추가 -
💬
개인 AI 튜터
강좌에서 막혔나요? 내장 튜터에게 언제든지 무엇이든 물어보세요. -
♾️
평생 이용
언제든 다시 보세요, 만료 없음 -
📱
휴대폰 또는 컴퓨터
어디서든 모든 기기에서 -
💸
14일 환불
이유 묻지 않음 -
⚡
짧고 핵심적
2시간 54분의 실용 학습
리뷰 (20)
El curso desarma muy bien cómo un atacante puede manipular un agente con instrucciones ocultas en un documento, algo que no había considerado antes. Los ejercicios prácticos ayudan a fijar el concepto en vez de quedarse solo en teoría. Eso sí, la parte sobre evaluación de riesgos se siente un poco apresurada comparada con el resto.
Полезно, но местами суховато подано.
Endlich Prompt Injection wirklich verstanden.
Gostei muito de como o curso desmonta um ataque de prompt injection passo a passo até mostrar a correção aplicada no código.
Solid walkthrough of how prompt injection actually works against tool-using agents, not just the surface-level 'ignore previous instructions' examples you see everywhere. I liked that it covered defense layers like input sanitization and permission scoping rather than pretending one trick fixes everything. Definitely changed how I think about giving an agent access to email or file systems.
프롬프트 인젝션을 직접 막아보고 에이전트 동작을 샌드박싱하는 부분이 정말 실무에 바로 쓸 만했어요.
Muy claro y directo, excelente.
Kursus ini benar-benar membuka mata saya soal cara kerja prompt injection dan kenapa agen AI bisa dimanipulasi tanpa disadari penggunanya. Materinya disusun rapi dari konsep dasar sampai contoh serangan nyata, jadi gampang diikuti walau saya bukan orang security. Sekarang saya jauh lebih hati-hati saat merancang guardrail untuk aplikasi LLM di kantor.
The module on sandboxing tool calls alone was worth going through the whole course slowly and taking notes.
Baru dua bab masuk saya udah paham kenapa agen AI saya kemarin gampang dibobol lewat input yang aneh-aneh. Penjelasan soal sandboxing dan validasi input dikasih contoh kode yang bisa langsung dicoba, bukan cuma teori. Worth banget buat siapa saja yang lagi bikin produk berbasis LLM.
প্রম্পট ইনজেকশন কীভাবে কাজ করে সেটা উদাহরণ দিয়ে খুব ভালোভাবে বোঝানো হয়েছে, তবে কিছু অংশ আরেকটু ধীরে ব্যাখ্যা করলে ভালো হতো।
Enfin je comprends l'injection de prompt.
프롬프트 인젝션이 실제로 어떻게 먹히는지 예제로 보여줘서 막연했던 개념이 확 정리됐어요.
Explicações claras sobre prompt injection.
Explica muy bien los ataques de inyección de prompts, aunque algunos ejemplos de código ya están un poco desactualizados.
I went into this course thinking I already understood prompt injection pretty well, and it humbled me fast. The instructor breaks down real attack patterns against LLM apps step by step, then walks through concrete mitigations instead of just waving hands at 'be careful with user input.' What stood out most was the section on tool-calling agents getting tricked into leaking data through indirect injection hidden in documents or web pages, something I had genuinely never considered before. The pacing is steady enough that you can pause and actually test the examples yourself rather than just watching. By the end I had a checklist I've already started applying to a chatbot we're shipping at work. If you're building anything that lets a model call tools or read external content, this is time well spent.
Depois desse curso passei a revisar todo agente que construo pensando em quem vai tentar manipular o prompt dele.
Finally understand prompt injection properly.
Nội dung hay nhưng hơi nhanh.
다른 학습자도 수강
자주 묻는 질문
이 과정을 듣는 데 무엇이 필요한가요? +
인터넷이 되는 휴대폰이나 컴퓨터만 있으면 됩니다. 설치나 특별한 장비는 필요 없습니다.
결제는 어떻게 하나요? +
Stripe를 통한 카드로. 카드 정보는 저장하지 않으며 Stripe가 안전하게 처리합니다.
환불받을 수 있나요? +
네 — 14일 이내 전액 환불, 이유를 묻지 않습니다.
얼마나 오래 이용할 수 있나요? +
평생. 구매하면 과정은 당신의 것이며 언제든 다시 볼 수 있습니다.
수료증을 받을 수 있나요? +
네. 수료 시 LinkedIn 프로필에 추가할 수 있는 수료증을 받습니다.
이런 분야 학습자에게
테크
디자인
금융
마케팅
의료
교육
호스피탈리티
제조업