Solid intro to prompt injection defenses, though the section on indirect injection felt a bit rushed.
أمن الذكاء الاصطناعي: منع حقن الأوامر (Prompt Injection)
دليل عملي للمطورين والمتخصصين في الأمن لفهم وتخفيف ثغرات حقن الأوامر في أنظمة الذكاء الاصطناعي.
-
💬
مدرب ذكاء اصطناعي
اسأل عن أي درس واحصل على إجابة واضحة فورًا، في أي وقت. -
🕐
ابدأ في أي وقت
بلا جداول أو مواعيد نهائية — تعلّم بوتيرتك، وقتما يناسبك. -
🌐
بالعربية
الدروس والمهام والشهادة — كل ذلك بلغتك بالكامل.
حول هذه الدورة
مع دمج النماذج اللغوية الكبيرة (LLMs) في المزيد من التطبيقات، فإنها تقدم مخاطر أمنية جديدة وفريدة من نوعها. الثغرة الأكثر شيوعًا وحرجًا هي حقن الأوامر (prompt injection)، حيث يمكن للمستخدم الخبيث اختطاف سلوك النموذج.
توفر هذه الدورة فهمًا أساسيًا لأمن الذكاء الاصطناعي، مع التركيز على المهارات العملية اللازمة للدفاع ضد هذه الهجمات. ستتعلم التفكير كمهاجم لتحديد الثغرات الأمنية، ثم بناء دفاعات قوية، أو 'حواجز حماية' (guardrails)، لحماية تطبيقاتك التي تعمل بالنماذج اللغوية الكبيرة ومستخدميها.
ما ستتعلمه:
- فهم المبادئ الأساسية لحقن الأوامر ومتغيراته، بما في ذلك كسر الحماية (jailbreaking).
- تعلم كيفية تحديد أنماط الهجوم الشائعة في التطبيقات المواجهة للمستخدم.
- تطبيق تقنيات دفاعية مثل تنقية المدخلات (input sanitization)، والدفاع القائم على التعليمات (instructional defense)، وتصفية المخرجات (output filtering).
- التدرب على بناء أغلفة آمنة لاستدعاءات واجهة برمجة التطبيقات (API calls) للنماذج اللغوية الكبيرة.
- تكوين المراقبة والتسجيل الأساسيين للكشف عن التهديدات الأمنية المحتملة.
- استكشاف المشهد الأوسع لمخاطر أمن الذكاء الاصطناعي، بما في ذلك مخاوف خصوصية البيانات.
تبدأ الدورة بالمفاهيم الأساسية لهندسة الأوامر (prompt engineering) وآليات هجمات الحقن، ثم تنتقل إلى استراتيجيات الدفاع العملية وأفضل الممارسات لبناء أنظمة آمنة.
تم تصميم هذه الدورة للمطورين ومحللي الأمن والمتخصصين في التكنولوجيا الجدد في التحديات الأمنية للذكاء الاصطناعي. لا توجد خبرة سابقة في أمن الذكاء الاصطناعي مطلوبة، على الرغم من أن الفهم الأساسي لمفاهيم تطوير البرمجيات مفيد.
ابدأ رحلتك في أمن الذكاء الاصطناعي وتعلم بناء تطبيقات أكثر مرونة.
ما الذي ستحصل عليه
-
📜
شهادة إتمام
أضفها إلى ملفك على LinkedIn -
💬
مدرّس AI شخصي
عالق في دورة؟ اسأل مدرّسك المدمج أي شيء، في أي وقت. -
♾️
وصول مدى الحياة
عُد متى شئت، بلا انتهاء -
📱
الهاتف أو الكمبيوتر
يعمل في أي مكان وعلى أي جهاز -
💸
استرداد خلال 14 يومًا
دون أسئلة -
⚡
قصير ومركَّز
2 ساعة 30 دقيقة من المحتوى التطبيقي
المراجعات (18)
Il corso spiega bene come riconoscere i tentativi di prompt injection con esempi concreti presi da casi reali. Da sviluppatore ho trovato utili i controlli suggeriti per validare gli input verso il modello. Avrei solo gradito qualche esercizio pratico in più da svolgere da soli.
As someone who builds internal tools on top of LLMs, this course finally gave me a structured way to think about prompt injection instead of just patching things reactively. It walks through several real attack patterns, including indirect injection through documents and web content, which I hadn't fully considered before. The defensive techniques are practical rather than theoretical, with concrete input validation and sandboxing approaches you can apply immediately. My only complaint is that the section on securing agentic tool calls feels a little thin compared to everything else. Still, I came away with a checklist I'm now actually using at work.
Modul tentang cara penyerang menyelitkan arahan tersembunyi dalam input pengguna benar-benar membuka mata saya. Teknik sanitasi dan pengasingan prompt sistem diterangkan dengan jelas, cuma saya harap ada lebih banyak contoh serangan sebenar pada sistem produksi.
এই কোর্সে prompt injection আসলে কীভাবে কাজ করে সেটা খুব বাস্তবসম্মতভাবে দেখানো হয়েছে, শুধু তত্ত্ব নয়। ডেভেলপার হিসেবে আমি সহজেই বুঝতে পেরেছি কোথায় আমার নিজের অ্যাপে ফাঁক ছিল। শুধু কয়েকটা উদাহরণ আরেকটু আপডেটেড হলে ভালো হতো।
The way this course separates direct and indirect prompt injection made everything click for me. Each mitigation strategy is backed by an explanation of the underlying weakness it addresses. I walked away with a much more rigorous approach to validating anything that reaches my model.
Курс хорошо разбирает механику prompt injection на конкретных примерах, а не только в теории. Понравилось, что показывают реальные способы защиты, которые можно сразу внедрить в проект. Не хватило разве что более глубокого раздела про многоагентные системы.
Praktisch en duidelijk over prompt injection.
I've read a handful of blog posts on prompt injection but never had a clear mental model until this course. It starts with simple direct injection examples and builds up to more subtle indirect attacks hidden in retrieved documents, which was eye-opening. The instructor explains why common naive defenses like simple keyword filtering fail, which I appreciated since I'd tried exactly that approach before. Each mitigation technique comes with a reasoning for why it works, not just a copy-paste snippet. I immediately went back and rewrote the input handling in one of my own projects after finishing this.
Ce cours démystifie vraiment le prompt injection avec des exemples concrets d'attaques réelles. J'ai apprécié la partie sur les injections indirectes via des documents, un angle que je n'avais jamais considéré. Je repars avec des techniques de validation que j'ai déjà intégrées dans mon propre projet.
Kursus ini menjelaskan prompt injection dengan sangat jelas, lengkap dengan contoh kasus nyata yang pernah terjadi. Sebagai developer saya jadi paham cara memvalidasi input sebelum masuk ke model AI. Materinya langsung bisa saya terapkan di proyek yang sedang saya kerjakan.
Finally understand prompt injection properly.
Excellente explication des attaques par injection de prompt, avec des contre-mesures que j'ai pu appliquer tout de suite.
Good breakdown of how prompt injection attacks actually work against real applications, not just a surface-level overview. The mitigation techniques section is genuinely practical for anyone building on top of an LLM. I would have liked a bit more coverage on multi-agent systems specifically.
Cleared up prompt injection for me in a way that actually makes sense from a security engineering angle, not just theory.
Turned an abstract security concept into something I could actually test and defend against in my own codebase.
Solid practical content on defending against prompt injection, aimed clearly at people who already write code. The examples involving injected instructions hidden in uploaded files were particularly useful for my own security review. Wish there was a bit more on testing methodology to actually verify your defenses work.
프롬프트 인젝션 방어법이 확실히 정리됐어요.
المتعلمون أخذوا أيضًا
🎓 بشهادة
الذكاء الاصطناعي الخاص مع برامج الماجستير في القانون مفتوحة المصدر: النشر المحلي، وRAG، والوكلاء
شهادة
تطبيق عملي
AED 50.00
→
💼 جاهز لسوق العمل
🎓 بشهادة
ضبط نماذج OpenAI: تخصيص نماذج اللغة الكبيرة ببياناتك الخاصة
شهادة
تطبيق عملي
AED 50.00
→
💼 جاهز لسوق العمل
🎓 بشهادة
تطوير تطبيقات الذكاء الاصطناعي باستخدام LangChain
شهادة
تطبيق عملي
AED 50.00
→
🔥 مطلوب
🎓 بشهادة
الذكاء الاصطناعي التوليدي في الرعاية الصحية: تطبيق حلول سريرية حديثة
شهادة
تطبيق عملي
AED 50.00
→
الأسئلة الشائعة
ما الذي أحتاجه لأخذ هذه الدورة؟ +
يكفي هاتف أو كمبيوتر متصل بالإنترنت. بدون تثبيتات أو أجهزة خاصة.
كيف يمكنني الدفع؟ +
بالبطاقة عبر Stripe. لا نخزن بيانات البطاقة — يتولى Stripe ذلك بأمان.
هل يمكنني استرداد المال؟ +
نعم — استرداد كامل خلال 14 يومًا، دون أسئلة.
إلى متى يستمر وصولي؟ +
إلى الأبد. بمجرد الشراء، الدورة لك تعود إليها متى شئت.
هل سأحصل على شهادة؟ +
نعم. عند الإتمام ستحصل على شهادة يمكنك إضافتها إلى ملفك في LinkedIn.
مصمَّم للعاملين في
التقنية
التصميم
المالية
التسويق
الرعاية الصحية
التعليم
الضيافة
التصنيع