Keselamatan AI Ofensif dan Asas-asas AI Red Teaming

Apabila kecerdasan buatan (AI) semakin terintegrasi secara mendalam ke dalam perisian moden, mengamankan sistem ini terhadap ancaman baharu adalah lebih kritikal berbanding sebelum ini. Langkah-langkah keselamatan siber tradisional tidak lagi mencukupi untuk melindungi model pembelajaran mesin (machine learning) yang kompleks dan model bahasa besar (large language models) daripada eksploitasi yang disasarkan. Kursus ini melengkapkan anda dengan pengetahuan asas untuk berfikir seperti penyerang dan mengenal pasti kelemahan dalam sistem AI secara sistematik. Melalui penjelasan bertulis yang jelas dan contoh berasaskan kod praktikal, anda akan memahami cara menilai model AI, menguji pertahanannya, dan menggunakan perisai keselamatan yang mantap untuk mengurangkan risiko. Apa yang anda akan pelajari: - Memahami terminologi asas keselamatan AI ofensif dan seni bina pembelajaran mesin. - Menganalisis kelemahan biasa termasuk suntikan gesaan, pengelakan model (model evasion), dan keracunan data. - Meneroka OWASP Top 10 untuk Aplikasi Bahasa Besar (Large Language Applications) untuk mengenal pasti titik lemah kritikal. - Mengaplikasikan metodologi red teaming asas untuk menguji sempadan model dan perisai keselamatan. - Menilai risiko keselamatan yang wujud dalam sistem Retrieval-Augmented Generation (RAG) moden. - Merumuskan strategi pertahanan asas untuk melindungi saluran AI (AI pipelines) daripada serangan adversarial. Kursus ini bermula dengan definisi penting dan asas pembelajaran mesin sebelum membimbing anda melalui vektor serangan dunia sebenar dan konsep pertahanan praktikal. Anda akan beralih daripada model ancaman teori kepada teknik penilaian praktikal menggunakan pelajaran teks berstruktur dan pecahan konsep yang jelas. Kursus ini direka untuk pemula keselamatan siber, pembangun perisian, dan profesional IT yang ingin memasuki bidang keselamatan AI, tanpa memerlukan pengalaman pembelajaran mesin terdahulu. Mulai membaca hari ini untuk membina kemahiran yang diperlukan untuk mengamankan generasi perisian pintar seterusnya.