Asas Pengoptimuman LLM: Pemampatan dan Fine-Tuning — WalkSelf
4.7 (13) ⏱ 2 jam 48 min 📚 28 pelajaran 🎧 Versi audio

Asas Pengoptimuman LLM: Pemampatan dan Fine-Tuning

Fahami konsep teras quantization, pruning, dan fine-tuning untuk membolehkan Large Language Models berjalan dengan cekap pada perkakasan tempatan.

  • 💬 Pengajar AI
    Tanya tentang mana-mana pelajaran dan dapatkan jawapan jelas serta-merta, bila-bila masa.
  • 🕐 Mula bila-bila masa
    Tiada jadual atau tarikh akhir — belajar mengikut rentak sendiri, bila-bila masa.
  • 🌐 Dalam bahasa Melayu
    Pelajaran, tugasan dan sijil — semuanya sepenuhnya dalam bahasa anda.

Tentang kursus ini

Large Language Models (LLMs) adalah sangat berkuasa, tetapi saiznya yang besar sering menjadikannya sukar dan mahal untuk dijalankan. Bagaimanakah anda boleh melaksanakan model-model ini pada perkakasan harian tanpa mengorbankan prestasi? Kursus berasaskan teks ini membahagikan dunia pengoptimuman LLM yang kompleks kepada pelajaran bertulis yang mudah diakses. Anda akan meneroka cara mengecilkan saiz model, mempercepatkan inference, dan menilai prestasi menggunakan teknik industri moden. Dengan memberi tumpuan kepada konsep praktikal, anda akan belajar cara menjadikan model AI yang berat menjadi ringan dan mudah diakses. Apa yang akan anda pelajari: * Fahami seni bina LLM asas dan mengapa saiz model memberi kesan kepada sumber pengkomputeran. * Aplikasikan teknik quantization untuk mengurangkan penggunaan memori sambil mengekalkan kualiti penjanaan teks. * Teroka model pruning dan knowledge distillation untuk mengkonsepkan model yang lebih kecil dan pantas. * Praktikkan kaedah parameter-efficient fine-tuning seperti LoRA dan QLoRA untuk aplikasi tersuai. * Nilai prestasi LLM tempatan menggunakan alat penanda aras dan metrik moden. * Temui cara model yang dioptimumkan disepadukan ke dalam saluran paip Retrieval-Augmented Generation (RAG) moden. Kursus ini bermula dengan terminologi penting dan mekanik asas pemampatan rangkaian saraf. Dari situ, anda akan maju melalui bahan bacaan berstruktur dan latihan bertulis yang merangkumi kaedah fine-tuning dan strategi pelaksanaan tempatan. Direka untuk pemula dan pengamal machine learning yang bercita-cita tinggi, kursus ini tidak memerlukan pengalaman terdahulu dengan kejuruteraan AI yang maju. Mula membaca hari ini untuk membina kemahiran asas anda dalam pelaksanaan AI yang cekap.

Apa yang anda dapat

  • 📜 Sijil tamat
    Tambah ke profil LinkedIn anda
  • 💬 Tutor AI peribadi
    Tersekat dalam pelajaran? Tanya tutor terbina dalam kamu apa sahaja, bila-bila masa.
  • 🎧 Termasuk versi audio
    Belajar sambil bergerak — tanpa skrin
  • ♾️ Akses seumur hidup
    Kembali bila-bila masa, tiada tamat tempoh
  • 📱 Telefon atau komputer
    Berfungsi di mana-mana, mana-mana peranti
  • 💸 Pulangan 14 hari
    Tanpa soalan
  • Pendek dan fokus
    2 jam 48 min kandungan praktikal

Ulasan (13)

오채원 KR Pelajar disahkan
★ 4 · 23.07.2026

양자화와 프루닝 개념을 실제 모델 크기 변화와 함께 설명해줘서 이해가 훨씬 빨랐습니다. 그동안 파인튜닝만 다루는 강의는 많이 봤는데, 압축 기법까지 같이 묶어서 설명하는 강의는 드물었던 것 같습니다. 중간에 나오는 캘리브레이션 데이터셋 부분은 조금 지루하게 느껴지긴 했습니다. 그래도 전체적으로 실무에 바로 적용해볼 만한 내용이 많았습니다.

Molnár László HU Pelajar disahkan
★ 4 · 18.07.2026

Quantization और pruning जैसे टॉपिक्स को बहुत ही practical तरीके से समझाया गया है, थ्योरी कम और उदाहरण ज़्यादा। बस fine-tuning वाला सेक्शन थोड़ा जल्दी में निपटा दिया गया लगा।

Fikret Durmuş TR
★ 4 · 11.07.2026

Quantization ve pruning konularını gerçek örneklerle anlatması işe yaramış, ama fine-tuning kısmı biraz daha uzun olabilirdi.

오채원 KR
★ 5 · 11.07.2026

양자화랑 프루닝 개념이 늘 헷갈렸는데 이 강의로 확실히 잡혔어요. 7B 모델을 4비트로 돌려서 제 노트북에서 무리 없이 추론하는 걸 보고 정말 신기했고, 파인튜닝까지 한 흐름으로 묶어줘서 좋았습니다.

Freya Rodriguez AU Pelajar disahkan
★ 5 · 29.06.2026

Clear breakdown of quantization versus pruning, with enough hands-on exercises that the tradeoffs actually stick. The fine-tuning-after-compression section alone was worth going through slowly.

Mehmet Demir TR Pelajar disahkan
★ 5 · 28.06.2026

Quantization, pruning ve fine-tuning gibi kavramları hep ezbere biliyordum ama mantığını tam oturtamamıştım. Bu kurstan sonra modeli neden ve nasıl küçülttüğümüzü gerçekten kavradım. En sevdiğim kısım büyük bir modeli kendi dizüstü bilgisayarımda çalışacak kadar sıkıştırdığımız bölümdü, çünkü pratik faydası hemen görünüyor. Anlatım sade ve adım adım ilerliyor, gereksiz teori yığını yok. Yerel donanımda LLM çalıştırmak isteyen herkese gönül rahatlığıyla öneririm.

Sophie Harris NZ Pelajar disahkan
★ 4 · 25.06.2026

I went into this expecting a dry theory dump on quantization and came out with something I could actually apply to a model I'd been struggling to deploy. The sections on pruning are clear and build up gradually, showing why certain layers tolerate compression better than others. The fine-tuning module ties everything together by walking through shrinking a model and then recovering accuracy afterward. If I'm being picky, the pacing slows down a lot in the middle when it covers calibration datasets, which could have been trimmed. Still, it's one of the more grounded explanations of these tradeoffs I've come across.

Samuel Moore NZ Pelajar disahkan
★ 5 · 24.06.2026

Pruning and quantization finally make sense, and my model runs lean on local hardware now.

林 陽菜 JP Pelajar disahkan
★ 5 · 07.06.2026

量子化とプルーニングの違いをここまで具体的に説明してくれるコースは初めてでした。理論の説明のあとに必ず実際のモデルサイズや推論速度の変化を見せてくれるので、なぜその手法が効くのかが腑に落ちます。特にプルーニング後にファインチューニングで精度を戻す流れを一通り体験できたのが大きかったです。普段はモデルを大きくすることばかり考えていたので、小さくしながら性能を保つという発想の転換になりました。最後まで飽きずに進められる構成で、実務にすぐ活かせそうです。

Phạm Thị Dung VN Pelajar disahkan
★ 5 · 04.06.2026

Khóa học giải thích quantization và pruning rất dễ hiểu, không sa đà vào công thức toán mà tập trung vào lý do tại sao nó hiệu quả. Phần fine-tuning sau khi nén mô hình giúp mình hiểu rõ cách khôi phục lại độ chính xác đã mất.

Léa Pelletier MC Pelajar disahkan
★ 5 · 04.06.2026

Le cours démystifie bien la quantization et le pruning, avec des exemples chiffrés qui montrent vraiment l'impact sur la taille du modèle. La partie fine-tuning après compression est celle qui m'a le plus servi au final.

山崎 悠斗 JP Pelajar disahkan
★ 5 · 31.05.2026

圧縮の仕組みが直感的にわかった。

Victoria Lefebvre CA Pelajar disahkan
★ 5 · 27.05.2026

This is one of the few courses I've found that treats model compression as a first-class topic instead of an afterthought tacked onto a fine-tuning course. The quantization section walks through the actual tradeoffs between precision levels rather than just telling you to pick int8 and move on. Pruning is explained with real before-and-after benchmarks, which made the impact obvious in a way slides never do. By the time you get to combining pruning with fine-tuning to recover lost accuracy, all the earlier pieces click into place. I ended up rerunning the exercises on my own model afterward just to see the numbers for myself.

Tulis ulasan

Selepas hantar kami akan meminta anda log masuk — draf disimpan.

Pelajar lain juga mengambil

Soalan lazim

Apa yang saya perlukan untuk mengikuti kursus ini? +

Hanya telefon atau komputer dengan internet. Tiada pemasangan, tiada perkakasan khas.

Bagaimana untuk membayar? +

Dengan kad melalui Stripe. Kami tidak menyimpan butiran kad — Stripe menguruskannya dengan selamat.

Bolehkah saya dapatkan bayaran balik? +

Ya — pulangan penuh dalam 14 hari, tanpa soalan.

Berapa lama saya akan mempunyai akses? +

Selamanya. Setelah membeli, kursus adalah milik anda — boleh lawat semula bila-bila masa.

Adakah saya akan mendapat sijil? +

Ya. Setelah tamat, anda akan menerima sijil yang boleh ditambah ke profil LinkedIn anda.

Direka untuk pelajar dalam
Teknologi Reka bentuk Kewangan Pemasaran Kesihatan Pendidikan Hospitaliti Pembuatan