التدريب على الدقة المختلطة في برنامجي PyTorch وfastai

نماذج التعلم العميق تتزايد حجما وتكلفة حسابية، مما يجعل من سرعة التدريب وكفاءة الذاكرة مهارات حاسمة للمطورين. هذه الدورة النصية فقط ترشدك خلال ميكانيكا التدريب على الدقة المختلطة، وتبين لك كيفية تسريع أنابيب المعالجة الخاصة بك بشكل كبير باستخدام PyTorch و fastai دون التضحية بدقة النموذج. ستتحول من التدريب القياسي ذي الدقة الوحيدة إلى تدفقات العمل الحديثة ذات الكفاءة في استخدام الذاكرات التي تستفيد من نواة المتوسع المتخصصة. تعلم كيفية تنفيذ الدقة المدمجة التلقائية، ومعالجة الاستقرار العددي مع قياس التدرج، وتحقيق أقصى استفادة من إنتاجية النموذج. فهم المفاهيم الأساسية لتمثيل النقاط العائمة، بما في ذلك FP32 و FP16 وأشكال BF16 الحديثة. تحكم في دمج الدقة المركبة في كل من شفرة PyTorc الأصلية وبرامج Fastai العالية المستوى. ممارسة تصحيح أخطاء المشاكل الشائعة للتدفق العددي وتثبيت تدريبات التدريب. تكوين حلقات التدريب لتحقيق أعظم استفاده من الأجهزة على الهندسة المعمارية الحديثة لمعالجات الرسوميات. نبدأ بالرياضيات الأساسية لحسابات الكمبيوتر ودقة النقاط المعلقة قبل كتابة أي رمز، مما يضمن فهمك الدقيق لماذا وكيف يعمل الدقة المزدوجة. هذه الدورة مصممة للبرمجيين المتوسطين وممارسي التعلم الآلي الناشئين الذين لديهم معرفة أساسية بالشبكات العصبية ولكنهم يريدون تحقيق أقصي استفادته من تدفق عمل التدريب. لا تحتاج إلى خبرة سابقة مع التسارع الأجهزة أو التحسين منخفض المستوى.