استدلال Local LLM باستخدام ONNX و C#

يعد نشر نماذج اللغات الكبيرة محلياً دون البنية التحتية المخصصة لـ GPU مهارة أساسية للمطورين ومهندسي AI الحاليين. يوجهك هذا المقرر المكتوب خلال تهيئة النماذج الكمية وتحميلها وتنفيذها مباشرة على CPU باستخدام C# و ONNX Runtime.\n\nستطور فهماً واضحاً لأساسيات LLMOps، وتقنيات تكميم النماذج (model quantization)، وإدارة الرموز (tokens) لبناء تطبيقات AI محلية استجابية.\n\nما ستتعلمه:\n- فهم المفاهيم الأساسية لـ LLMOps، وبنية النموذج الأساسية، والمصطلحات\n- تهيئة ONNX Runtime لتنفيذ CPU في بيئات C#\n- تحميل وتنفيذ نماذج Phi-3 الكمية بـ 4-bit محلياً\n- إدارة Tokenization، وقوالب المطالبات (prompt templating)، ونوافذ السياق (context windows) بفعالية\n- تطبيق تقنيات تحسين الاستدلال لضمان أداء CPU موثوق\n- تطبيق تحليل المخرجات المهيكلة وأنماط معالجة الأخطاء الأساسية\n\nتبدأ القراءة بمصطلحات تعلم الآلة الأساسية ومبادئ بيئة التشغيل قبل الانتقال إلى أنابيب الاستدلال البرمجية واستراتيجيات التحسين.\n\nتم تصميم هذا المقرر للمطورين والمبتدئين التقنيين المهتمين بتشغيل نماذج اللغة محلياً باستخدام C#، ولا يتطلب أي خبرة سابقة في تعلم الآلة.\n\nابدأ القراءة اليوم لإدراج تنفيذ نماذج اللغة المحلية في تطبيقات C# الخاصة بك.