Lecturesالمحاضرات

9 publishedالمنشور منها 9

00
Week 1الأسبوع 131 Aug 202631 أغسطس 2026
Course overviewنظرة عامة على المقرر
Who teaches the course and what his lab builds, from UAV rail inspection and lightweight weed and drone detectors to a compact intrusion detection CNN, and the five takeaways that frame efficient deep learning on resource-constrained devices.من يدرّس المقرر وماذا يبني مختبره، من فحص السكك الحديدية بالطائرات المسيّرة (UAV) وكواشف الأعشاب والطائرات المسيّرة الخفيفة إلى شبكة CNN مدمجة لكشف التسلل، والنتائج الخمس التي تؤطر التعلم العميق الكفء على الأجهزة محدودة الموارد.
2 partsجزآن8 concepts8 مفاهيم12 slides12 شريحة
01
Week 1الأسبوع 12 Sept 20262 سبتمبر 2026
Why efficient deep learningلماذا التعلم العميق الكفء
Why modern vision, generative and language models cost so much to train and run, how algorithm, hardware and data together drive deep learning, and why the huge gap between cloud GPUs, phones and microcontrollers makes efficiency the central problem for embedded and edge AI.لماذا تكلّف نماذج الرؤية والنماذج التوليدية والنماذج اللغوية الحديثة كثيرًا في التدريب والتشغيل، وكيف تقود الخوارزمية والعتاد والبيانات معًا التعلم العميق، ولماذا تجعل الفجوة الهائلة بين وحدات GPU السحابية والهواتف والمتحكمات الدقيقة الكفاءةَ هي المشكلة المحورية للذكاء الاصطناعي المضمّن وعلى الحافة.
3 parts3 أجزاء15 concepts15 مفهومًا24 slides24 شريحة
02
Week 2الأسبوع 27 Sept 20267 سبتمبر 2026
Neural network fundamentalsأساسيات الشبكات العصبية
The building blocks every embedded model is made of: neurons, weights and activations, fully connected and convolution layers with their tensor shapes and output-size formulas, grouped and depthwise convolution, pooling, the normalization family, activation functions and the attention inside a transformer.اللبنات التي يتكون منها كل نموذج مضمّن: العصبونات والأوزان والتنشيطات (activations)، والطبقات المتصلة كليًا (fully connected) وطبقات الالتفاف (convolution) مع أشكال موتراتها (tensor shapes) وصيغ حجم المخرج، والالتفاف المجمّع (grouped) والعمقي (depthwise)، والتجميع (pooling)، وعائلة التطبيع (normalization)، ودوال التنشيط، والانتباه (attention) داخل المحوّل (transformer).
6 parts6 أجزاء28 concepts28 مفهومًا45 slides45 شريحة
03
Week 2الأسبوع 29 Sept 20269 سبتمبر 2026
Neural network efficiency metricsمقاييس كفاءة الشبكات العصبية
How to measure whether a neural network is small, fast and green enough for embedded hardware: latency versus throughput, the energy cost of moving data, parameter counts and model size by bit width, peak activations as the real memory bottleneck, and MACs, FLOPs and OPs as the computation budget, all worked through AlexNet layer by layer.كيف تقيس ما إذا كانت الشبكة العصبية صغيرة وسريعة وموفرة للطاقة بما يكفي للعتاد المضمّن: زمن الاستجابة (latency) مقابل الإنتاجية (throughput)، وكلفة الطاقة لنقل البيانات، وعدد المعاملات وحجم النموذج حسب عرض البت، وذروة التنشيطات بوصفها عنق الزجاجة الحقيقي للذاكرة، وMACs وFLOPs وOPs بوصفها ميزانية الحساب، وكل ذلك محلول على AlexNet طبقة بطبقة.
4 parts4 أجزاء18 concepts18 مفهومًا29 slides29 شريحة
4.1
Week 3الأسبوع 314 Sept 202614 سبتمبر 2026
Pruning and sparsity Iالتقليم (Pruning) والتناثر (Sparsity) الجزء الأول
Why moving data costs more energy than computing on it, how pruning is posed as loss minimization under a nonzero budget, the granularity spectrum from fine-grained to channel-level sparsity (including NVIDIA 2:4), and the first pruning criteria: magnitude, scaling factors, second-order Optimal Brain Damage, APoZ and regression-based channel selection.لماذا يستهلك نقل البيانات طاقة أكثر من الحساب عليها، وكيف يُصاغ التقليم بوصفه تقليلًا للخسارة تحت ميزانية للعناصر غير الصفرية، وطيف الدقة (granularity) من التناثر الدقيق إلى التناثر على مستوى القنوات (بما فيه NVIDIA 2:4)، ومعايير التقليم الأولى: المقدار (magnitude)، ومعاملات القياس (scaling factors)، وOptimal Brain Damage من الرتبة الثانية، وAPoZ، واختيار القنوات القائم على الانحدار (regression).
6 parts6 أجزاء29 concepts29 مفهومًا43 slides43 شريحة
4.2
Week 3الأسبوع 316 Sept 202616 سبتمبر 2026
Pruning ratios, fine-tuning and sparse hardwareنسب التقليم والضبط الدقيق والعتاد المتناثر
Part II of pruning: how to choose a pruning ratio per layer (sensitivity analysis, AMC, NetAdapt), how fine-tuning, iterative pruning and regularization recover accuracy, and how EIE, NVIDIA 2:4 tensor cores, TorchSparse and PointAcc turn weight and activation sparsity into real speed.الجزء الثاني من التقليم: كيف نختار نسبة تقليم لكل طبقة (تحليل الحساسية وAMC وNetAdapt)، وكيف يستعيد الضبط الدقيق (fine-tuning) والتقليم التكراري والتنظيم (regularization) الدقة، وكيف تحوّل EIE وأنوية NVIDIA 2:4 tensor cores وTorchSparse وPointAcc تناثر الأوزان والتنشيطات إلى سرعة حقيقية.
13 parts13 جزءًا44 concepts44 مفهومًا115 slides115 شريحة
5.1
Week 6الأسبوع 65 Oct 20265 أكتوبر 2026
Quantization (I)التكميم (Quantization) الجزء الأول
Why fewer bits save energy, how integers, fixed point and IEEE floating point (FP32, FP16, BF16, FP8, FP4) encode numbers, what quantization is, and K-means weight quantization with codebooks, centroid fine-tuning, Huffman coding and the Deep Compression pipeline.لماذا توفر البتات الأقل الطاقة، وكيف تمثل الأعداد الصحيحة والفاصلة الثابتة والفاصلة العائمة وفق IEEE (FP32 وFP16 وBF16 وFP8 وFP4) الأعداد، وما التكميم، وتكميم الأوزان بـK-means مع دفاتر الترميز (codebooks) والضبط الدقيق للمراكز (centroids) وترميز Huffman وخط عمل Deep Compression.
8 parts8 أجزاء29 concepts29 مفهومًا45 slides45 شريحة
5.2
Week 6الأسبوع 65 Oct 20265 أكتوبر 2026
Quantization (II): Linear Quantization and Integer-Only Inferenceالتكميم (Quantization) الجزء الثاني: التكميم الخطي والاستدلال بالأعداد الصحيحة فقط
Linear (affine) quantization r = S(q - Z): how to compute the scale and zero point from a tensor's range, why symmetric quantization sets Z = 0 for weights, and how a fully-connected or convolution layer runs entirely in integer arithmetic. It closes with INT8 accuracy and latency results from Jacob et al. (CVPR 2018).التكميم الخطي (affine) r = S(q - Z): كيف نحسب المقياس (scale) ونقطة الصفر (zero point) من مدى الموتر، ولماذا يضع التكميم المتماثل Z = 0 للأوزان، وكيف تعمل طبقة متصلة كليًا أو التفافية بالكامل بحساب الأعداد الصحيحة. وتُختتم بنتائج الدقة وزمن الاستجابة لـINT8 من Jacob et al. (CVPR 2018).
5 parts5 أجزاء19 concepts19 مفهومًا26 slides26 شريحة
5.3
Week 7الأسبوع 714 Oct 202614 أكتوبر 2026
Quantization (III): PTQ granularity, range clipping, rounding, QAT, binary/ternary and mixed precisionالتكميم (Quantization) الجزء الثالث: دقة PTQ، وقص المدى، والتقريب، وQAT، والثنائي والثلاثي، والدقة المختلطة
How to pick the linear quantization parameters (S, Z) after training (per-tensor vs per-channel vs group scales, VS-Quant and MX formats, activation range via EMA, calibration, MSE, KL divergence and OCTAV, AdaRound), how quantization-aware training with fake quantization and the straight-through estimator recovers accuracy, how binarization and ternarization push weights to 1 or 2 bits with XNOR and popcount arithmetic, and how HAQ searches per-layer mixed precision with hardware feedback.كيف نختار معاملات التكميم الخطي (S وZ) بعد التدريب (مقاييس لكل موتر مقابل لكل قناة مقابل لكل مجموعة، وصيغ VS-Quant وMX، ومدى التنشيط عبر EMA والمعايرة وMSE وتباعد KL وOCTAV، وAdaRound)، وكيف يستعيد التدريب الواعي بالتكميم (QAT) بالتكميم الزائف (fake quantization) والمقدّر المباشر (straight-through estimator) الدقة، وكيف يدفع التثنيث والتثليث الأوزان إلى 1 أو 2 بت بحساب XNOR وpopcount، وكيف يبحث HAQ عن دقة مختلطة لكل طبقة بتغذية راجعة من العتاد.
9 parts9 أجزاء41 concepts41 مفهومًا76 slides76 شريحة

Gradingتوزيع الدرجات

Weights to be confirmedالأوزان لم تُؤكد بعد

AssignmentsالواجباتTBC
- AssignmentواجبAssignment 1الواجب 1Date to be announcedيُعلن الموعد لاحقًاTBC

TotalالمجموعTBC

Study materialمواد المذاكرة

Midterm study guide: 58 pages on neural network fundamentals, efficiency metrics, pruning and quantizationدليل مذاكرة الاختبار النصفي: 58 صفحة عن أساسيات الشبكات العصبية ومقاييس الكفاءة والتقليم (pruning) والتكميم (quantization)

Topicsالموضوعات

Key efficiency metrics for deep learning computingمقاييس الكفاءة الأساسية لحوسبة التعلم العميق
Speeding up inference and training of neural networks on resource-constrained platformsتسريع الاستدلال (inference) وتدريب الشبكات العصبية على منصات محدودة الموارد
Tradeoffs between optimization techniquesالموازنات (tradeoffs) بين تقنيات التحسين
Recent research trends and industry practiceأحدث اتجاهات البحث وممارسات الصناعة
Hands-on compression and implementation of deep learning models on resource-constrained devicesتطبيق عملي لضغط نماذج التعلم العميق وتنفيذها على أجهزة محدودة الموارد