COE 592Lecture 00المحاضرة 00
Course overviewنظرة عامة على المقرر
Who teaches the course and what his lab builds, from UAV rail inspection and lightweight weed and drone detectors to a compact intrusion detection CNN, and the five takeaways that frame efficient deep learning on resource-constrained devices.من يدرّس المقرر وماذا يبني مختبره، من فحص السكك الحديدية بالطائرات المسيّرة (UAV) وكواشف الأعشاب والطائرات المسيّرة الخفيفة إلى شبكة CNN مدمجة لكشف التسلل، والنتائج الخمس التي تؤطر التعلم العميق الكفء على الأجهزة محدودة الموارد.
- Partsالأجزاء
- 2
- Conceptsالمفاهيم
- 8
- Slidesالشرائح
- 12
- Readingمدة القراءة
- 48 min48 دقيقة
AOverviewنظرة عامة
This lecture is the course in miniature. It opens with the instructor's lab and six field problems his group has worked on, from a drone mapping a rail corridor to a gateway spotting intrusions, and it closes with five promises about what you will be able to do by the end of term. Every later lecture is one of those promises made concrete.
هذه المحاضرة هي المقرر كله في صورة مصغرة. تبدأ بمختبر المحاضر وست مشكلات ميدانية عملت عليها مجموعته، من طائرة مسيّرة (drone) ترسم خريطة لممر سكة حديد إلى بوابة شبكة (gateway) تكشف الاختراقات، وتنتهي بخمسة وعود عما ستتمكن من فعله بنهاية الفصل. كل محاضرة لاحقة هي أحد هذه الوعود وقد صار ملموسًا.
As a PhD student you need it for three reasons. The exams will ask you to expand SERV, place a technique in the five-step loop, and compute whether a model fits a device from its parameter count and bit width. The research project, whatever Blackboard finally calls it, will be a hardware Deployment under a budget of memory, compute, latency and energy, and this lecture is where you learn to see every problem as that budget. Beyond the course, any Edge AI system you design is judged by the same arithmetic: does the model fit, does it answer in time, and is it still right when the world is wet, noisy or hostile?
تحتاجها بصفتك طالب دكتوراه لثلاثة أسباب. ستطلب منك الاختبارات أن تفك اختصار SERV، وأن تضع أي تقنية في مكانها من الحلقة ذات الخطوات الخمس، وأن تحسب هل يتسع الجهاز للنموذج انطلاقًا من parameter count (عدد المعاملات) وbit width (عدد البتات لكل قيمة). والمشروع البحثي، أيًّا كان الاسم الذي يطلقه عليه Blackboard في النهاية، سيكون deployment (نشرًا) على عتاد حقيقي ضمن ميزانية من الذاكرة والحوسبة وزمن الاستجابة (latency) والطاقة، وهذه المحاضرة هي حيث تتعلم أن ترى كل مشكلة على أنها تلك الميزانية. وأبعد من المقرر، فإن أي نظام Edge AI تصممه يُحكم عليه بالحساب نفسه: هل يتسع النموذج، وهل يجيب في الوقت المطلوب، وهل يبقى صحيحًا حين يكون العالم ممطرًا أو مليئًا بالضوضاء أو معاديًا؟
The path has five stops. You meet the lab and read its name, Secure, Efficient, Robust Vision, as a syllabus. You look at drones, farm robots, vehicles and IoT gateways and see the same problem each time: a model next to a sensor with no room to spare. You learn the question that unites them, how much model can this platform afford. You get the five takeaways and turn them into a working loop. And you plan week one, because a project that starts without a baseline never really starts.
للمسار خمس محطات. تتعرف على المختبر وتقرأ اسمه، Secure, Efficient, Robust Vision (رؤية آمنة وفعّالة ومتينة)، على أنه منهج المقرر. تنظر إلى الطائرات المسيّرة وروبوتات المزارع والمركبات وبوابات IoT فترى المشكلة نفسها في كل مرة: نموذج بجوار مستشعر بلا أي مساحة فائضة. تتعلم السؤال الذي يجمعها كلها: كم من النموذج تستطيع هذه المنصة أن تتحمل؟ تحصل على النتائج التعليمية الخمس (takeaways) وتحولها إلى حلقة عمل. ثم تخطط للأسبوع الأول، لأن المشروع الذي يبدأ دون خط أساس (baseline) لا يبدأ فعلًا.
Success looks likeعلامات النجاح
- Expand SERV and attach one course theme and one lab project to each letter.أن تفك اختصار SERV وتربط كل حرف بموضوع واحد من المقرر ومشروع واحد من مشاريع المختبر.
- Read any detection figure critically: separate parameters, FLOPs, latency and mAP, and treat a saliency map as attribution rather than proof.أن تقرأ أي شكل لنتائج الكشف قراءة نقدية: تفصل بين المعاملات (parameters) وFLOPs وزمن الاستجابة (latency) وmAP، وتعامل خريطة البروز (saliency map) على أنها إسناد (attribution) لا دليل.
- Explain with numbers why raw sensor data cannot be shipped to the cloud and why a moving vehicle sets the inference deadline.أن تشرح بالأرقام لماذا لا يمكن إرسال بيانات المستشعر الخام إلى السحابة، ولماذا تحدد المركبة المتحركة الموعد النهائي للاستدلال (inference).
- State the five takeaways in loop order and place any technique on the correct step.أن تذكر النتائج الخمس بترتيب الحلقة وتضع أي تقنية على الخطوة الصحيحة.
- Compute weight storage as parameters times bits over eight and decide whether a model fits a named board.أن تحسب حجم تخزين الأوزان على أنه عدد المعاملات مضروبًا في عدد البتات مقسومًا على ثمانية، وتقرر هل يتسع النموذج للوحة (board) محددة.
- Distinguish on-device inference from on-device training by what each must hold in memory.أن تميز بين الاستدلال على الجهاز (on-device inference) والتدريب على الجهاز (on-device training) بحسب ما يجب أن يحتفظ به كل منهما في الذاكرة.
- Leave week one with a device tier, a candidate model and a baseline metrics log.أن تخرج من الأسبوع الأول ومعك فئة جهاز (device tier) ونموذج مرشح وسجل مقاييس لخط الأساس (baseline metrics log).
How the course is structuredكيف يُبنى المقرر
Slide 11 gives the structure without a timetable. The five takeaways, measure efficiency, accelerate, analyse trade-offs, track the frontier, build and deploy, are the verbs of one loop, and the lectures posted so far follow it in order. The far end of the arc is a hedged reading: the takeaways echo MIT's 6.5940 almost word for word, and that course runs from metrics through pruning, quantization, architecture search, distillation and MCUNet to deployment and on-device training, so expect the same shape here, adjusted to what Blackboard announces.
تعطي الشريحة 11 بنية المقرر دون جدول زمني. النتائج الخمس، قياس الكفاءة، والتسريع، وتحليل المفاضلات (trade-offs)، ومتابعة أحدث ما وصل إليه البحث (frontier)، والبناء والنشر، هي أفعال حلقة واحدة، والمحاضرات المنشورة حتى الآن تتبعها بالترتيب. أما الطرف البعيد من المسار فهو قراءة غير مؤكدة: النتائج تكاد تطابق حرفيًا مقرر MIT 6.5940، وذلك المقرر يمضي من المقاييس إلى التقليم (pruning) ثم التكميم (quantization) ثم البحث عن البنية (architecture search) ثم التقطير (distillation) ثم MCUNet وصولًا إلى النشر والتدريب على الجهاز، لذا توقع الشكل نفسه هنا، مع تعديله بحسب ما يعلنه Blackboard.
| Whenمتى | Lecturesالمحاضرات | Verb of the loopفعل الحلقة |
|---|---|---|
| Week 1الأسبوع 1 | Course overview; why efficient deep learningنظرة عامة على المقرر؛ لماذا التعلم العميق الفعّال (efficient deep learning) | Motivation: the field portfolio, the five takeaways, and the cost of accuracyالدافع: مشاريع المختبر الميدانية، والنتائج الخمس، وتكلفة الدقة |
| Week 2الأسبوع 2 | Neural network fundamentals; efficiency metricsأساسيات الشبكات العصبية؛ مقاييس الكفاءة | Measure: layers and their shapes, then parameters, memory, MACs, latency and energyالقياس: الطبقات وأشكالها، ثم المعاملات والذاكرة وMACs وزمن الاستجابة (latency) والطاقة |
| Week 3الأسبوع 3 | Pruning and sparsity, parts I and IIالتقليم (pruning) والتناثر (sparsity)، الجزآن الأول والثاني | Optimize: remove weights, choose per-layer ratios, recover accuracy, exploit sparsity in hardwareالتحسين: إزالة الأوزان، واختيار نسبة لكل طبقة، واستعادة الدقة، والاستفادة من التناثر في العتاد |
| Onwardما بعد ذلك | Quantization, architecture search, distillation, TinyML and deploymentالتكميم (quantization)، والبحث عن البنية (architecture search)، والتقطير (distillation)، وTinyML والنشر | The remaining verbs of the loop, following the MIT 6.5940 sequence the takeaways mirrorبقية أفعال الحلقة، وفق تسلسل MIT 6.5940 الذي تحاكيه النتائج |
Logistics as known from the deck and the registryالمعلومات التنظيمية كما وردت في العرض وسجل المقرر
- Courseالمقرر
- COE 592, Machine Learning on Embedded Systems, 3 creditsCOE 592، تعلم الآلة على الأنظمة المدمجة (Machine Learning on Embedded Systems)، 3 ساعات معتمدة
- Termالفصل
- Fall 2026 (T261)خريف 2026 (T261)
- Instructorالمحاضر
- Dr. Abdul Jabbar Siddiqui, lead of the SERV Labد. عبد الجبار صديقي (Dr. Abdul Jabbar Siddiqui)، قائد مختبر SERV
- Meetingsالمحاضرات
- Monday and Wednesday, 20:10 to 21:25, Building 59, Room 2004الاثنين والأربعاء، من 20:10 إلى 21:25، المبنى 59، القاعة 2004
- Syllabus and gradingالمنهج والدرجات
- Posted on Blackboard; slide 12 of this deck says only thatمنشور على Blackboard؛ والشريحة 12 من هذا العرض لا تذكر غير ذلك
- Textbook, office hoursالكتاب المقرر والساعات المكتبية
- Not stated in the deck; check Blackboardغير مذكورة في العرض؛ راجع Blackboard
How the course is gradedكيف يُقيَّم المقرر
One calibration point is available. The MIT course these takeaways mirror grades entirely on five labs and a group project, with no tests or exams. That is MIT's scheme, not KFUPM's, and a graduate course here typically keeps exams. Read it as a signal about emphasis rather than a prediction: hands-on compression and deployment carry real weight, so the project deserves planning from the first week.
هناك نقطة معايرة واحدة متاحة. مقرر MIT الذي تحاكيه هذه النتائج يُقيَّم بالكامل على خمسة مختبرات ومشروع جماعي، دون اختبارات قصيرة أو اختبارات نهائية. هذا نظام MIT وليس نظام KFUPM، والمقرر العالي هنا يحتفظ عادة بالاختبارات. اقرأه على أنه إشارة إلى مواضع التركيز لا على أنه تنبؤ: الضغط (compression) والنشر العمليان لهما وزن حقيقي، لذا يستحق المشروع التخطيط من الأسبوع الأول.
How to plan for the projectكيف تخطط للمشروع
Takeaway 5 promises hands-on experience compressing and implementing models on resource-constrained devices. That is a hardware deployment with a report, and the students who struggle with it are rarely short of techniques. They are short of a baseline to compare against and a board that arrives on time.
النتيجة 5 تعد بخبرة عملية في ضغط النماذج وتطبيقها على resource-constrained devices (أجهزة محدودة الموارد). هذا يعني نشرًا على عتاد حقيقي مع تقرير، والطلاب الذين يتعثرون فيه نادرًا ما ينقصهم معرفة التقنيات. ما ينقصهم هو خط أساس يقارنون به، ولوحة تصل في موعدها.
- Choose a device tier before a model. A 256 KB SRAM microcontroller, a Raspberry Pi and a Jetson module admit very different candidates, and the tier is an input to model selection, not an output of it.اختر فئة الجهاز قبل النموذج. متحكم دقيق (microcontroller) بذاكرة SRAM سعتها 256 KB، وRaspberry Pi، ووحدة Jetson تقبل كل منها نماذج مرشحة مختلفة جدًا، والفئة مُدخل لاختيار النموذج لا ناتج عنه.
- Pick a candidate model that already fits or is one or two optimizations from fitting, and record its parameter count and float32 size on day one.اختر نموذجًا مرشحًا يتسع بالفعل أو يبعد خطوة أو خطوتين من التحسين عن أن يتسع، وسجّل عدد معاملاته وحجمه بصيغة float32 في اليوم الأول.
- Start a metrics log before the first optimization: accuracy, size, peak memory, latency and energy, with one row per experiment and a note of what changed. This is the compare step made permanent.ابدأ سجل المقاييس قبل أول تحسين: الدقة، والحجم، وذروة استهلاك الذاكرة (peak memory)، وزمن الاستجابة، والطاقة، بصف واحد لكل تجربة مع ملاحظة بما تغيّر. هذه هي خطوة المقارنة وقد صارت دائمة.
- Tie the project to a SERV theme. A model that is efficient and also robust to weather or shift, or lightweight and also secure against crafted inputs, is the kind of contribution the lab publishes.اربط المشروع بأحد موضوعات SERV. النموذج الفعّال والمتين أمام الطقس أو تحوّل البيانات (shift)، أو الخفيف والآمن أمام المدخلات المصممة خصيصًا لخداعه (crafted inputs)، هو نوع الإسهام الذي ينشره المختبر.
- Order the hardware in week one. Shipping time is the most common reason a deployment slips.اطلب العتاد في الأسبوع الأول. مدة الشحن هي أكثر سبب شائع لتأخر النشر.
How to study this lectureكيف تذاكر هذه المحاضرة
- Read the full guide once for the big picture, then return to one part at a time when you want the numbers.اقرأ الدليل كاملًا مرة واحدة لتأخذ الصورة الكبيرة، ثم ارجع إلى جزء واحد في كل مرة حين تريد الأرقام.
- Answer every recall prompt in your head, or on paper, before you reveal it. Retrieval effort is what makes SERV, the loop and the size formula stick.أجب عن كل سؤال استرجاع في ذهنك أو على الورق قبل أن تكشف الإجابة. جهد الاسترجاع هو ما يثبّت SERV والحلقة ومعادلة الحجم في ذاكرتك.
- Take each quiz and read the explanation even when you are right.حل كل اختبار قصير واقرأ الشرح حتى عندما تكون إجابتك صحيحة.
- Use the confidence-threshold and model-fit simulators until you can predict their output before you move the slider.استخدم محاكيَي عتبة الثقة (confidence threshold) وملاءمة النموذج (model fit) حتى تستطيع توقع ناتجهما قبل أن تحرك المؤشر.
- Mark a concept as understood only when you could explain it to a classmate without looking. Unmarked concepts show you where to return.لا تضع علامة "فهمت" على مفهوم إلا إذا كنت قادرًا على شرحه لزميل دون أن تنظر. المفاهيم غير المعلَّمة تريك أين يجب أن تعود.
- Come back after a few days and retry the prompts and quizzes cold. Spaced practice builds the long-term memory an exam needs.عد بعد بضعة أيام وأعد محاولة الأسئلة والاختبارات القصيرة دون تحضير. التدرب المتباعد هو ما يبني الذاكرة طويلة المدى التي يحتاجها الاختبار.
Sourcesالمصادر
- 6.5940 TinyML and Efficient Deep Learning Computing, Fall 2024DocsMIT HAN Lab (Song Han)The course whose framing and sequence the five takeaways mirror; graded on five labs and a project with no examsالمقرر الذي تحاكي النتائج الخمس طريقة عرضه وتسلسله؛ يُقيَّم على خمسة مختبرات ومشروع دون اختبارات(opens in a new tab)(يفتح في تبويب جديد)
- Deep Compression: Compressing Deep Neural Networks with Pruning, Trained Quantization and Huffman CodingPaperICLR 2016 (Han, Mao and Dally)The canonical worked loop: 35x to 49x smaller, 3x to 4x faster, 3x to 7x more energy efficientالمثال النموذجي على تطبيق الحلقة كاملة: أصغر بمقدار 35 إلى 49 مرة، وأسرع بمقدار 3 إلى 4 مرات، وأكفأ في الطاقة بمقدار 3 إلى 7 مرات(opens in a new tab)(يفتح في تبويب جديد)
BThe 2 partsالأجزاء الـ2
- 01The instructor and edge AI in practiceالمحاضر والذكاء الاصطناعي على الحافة (Edge AI) عمليًاWho teaches the course, and what his lab's projects show about running vision and security models on UAVs, farm robots, vehicles and IoT devices.من يدرّس المقرر، وماذا تكشف مشاريع مختبره عن تشغيل نماذج الرؤية والأمن على الطائرات المسيّرة (UAV) وروبوتات المزارع والمركبات وأجهزة إنترنت الأشياء (IoT).5 concepts5 مفاهيمSlides 1-8الشرائح 1-830 min30 دقيقة
- 1.1Know the instructor: SERV as the map of the courseتعرّف على الأستاذ: SERV خريطة المقرر
- 1.2Multi-sensor payloads: what an inspection rig carries and why it cannot carry muchالحمولات متعددة الحساسات: ما تحمله منصة الفحص ولماذا لا تستطيع أن تحمل الكثير
- 1.3Nano detectors on farms and in the rain: efficiency and robustness measuredكواشف نانوية في المزارع وتحت المطر: قياس الكفاءة والمتانة
- 1.4PNet-IDS: a small CNN that watches IoT traffic at line ratePNet-IDS: شبكة CNN صغيرة تراقب حركة بيانات IoT بسرعة line rate
- 1.5Prior works: safety-critical inference at the roadside and under the trainأعمال سابقة: استدلال حرج للسلامة على جانب الطريق وأسفل القطار
- 02Course takeaways and getting startedمخرجات المقرر والبدايةWhat the course promises you will be able to do, the five pillars of efficient deep learning on constrained devices, and what to do in week one.ما الذي يعدك المقرر بأن تصبح قادرًا عليه، والركائز الخمس للتعلم العميق الكفء على الأجهزة المحدودة، وما الذي تفعله في الأسبوع الأول.3 concepts3 مفاهيمSlides 9-12الشرائح 9-1218 min18 دقيقة
- 2.1Joining the cohort: introductions and the pre-course surveyالانضمام إلى الدفعة: التعارف واستبيان ما قبل المقرر
- 2.2Five takeaways that form one optimization loopخمس مخرجات تشكّل حلقة تحسين واحدة
- 2.3The syllabus lives on Blackboard: plan from week oneالخطة الدراسية موجودة على Blackboard: خطّط من الأسبوع الأول
CGlossary and referenceالمصطلحات والمرجع
- GlossaryالمصطلحاتEvery term from the lecture, defined once, with links back to the slides that use it.كل مصطلح في المحاضرة معرّف مرة واحدة، مع روابط تعيدك إلى الشرائح التي تستخدمه.
- Reference sheetالورقة المرجعيةThe lecture on one printable page, for revision before a quiz or exam.المحاضرة كاملة في صفحة واحدة قابلة للطباعة، للمراجعة قبل الاختبار القصير أو الامتحان.