Course overviewنظرة عامة على المقرر

The course is COE 592, Machine Learning on Embedded Systems, offered in term T261 and taught by Dr. Abdul Jabbar Siddiqui of the Department of Computer Engineering. Of everything on the title and bio slides, one line carries the most information: he leads the SERV Lab, and SERV stands for Secure, Efficient, Robust Vision. Those three adjectives are the map of the course before the syllabus arrives in Part 02.

المقرر هو COE 592، تعلّم الآلة على الأنظمة المدمجة (Machine Learning on Embedded Systems)، ويُطرح في الفصل T261، ويدرّسه الدكتور عبد الجبار صدّيقي (Dr. Abdul Jabbar Siddiqui) من قسم هندسة الحاسب. من بين كل ما في شريحتي العنوان والسيرة الذاتية، هناك سطر واحد يحمل أكبر قدر من المعلومات: فهو يقود SERV Lab، وSERV اختصار لـ Secure, Efficient, Robust Vision، أي رؤية آمنة وفعّالة ومتينة. هذه الصفات الثلاث هي خريطة المقرر قبل أن يصل المنهج الدراسي في الجزء 02.

Reading SERV as a syllabusقراءة SERV على أنها منهج دراسي

Look at the interests list again and notice that every item is an instance of one question: can a model run near the sensor, inside a budget of memory, compute, energy and latency, and still be trusted? Edge AI and IoT name the setting. UAV inspection and transportation systems name the platforms. Adversarial machine learning and AI for cybersecurity name the threats. MIT 6.5940, whose course description slide 11's takeaways echo almost word for word, opens with the same framing, that deep networks "demand extraordinary levels of computation, hindering its deployment on everyday devices" (Han, MIT 6.5940).

انظر إلى قائمة الاهتمامات البحثية مرة أخرى، ولاحظ أن كل بند فيها حالة من سؤال واحد: هل يمكن لنموذج أن يعمل قرب الحساس، ضمن ميزانية من الذاكرة والحوسبة والطاقة وزمن الاستجابة، ويبقى مع ذلك جديرًا بالثقة؟ Edge AI وIoT تسمّيان البيئة. فحص الطائرات المسيّرة UAV وأنظمة النقل تسمّي المنصات. تعلّم الآلة العدائي (adversarial machine learning) والذكاء الاصطناعي للأمن السيبراني يسمّيان التهديدات. ومقرر MIT 6.5940، الذي تردّد خلاصاتُ الشريحة 11 وصفَه تقريبًا كلمة بكلمة، يبدأ بالإطار نفسه: أن الشبكات العميقة "تتطلب مستويات استثنائية من الحوسبة، مما يعيق نشرها على الأجهزة اليومية" (Han, MIT 6.5940).

Efficient is the theme that gets the most lecture time, because it is where the arithmetic lives: how many parameters, how many operations, how many milliseconds. Robust is what happens to that efficient model when rain, noise or a new camera changes the input distribution. Secure is the adversarial case, where the change in the input is chosen on purpose: Goodfellow, Shlens and Szegedy defined adversarial examples as inputs formed by applying "small but intentionally worst-case perturbations", and traced the vulnerability to the models' linear behaviour (Goodfellow et al., 2015). A model that is only efficient can be fooled; a model that is only robust may not fit on the drone.

الكفاءة Efficient هي الموضوع الذي يأخذ أكبر وقت من المحاضرات، لأنها حيث يعيش الحساب: كم معاملًا، وكم عملية، وكم ميلي ثانية. المتانة Robust هي ما يحدث لذلك النموذج الفعّال حين يغيّر المطر أو الضوضاء أو كاميرا جديدة توزيعَ المدخلات. والأمان Secure هو الحالة العدائية، حيث يُختار التغيير في المدخل عن قصد: عرّف Goodfellow وShlens وSzegedy الأمثلة العدائية (adversarial examples) بأنها مدخلات تتكوّن بتطبيق "اضطرابات صغيرة لكنها مقصودة وتمثّل أسوأ حالة"، وأرجعوا هذه الهشاشة إلى السلوك الخطي للنماذج (Goodfellow et al., 2015). النموذج الفعّال فقط يمكن خداعه، والنموذج المتين فقط قد لا يتّسع على الطائرة المسيّرة.

Slide 3 is a wall of figures with no captions, so start by describing what is visibly there. A small unmanned helicopter sits on gravel with its camera payload circled (panel A). Beside it is a rugged field case holding a ground control station (panel B). A snowy corridor with a railway line running through it has been rebuilt in 3D (panel C). Two road vehicles carry roof rigs with four labelled sensors: Visual Camera, Thermal Camera, GPS receiver and LiDAR. Three top-down strips of the same track corridor follow, two with the rails traced in blue and encroaching vegetation segmented in red, one with the vegetation segmented in purple. A photogrammetric point cloud of the corridor appears once in true colour and once coloured by elevation. Finally a ROS-style dashboard shows six panes: an IR camera looking left and right, RGB cameras looking right, forward and left, and a LiDAR output.

الشريحة 3 جدار من الأشكال بلا تعليقات، لذا ابدأ بوصف ما هو ظاهر فيها. مروحية صغيرة بدون طيار تقف على الحصى وحمولتها من الكاميرات محاطة بدائرة (اللوحة A). بجانبها حقيبة ميدانية متينة تضم محطة تحكم أرضية (اللوحة B). وممر مغطّى بالثلج يمر عبره خط سكة حديدية أُعيد بناؤه ثلاثي الأبعاد ( اللوحة C). مركبتان على الطريق تحمل كلٌّ منهما منصة على السقف بأربعة حساسات معنونة: Visual Camera وThermal Camera وGPS receiver وLiDAR. تتبعها ثلاث شرائط علوية لممر السكة نفسه، اثنان منها رُسمت فيهما القضبان بالأزرق وقُسّم فيهما الغطاء النباتي المتعدّي بالأحمر، وواحد قُسّم فيه الغطاء النباتي بالبنفسجي. وتظهر سحابة نقاط فوتوغرامترية (photogrammetric point cloud) للممر مرة بألوانها الحقيقية ومرة ملوّنة بحسب الارتفاع. وأخيرًا لوحة تحكم على طراز ROS تعرض ست نوافذ: كاميرا أشعة تحت حمراء IR تنظر يسارًا ويمينًا، وكاميرات RGB تنظر يمينًا وأمامًا ويسارًا، ومخرجات LiDAR.

Read together, this appears to be a rail corridor inspection platform: a Multi-sensor platform mounted on a UAV and on vehicles, mapping the track and the vegetation around it. The slide attributes no paper and no result, so treat everything beyond the visible labels as a description of the problem class. The instructor did co-author a review of exactly this field, a literature survey of automated machine vision inspection systems in railways, prepared at the National Research Council of Canada for Transport Canada (Siddiqui, Mammeri and Liu, 2021), which is the closest citable link for the theme.

إذا قُرئت هذه الأشكال معًا، فهي تبدو منصة لفحص ممرات السكك الحديدية: منصة متعددة الحساسات Multi-sensor platform مثبّتة على طائرة مسيّرة UAV وعلى مركبات، ترسم خريطة للسكة والغطاء النباتي حولها. لا تنسب الشريحة أي ورقة أو نتيجة، فتعامل مع كل ما يتجاوز العناوين الظاهرة على أنه وصف لصنف المشكلة. وقد شارك الأستاذ فعلًا في تأليف مراجعة لهذا المجال تحديدًا، وهي مسح أدبي لأنظمة الفحص الآلي بالرؤية الحاسوبية في السكك الحديدية، أُعدّ في المجلس الوطني للبحوث في كندا لصالح هيئة النقل الكندية Transport Canada (Siddiqui, Mammeri and Liu, 2021)، وهي أقرب رابط يمكن الاستشهاد به لهذا الموضوع.

Four sensors, four different questionsأربعة حساسات، أربعة أسئلة مختلفة

Each sensor on the roof rig answers a question the others cannot. A visual camera sees colour and texture, which is what separates green vegetation from grey ballast in the orthomosaic strips. A Thermal camera images emitted infrared instead of reflected light, so it sees temperature: a hot bearing or a person on the track at night shows up with no visible illumination at all. LiDAR is, in NOAA's definition, a remote sensing method that uses light in the form of a pulsed laser to measure ranges, and those ranges become the 3D Point cloud in which clearance and elevation can be measured. GPS contributes no picture of the scene, only where and when each frame was taken, which is what lets overlapping aerial photos be stitched into a georeferenced strip and the segmentation overlays registered onto it.

كل حساس على منصة السقف يجيب عن سؤال لا يستطيع غيره الإجابة عنه. الكاميرا المرئية ترى اللون والملمس، وهذا ما يفصل الغطاء النباتي الأخضر عن حصى السكة الرمادي في شرائط orthomosaic. أما Thermal camera فتصوّر الأشعة تحت الحمراء المنبعثة بدلًا من الضوء المنعكس، فهي ترى درجة الحرارة: محمل عجلة ساخن أو شخص على السكة ليلًا يظهر من دون أي إضاءة مرئية على الإطلاق. وLiDAR، بحسب تعريف NOAA، طريقة استشعار عن بعد تستخدم الضوء على شكل ليزر نبضي لقياس المسافات، وتتحول تلك المسافات إلى point cloud ثلاثية الأبعاد يمكن قياس الخلوص والارتفاع فيها. لا يقدّم GPS أي صورة للمشهد، بل فقط أين ومتى التُقطت كل لقطة، وهذا ما يسمح بخياطة الصور الجوية المتداخلة في شريط مرجعي جغرافيًا (georeferenced) وتسجيل طبقات التقسيم فوقه.

Why the payload cannot carry muchلماذا لا تستطيع الحمولة أن تحمل الكثير

The reason this slide belongs in an embedded machine learning course is the platform, not the sensors. A UAV lifts a fixed mass, and every gram of camera, LiDAR or computer is a gram less battery. Its flight time is set by that battery, and the compute it can run is set by what the battery can feed without shortening the flight. A car rig has more of all three, but still nothing like a data center. So there are exactly two ways to turn the sensor streams into an inspection result: shrink the model until it runs on board, which is the E of SERV, or ship the raw data somewhere that can process it.

سبب وجود هذه الشريحة في مقرر عن تعلّم الآلة المدمج هو المنصة، لا الحساسات. الطائرة المسيّرة ترفع كتلة ثابتة، وكل غرام من الكاميرا أو LiDAR أو الحاسوب هو غرام أقل من البطارية. زمن طيرانها تحدده تلك البطارية، والحوسبة التي يمكنها تشغيلها تحددها قدرة البطارية على تغذيتها من دون تقصير زمن الطيران. منصة السيارة لديها قدر أكبر من الثلاثة، لكنها لا تزال بعيدة جدًا عن مركز بيانات. لذلك هناك طريقتان فقط لتحويل تدفقات الحساسات إلى نتيجة فحص: تصغير النموذج حتى يعمل على متن المنصة، وهذا هو حرف E في SERV، أو إرسال البيانات الخام إلى مكان يستطيع معالجتها.

Shipping the raw data does not scale. Satyanarayanan's edge computing argument gives the numbers: if 12,000 users each stream 1080p video, the ingress link into the cloud needs about 100 Gbit/s, and a million users would need 8.5 Tbit/s. The cumulative demand is "considerably lower if the raw data is analyzed on cloudlets" near the sensors and only the extracted information travels onward (Satyanarayanan, 2017). Five cameras on one vehicle are a very small version of the same problem.

إرسال البيانات الخام لا يتوسّع. حجة Satyanarayanan عن الحوسبة الطرفية تعطي الأرقام: إذا بثّ 12,000 مستخدم كلٌّ منهم فيديو بدقة 1080p، فإن الوصلة الداخلة إلى السحابة تحتاج إلى نحو 100 Gbit/s، ومليون مستخدم يحتاجون إلى 8.5 Tbit/s. ويكون الطلب التراكمي "أقل بكثير إذا حُلّلت البيانات الخام على cloudlets" قرب الحساسات ولم تنتقل إلا المعلومات المستخرجة (Satyanarayanan, 2017). خمس كاميرات على مركبة واحدة نسخة صغيرة جدًا من المشكلة نفسها.

A farm robot drives between rows of cotton seedlings and must find the weeds without stopping. That is an Object detection task, and the model that does it rides on the robot: no cloud, no rack, just whatever compute the vehicle's battery can feed. Slide 4 shows the instructor's answer, EcoWeedNet, described on the slide as lightweight, computationally and energy efficient, and aimed at sustainable, low-carbon, consumer-electronics-based Precision agriculture.

روبوت زراعي يسير بين صفوف شتلات القطن ويجب أن يجد الأعشاب الضارة دون أن يتوقف. هذه مهمة Object detection، والنموذج الذي ينفّذها يركب على الروبوت: لا سحابة، ولا خوادم، فقط أي قدرة حوسبة تستطيع بطارية المركبة تغذيتها. تعرض الشريحة 4 إجابة الأستاذ، EcoWeedNet، الموصوف على الشريحة بأنه خفيف، وفعّال حسابيًا وفي استهلاك الطاقة، وموجّه إلى Precision agriculture مستدامة ومنخفضة الكربون وقائمة على الإلكترونيات الاستهلاكية.

Efficient: what a nano detector isالكفاءة: ما هو الكاشف النانوي

The comparison on slide 4 is against YOLO11n and YOLO12n. In the YOLO family the suffix is a size class: n (nano) is the smallest, then s, m, l and x. The classes share one architecture and differ in width and depth, so the table below is the cleanest picture of what "lightweight" costs and buys. The figures are Ultralytics' own, on COCO validation at 640 px.

المقارنة في الشريحة 4 هي مع YOLO11n وYOLO12n. في عائلة YOLO تدل اللاحقة على فئة الحجم: n (نانو) هي الأصغر، ثم s وm وl وx. تشترك الفئات في بنية واحدة وتختلف في العرض والعمق، لذا فالجدول أدناه أوضح صورة لما يكلّفه وما يشتريه وصف "خفيف". الأرقام من Ultralytics نفسها، على مجموعة التحقق من COCO بدقة 640 px.

The EcoWeedNet paper reports 95.2% mAP@0.5 on the CottonWeedDet12 dataset with about 4.21% of YOLOv4's parameters and 6.59% of its GFLOPs, using two parameter-free attention modules (Khater et al., 2025). Whether a Lightweight model is good enough is always this pair of numbers: an accuracy metric next to a cost metric, never one alone.

تذكر ورقة EcoWeedNet دقة 95.2% في mAP@0.5 على مجموعة بيانات CottonWeedDet12 بنحو 4.21% من معاملات YOLOv4 و6.59% من GFLOPs الخاصة به، باستخدام وحدتي انتباه (attention modules) خاليتين من المعاملات (Khater et al., 2025). الحكم على ما إذا كان Lightweight model جيدًا بما يكفي هو دائمًا هذا الزوج من الأرقام: مقياس دقة بجانب مقياس تكلفة، وليس أحدهما وحده أبدًا.

What a GradCAM++ heatmap does and does not proveما تثبته خريطة حرارة GradCAM++ وما لا تثبته

The slide's Figure 5 lays GradCAM++ heatmaps from YOLO11n, YOLO12n and EcoWeedNet side by side on seedling images, and its caption says EcoWeedNet showed better emphasis and focus on weed-relevant regions. GradCAM++ computes a weighted combination of the positive partial derivatives of the last convolutional layer's feature maps with respect to a class score (Chattopadhyay et al., 2018). In plain terms it answers "which pixels pushed this score up". It does not answer "is this score right". A model can attend to the weed and still misclassify it, or attend to the soil and get lucky. The caption's claim is a qualitative observation about attention; the 95.2% is the quantitative claim about correctness, and they are different kinds of evidence.

يضع الشكل 5 في الشريحة خرائط حرارة GradCAM++ من YOLO11n وYOLO12n وEcoWeedNet جنبًا إلى جنب على صور الشتلات، ويقول تعليقه إن EcoWeedNet أظهر تركيزًا وإبرازًا أفضل للمناطق المتعلقة بالأعشاب الضارة. يحسب GradCAM++ تركيبة موزونة من المشتقات الجزئية الموجبة لخرائط الميزات (feature maps) في آخر طبقة التفافية بالنسبة إلى درجة فئة معينة (Chattopadhyay et al., 2018). بعبارة بسيطة، هو يجيب عن سؤال "أي البكسلات رفعت هذه الدرجة"، ولا يجيب عن سؤال "هل هذه الدرجة صحيحة". قد ينتبه النموذج إلى العشبة ومع ذلك يخطئ في تصنيفها، أو ينتبه إلى التربة ويصيب بالحظ. ادعاء التعليق ملاحظة نوعية عن الانتباه، أما 95.2% فهو الادعاء الكمّي عن الصواب، وهما نوعان مختلفان من الأدلة.

Robust: the same detector in the rainالمتانة: الكاشف نفسه تحت المطر

Slide 5 moves from a farm to a rainy sky. The task is to tell a UAV from a bird in weather that smears both into grey blobs. The baseline is YOLOv5-m, the medium class of an earlier family (21.2M parameters, 49.0B FLOPs in the Ultralytics YOLOv5 table). The instructor's model is YOLO-RAW, published in IEEE Transactions on Intelligent Transportation Systems and evaluated on three adverse test sets, rainy, additive Gaussian noise and motion blurred (Munir et al., 2025). The slide never expands RAW, and neither does the paper's title or abstract, so this course does not expand it either.

تنتقل الشريحة 5 من مزرعة إلى سماء ممطرة. المهمة هي تمييز طائرة مسيّرة UAV من طائر في طقس يلطّخ كليهما إلى كتل رمادية. خط الأساس هو YOLOv5-m، الفئة المتوسطة من عائلة أقدم (21.2M معامل و49.0B من FLOPs في جدول Ultralytics YOLOv5). ونموذج الأستاذ هو YOLO-RAW، المنشور في IEEE Transactions on Intelligent Transportation Systems، والمُقيَّم على ثلاث مجموعات اختبار صعبة: ممطرة، وبضوضاء غاوسية مضافة (additive Gaussian noise)، وبتشويش حركي (Munir et al., 2025). لا تفكّ الشريحة اختصار RAW، ولا يفكّه عنوان الورقة ولا ملخصها، لذا لا يفكّه هذا المقرر أيضًا.

Read the second row first. YOLOv5-m looks at the centre gull and reports UAV 0.29: a False positive, and one that a drone-detection system would act on. Its only correct box is Bird 0.35. YOLO-RAW boxes all five birds with confidence scores from about 0.37 to 0.73 and reports no drone in the sky. In the bottom row, where a real drone flies over a field, both models find it, 0.90 against 0.93. The gain is not on the easy target; it is on the ambiguous ones.

اقرأ الصف الثاني أولًا. ينظر YOLOv5-m إلى النورس في المنتصف ويُبلغ عن UAV 0.29: وهذه False positive، أي إيجابية كاذبة، ومن النوع الذي سيتصرف بناءً عليه نظام كشف الطائرات المسيّرة. صندوقه الصحيح الوحيد هو Bird 0.35. أما YOLO-RAW فيحيط الطيور الخمسة كلها بصناديق بدرجات ثقة confidence scores تتراوح من نحو 0.37 إلى 0.73، ولا يُبلغ عن أي طائرة مسيّرة في السماء. وفي الصف الأخير، حيث تحلّق طائرة مسيّرة حقيقية فوق حقل، يجدها النموذجان كلاهما، 0.90 مقابل 0.93. المكسب ليس على الهدف السهل، بل على الأهداف الملتبسة.

A detector reports every box above a confidence threshold. Ultralytics' default is 0.25, and its documentation says raising it "can help reduce false positives" (Ultralytics predict mode). So a natural question is whether the baseline's mistake could be fixed by tuning the threshold instead of changing the model. Drag the slider and watch what each setting costs.

يُبلغ الكاشف عن كل صندوق فوق confidence threshold، أي عتبة الثقة. القيمة الافتراضية في Ultralytics هي 0.25، وتقول وثائقها إن رفعها "قد يساعد في تقليل الإيجابيات الكاذبة" (Ultralytics predict mode). لذا فالسؤال الطبيعي هو: هل يمكن إصلاح خطأ خط الأساس بضبط العتبة بدلًا من تغيير النموذج؟ اسحب المنزلق وراقب ما يكلّفه كل إعداد.

At 0.30 the false UAV disappears and YOLOv5-m loses nothing else, but it still sees one bird in five. At 0.60 YOLOv5-m already reports nothing and YOLO-RAW has lost three of its five correct birds. The threshold only slices whatever confidence mass the model produced. YOLO-RAW is better because it moved that mass onto the right classes in the first place, not because it was thresholded differently.

عند 0.30 تختفي الطائرة المسيّرة الوهمية ولا يخسر YOLOv5-m شيئًا آخر، لكنه لا يزال لا يرى إلا طائرًا واحدًا من خمسة. وعند 0.60 لا يُبلغ YOLOv5-m عن أي شيء أصلًا، ويكون YOLO-RAW قد خسر ثلاثة من طيوره الخمسة الصحيحة. العتبة تقطع فقط كتلة الثقة التي أنتجها النموذج، أيًّا كانت. YOLO-RAW أفضل لأنه نقل تلك الكتلة إلى الفئات الصحيحة من البداية، لا لأنه طُبّقت عليه عتبة مختلفة.

A home or factory gateway forwards packets from hundreds of Internet of Things devices, and it has a fraction of a phone's compute. Somewhere in that box a decision has to be made, per packet or per flow, about whether the traffic is an attack. That is an Intrusion detection system, and slide 6 is the first page of the instructor's PNet-IDS paper, a lightweight and generalizable Convolutional neural network for intrusion detection in the Internet of Things.

بوابة منزلية أو في مصنع تمرّر الحزم من مئات أجهزة Internet of Things، ولديها جزء صغير من قدرة الهاتف الحسابية. في مكان ما داخل ذلك الصندوق يجب اتخاذ قرار، لكل حزمة أو لكل تدفق (flow)، بشأن ما إذا كانت حركة البيانات هجومًا. هذا هو Intrusion detection system، أي نظام كشف التسلل، والشريحة 6 هي الصفحة الأولى من ورقة الأستاذ PNet-IDS، وهي شبكة CNN خفيفة وقابلة للتعميم لكشف التسلل في إنترنت الأشياء.

Why an intrusion detector must be lightweightلماذا يجب أن يكون كاشف التسلل خفيفًا

The abstract states the problem in one sentence: deep learning detectors perform well, but their "high computational and storage requirements make these impractical for most IoT devices" (Iliyasu et al., 2025). NIST's guide to intrusion detection and prevention lists four classes of system, and the relevant one here is network-based: a sensor that watches traffic on a segment and analyses it for suspicious activity (NIST SP 800-94). On an IoT gateway that sensor is the gateway itself, so the model competes for the same small CPU that forwards the packets, and it has to keep up with the link, which network engineers call running at line rate.

يذكر الملخص المشكلة في جملة واحدة: كواشف التعلّم العميق تؤدي جيدًا، لكن "متطلباتها العالية من الحوسبة والتخزين تجعلها غير عملية لمعظم أجهزة IoT" (Iliyasu et al., 2025). يسرد دليل NIST لكشف التسلل ومنعه أربعة أصناف من الأنظمة، والصنف المعني هنا هو القائم على الشبكة (network-based): حساس يراقب حركة البيانات على مقطع من الشبكة ويحللها بحثًا عن نشاط مريب (NIST SP 800-94). على بوابة IoT يكون ذلك الحساس هو البوابة نفسها، فيتنافس النموذج على المعالج الصغير نفسه الذي يمرّر الحزم، ويجب أن يواكب سرعة الوصلة، وهو ما يسميه مهندسو الشبكات العمل بـ line rate.

That is the Efficient leg. The Robust leg is the word generalizable in the title. An IDS trained on one dataset meets, in deployment, traffic and attacks it never saw, a distribution shift. PNet-IDS addresses this with a knowledge distillation framework, in which a small student network is trained to reproduce a larger teacher, and reports that robustness against distribution shifts in network traffic is enhanced as a result. The benchmarks are BoT-IoT and CIC-IDS2017, and the claimed wins are reduced parameter count, reduced FLOPs and reduced model size while maintaining high accuracy and precision (Iliyasu et al., 2025).

هذه رِجل الكفاءة Efficient. أما رِجل المتانة Robust فهي كلمة generalizable في العنوان. نظام IDS المدرَّب على مجموعة بيانات واحدة يواجه عند النشر حركة بيانات وهجمات لم يرها قط، أي distribution shift، انزياح التوزيع. يعالج PNet-IDS ذلك بإطار knowledge distillation، حيث تُدرَّب شبكة طالبة صغيرة على محاكاة شبكة معلّمة أكبر، ويذكر أن المتانة أمام انزياحات التوزيع في حركة الشبكة تتحسن نتيجة لذلك. معايير القياس هي BoT-IoT وCIC-IDS2017، والمكاسب المُدّعاة هي تقليل عدد المعاملات وتقليل FLOPs وتقليل حجم النموذج مع الحفاظ على دقة accuracy وprecision عاليتين (Iliyasu et al., 2025).

The last two slides are photographs with no captions, and both show a decision that has to be made before the world moves on. Slide 7 pairs a low-speed autonomous shuttle with a pedestrian crossing in front of it and a schematic of a T-intersection where a red arrow, a vehicle turning left, crosses a blue arrow, a pedestrian in the crosswalk. Slide 8 shows grayscale undercarriage images of rail cars: one component circled as defective or missing, and a crack pulled out in a zoom box.

الشريحتان الأخيرتان صورتان فوتوغرافيتان بلا تعليقات، وكلتاهما تُظهر قرارًا يجب اتخاذه قبل أن يتحرك العالم. تجمع الشريحة 7 بين مركبة ذاتية القيادة منخفضة السرعة (shuttle) يعبر أمامها أحد المشاة، ومخطط لتقاطع على شكل T يتقاطع فيه سهم أحمر، وهو مركبة تنعطف يسارًا، مع سهم أزرق، وهو أحد المشاة على ممر العبور. وتعرض الشريحة 8 صورًا رمادية لأسفل عربات قطارات: مكوّن واحد محاط بدائرة على أنه معيب أو مفقود، وشقّ مكبَّر في مربع تكبير.

The left-turn pedestrian conflictتعارض الانعطاف يسارًا مع المشاة

The schematic is the left-turn pedestrian conflict, a named pattern in Intelligent transportation systems safety analysis. A left-turning driver scans for oncoming vehicles, accepts a gap, and turns into a crosswalk where a pedestrian is already crossing. FHWA research on left-turn phasing found that protected phasing reduced vehicle-to-vehicle injury crashes but did not significantly reduce vehicle-to-pedestrian crashes, and that under permissive phasing the turning driver must pick a gap in oncoming traffic and yield to the crosswalk at the same time, which prior studies flag as a strong conflict potential (FHWA, HRT-18-044). For an autonomous shuttle the problem is the same one the human driver has, and the detector that watches the crosswalk must answer before the vehicle enters it.

المخطط هو left-turn pedestrian conflict، أي تعارض الانعطاف يسارًا مع المشاة، وهو نمط معروف بالاسم في تحليل السلامة ضمن Intelligent transportation systems. السائق المنعطف يسارًا يبحث عن المركبات القادمة من الاتجاه المقابل، ويقبل فجوة، ثم ينعطف إلى ممر عبور يكون فيه أحد المشاة يعبر بالفعل. وجدت أبحاث FHWA حول مراحل إشارات الانعطاف يسارًا أن المرحلة المحمية (protected phasing) قلّلت حوادث الإصابات بين المركبات، لكنها لم تقلل بشكل ملحوظ حوادث المركبات مع المشاة، وأنه في المرحلة المسموحة (permissive phasing) يجب على السائق المنعطف أن يختار فجوة في حركة المرور المقابلة وأن يفسح الطريق لممر العبور في الوقت نفسه، وهو ما تعدّه دراسات سابقة احتمال تعارض قويًا (FHWA, HRT-18-044). بالنسبة إلى المركبة الذاتية، المشكلة هي نفسها التي يواجهها السائق البشري، والكاشف الذي يراقب ممر العبور يجب أن يجيب قبل أن تدخله المركبة.

Looking under the trainالنظر أسفل القطار

Slide 8 belongs to Automated visual inspection of rolling stock: cameras placed by the track or under it photograph each wagon as it passes, and a model flags anything that does not look like an intact component. The instructor reviewed exactly this field for Transport Canada while at NRC (Siddiqui, Mammeri and Liu, 2021). The slide itself carries no citation, so the images are described here as an example of the problem class, not attributed to a particular system.

تنتمي الشريحة 8 إلى Automated visual inspection لـ rolling stock، أي عربات القطارات: كاميرات موضوعة بجانب السكة أو تحتها تصوّر كل عربة أثناء مرورها، ونموذج يُعلِّم أي شيء لا يبدو مكوّنًا سليمًا. وقد راجع الأستاذ هذا المجال تحديدًا لصالح Transport Canada أثناء عمله في NRC (Siddiqui, Mammeri and Liu, 2021). الشريحة نفسها لا تحمل أي مرجع، لذا توصف الصور هنا على أنها مثال على صنف المشكلة، لا منسوبة إلى نظام بعينه.

Physics sets the deadlineالفيزياء تحدد المهلة

What unites the shuttle and the wagon is that the time available for Inference is not a design preference. It is set by how fast the scene changes. Satyanarayanan's remark that "the speed of light is an obvious physical limit on latency" (Satyanarayanan, 2017) is the reason a cloud round trip cannot be the answer here: the distance the vehicle covers during the latency of the reply is the safety margin lost.

ما يجمع المركبة الذاتية والعربة هو أن الوقت المتاح لـ Inference ليس تفضيلًا تصميميًا، بل تحدده سرعة تغيّر المشهد. ملاحظة Satyanarayanan بأن "سرعة الضوء حدّ فيزيائي واضح على زمن الاستجابة" (Satyanarayanan, 2017) هي السبب في أن رحلة الذهاب والإياب إلى السحابة لا يمكن أن تكون الحل هنا: المسافة التي تقطعها المركبة خلال latency الرد هي هامش السلامة المفقود.

On the first evening each student says three things out loud: their name, their educational background (previous studies), and their work background (current or previous work, industry or occupation). Then everyone opens the Pre-course survey at https://forms.cloud.microsoft/r/5ssu8gkcS9, also printed as a QR code on slide 10, and answers questions about background, skills and expectations.

في الأمسية الأولى يذكر كل طالب ثلاثة أشياء بصوت مسموع: اسمه، وخلفيته التعليمية (دراسته السابقة)، وخلفيته العملية (عمله الحالي أو السابق، أو القطاع، أو المهنة). ثم يفتح الجميع pre-course survey (استبيان ما قبل المقرر) على الرابط https://forms.cloud.microsoft/r/5ssu8gkcS9، المطبوع أيضًا كرمز QR في الشريحة 10، ويجيبون عن أسئلة حول الخلفية والمهارات والتوقعات.

It is tempting to file both under administration, but they serve the same purpose as takeaway 1 later in this part: you cannot tune what you have not measured. A graduate course on efficient deep learning draws people from computer engineering, electrical engineering, computer science and industry. Some have trained convolutional networks for years and never flashed a microcontroller; others write firmware for embedded systems daily and have never opened PyTorch. The instructor uses the room's answers to set depth and pacing, so an honest answer about a gap is worth more to you than an impressive one.

من المغري أن تصنّف الأمرين تحت بند الإجراءات الإدارية، لكنهما يخدمان الغرض نفسه الذي يخدمه المُخرج 1 لاحقًا في هذا الجزء: لا يمكنك ضبط ما لم تقِسه. مقرر دراسات عليا في التعلم العميق الكفء يجمع طلابًا من هندسة الحاسب، والهندسة الكهربائية، وعلوم الحاسب، والصناعة. بعضهم درّب شبكات التفاف لسنوات ولم يبرمج microcontroller (متحكمًا دقيقًا) قط، وآخرون يكتبون البرمجيات الثابتة (firmware) لـembedded systems (الأنظمة المدمجة) يوميًا ولم يفتحوا PyTorch قط. يستخدم المحاضر إجابات القاعة لتحديد العمق والإيقاع، لذا فإن إجابة صادقة عن نقص لديك أنفع لك من إجابة مبهرة.

What is worth refreshing before week twoما يستحق المراجعة قبل الأسبوع الثاني

The deck does not list prerequisites, so treat the following as a hedged suggestion drawn from what the course will ask you to do rather than as a slide claim. The topics ahead (compression, pruning, quantization, deployment to boards) match the syllabus of MIT's 6.5940 TinyML and Efficient Deep Learning Computing, which lists an introductory machine learning subject and a computation structures subject as its prerequisites. Translated to tools, four skills will carry most of the weight.

لا تذكر الشرائح أي متطلبات مسبقة، لذا تعامل مع ما يلي كاقتراح حذر مستنتج مما سيطلبه منك المقرر، لا كادعاء ورد في الشرائح. الموضوعات القادمة (الضغط، وpruning(التقليم)، وquantization (التكميم)، وdeployment (النشر) على اللوحات) تطابق الخطة الدراسية لمقرر MIT 6.5940 TinyML and Efficient Deep Learning Computing، الذي يشترط مقررًا تمهيديًا في تعلم الآلة ومقررًا في بنى الحوسبة (computation structures). وإذا ترجمنا ذلك إلى أدوات، فإن أربع مهارات ستحمل معظم العبء.

None of these needs to be deep on day one. If you can train a small classifier in PyTorch, explain what a convolution computes, and compile and flash a blinking-LED program in C, you can follow the first weeks and fill in the rest as the loop demands it.

لا يلزم أن تتعمق في أي منها من اليوم الأول. إذا كنت تستطيع تدريب مصنّف صغير في PyTorch، وشرح ما يحسبه الالتفاف (convolution)، وترجمة برنامج يُومض LED بلغة C وتحميله على اللوحة، فبإمكانك متابعة الأسابيع الأولى واستكمال الباقي كلما احتاجت إليه الحلقة.

Take a small image classifier with 3 million parameters, trained in PyTorch and saved in 32-bit floating point. Its weights alone occupy 12 MB. A Raspberry Pi Pico has 2 MB of flash and 264 KB of SRAM. The model does not fit, and no amount of accuracy changes that. Everything this course teaches is what you do next.

خذ مصنّف صور صغيرًا فيه 3 million parameters (معامل)، دُرّب في PyTorch وحُفظ بصيغة الفاصلة العائمة 32-bit. أوزانه وحدها تشغل 12 MB. ولوحة Raspberry Pi Pico فيها 2 MB من flash (ذاكرة الفلاش) و264 KB من SRAM. النموذج لا يتسع، ولن تغيّر أي دقة هذه الحقيقة. كل ما يعلّمه هذا المقرر هو ما تفعله بعد ذلك.

Slide 11 states the promise as five takeaways. You will know the key Efficiency metrics for deep learning computing. You will understand how to speed up Inference and Training of neural networks on resource-constrained platforms. You will analyse the tradeoffs between different optimization techniques. You will be aware of recent research trends and industry practice. And you will get hands-on experience compressing and implementing deep learning models on resource-constrained devices. The infographic relabels the same five as Measure efficiency, Accelerate, Analyse trade-offs, Track the frontier, and Build and deploy, with a five-word footer: Measure, Optimize, Compare, Explore, Deploy.

تعرض الشريحة 11 وعد المقرر في خمس مخرجات. ستعرف أهم efficiency metrics (مقاييس الكفاءة) في حوسبة التعلم العميق. وستفهم كيف تسرّع inference (الاستدلال) وtraining (التدريب) للشبكات العصبية على منصات resource-constrained (محدودة الموارد). وستحلل tradeoffs (المفاضلات) بين تقنيات التحسين المختلفة. وستكون على اطلاع على اتجاهات البحث الحديثة وممارسات الصناعة. وستكتسب خبرة عملية في compressing (ضغط) نماذج التعلم العميق وتنفيذها على أجهزة محدودة الموارد. ويعيد الرسم التوضيحي تسمية المخرجات الخمس نفسها إلى Measure efficiency وAccelerate وAnalyse trade-offs وTrack the frontier وBuild and deploy، مع تذييل من خمس كلمات: Measure, Optimize, Compare, Explore, Deploy.

Read the five as a loop, not a listاقرأ الخمس حلقةً لا قائمة

The order on the slide is not arbitrary. It is the order in which you actually work. You measure a baseline: size, memory, compute, latency, energy. You apply one optimization, say pruning. You compare the new numbers against the baseline and note what the step cost in accuracy. You look to the research literature and to industry for the next technique. You deploy on the real board to check that the paper numbers survive contact with hardware, because measured latency and energy routinely differ from analytical estimates. Then you measure again, and the loop turns.

الترتيب في الشريحة ليس عشوائيًا، بل هو الترتيب الذي تعمل به فعلًا. تقيس خط الأساس (baseline): الحجم، والذاكرة، والحوسبة، وlatency (زمن الاستجابة)، والطاقة. ثم تطبّق عملية تحسين واحدة، ولتكن pruning (التقليم). ثم تقارن الأرقام الجديدة بخط الأساس وتسجل ما كلّفته هذه الخطوة من الدقة. ثم تبحث في الأدبيات البحثية وفي الصناعة عن التقنية التالية. ثم تُجري deploy (النشر) على اللوحة الحقيقية لتتأكد أن أرقام الورقة البحثية تصمد أمام العتاد الفعلي، لأن زمن الاستجابة والطاقة المقيسين يختلفان عادةً عن التقديرات التحليلية. ثم تقيس من جديد، فتدور الحلقة.

Deep Compression is the canonical worked loop. Han, Mao and Dally started from AlexNet at 240 MB and VGG-16 at 552 MB (measure), pruned redundant connections, quantized the survivors from 32 to as few as 5 bits and Huffman coded the result (optimize), reported 35x and 49x reductions with no loss of accuracy (compare), and measured 3x to 4x layerwise speedup and 3x to 7x better energy efficiency on real hardware (deploy). The companion paper on learning both weights and connections had already shown pruning alone cutting AlexNet from 61 M to 6.7 M parameters. Everything after 2016 (MCUNet, TinyTL, on-device training under 256 KB) is the explore step feeding the next turn.

Deep Compression هو المثال النموذجي لحلقة كاملة. بدأ Han وMao وDally من AlexNet بحجم 240 MB وVGG-16 بحجم 552 MB (القياس)، ثم قلّموا الوصلات الزائدة، وكمّموا الوصلات الباقية من 32 بت إلى ما يصل إلى 5 بتات فقط، وطبّقوا ترميز Huffman على الناتج (التحسين)، وأبلغوا عن تقليص بمقدار 35x و49x دون أي خسارة في الدقة (المقارنة)، وقاسوا تسريعًا على مستوى الطبقة من 3x إلى 4x وكفاءة طاقة أفضل من 3x إلى 7x على عتاد حقيقي (النشر). وكانت الورقة المرافقة عن تعلم الأوزان والوصلات معًا قد أظهرت قبل ذلك أن التقليم وحده يخفض AlexNet من 61 M إلى 6.7 M معامل. وكل ما جاء بعد 2016 (MCUNet وTinyTL والتدريب على الجهاز ضمن 256 KB) هو خطوة الاستكشاف التي تغذي الدورة التالية.

A preview of the efficiency metricsلمحة مسبقة عن مقاييس الكفاءة

Slide 11 names the metrics without listing them; the list below previews later lectures and is not slide content. The ordering follows the MIT 6.5940 sequence, which opens with the basics of efficient deep learning before pruning, quantization, neural architecture search, distillation and on-device training. Learn the names now so the loop has something concrete to measure.

تذكر الشريحة 11 المقاييس دون أن تسردها؛ والقائمة أدناه لمحة عن محاضرات لاحقة وليست من محتوى الشرائح. ويتبع الترتيب تسلسل MIT 6.5940، الذي يبدأ بأساسيات التعلم العميق الكفء قبل التقليم، وquantization (التكميم)، وneural architecture search (البحث عن معمارية الشبكة العصبية)، وdistillation (التقطير)، والتدريب على الجهاز. تعلّم الأسماء الآن حتى يكون لدى الحلقة شيء ملموس تقيسه.

The first two are the easiest to compute by hand, and the calculation is one you will repeat all term. A weight stored in b bits takes b / 8 bytes, so the size of the weights is the parameter count times bits per weight divided by eight.

أول مقياسين هما الأسهل حسابًا باليد، وهذا الحساب ستكرره طوال الفصل. الوزن المخزّن في b بت يشغل b / 8 بايت، لذا فإن حجم الأوزان يساوي عدد المعاملات مضروبًا في عدد البتات لكل وزن مقسومًا على ثمانية.

Try it yourself. The calculator applies the formula for any parameter count and bit width and checks the result against generic device tiers. The device figures are datasheet capacities for one example board per tier (Arduino, Raspberry Pi and NVIDIA product pages), not what is free once the runtime and your code are loaded.

جرّب بنفسك. تطبّق الحاسبة المعادلة على أي عدد معاملات وأي عرض بت، وتختبر الناتج مقابل فئات أجهزة عامة. أرقام الأجهزة هي السعات المذكورة في أوراق البيانات للوحة مثال واحدة لكل فئة (صفحات منتجات Arduino وRaspberry Pi وNVIDIA)، وليست ما يتبقى حرًا بعد تحميل بيئة التشغيل وشيفرتك.

Three misconceptions the loop correctsثلاثة مفاهيم خاطئة تصححها الحلقة

Slide 12 contains three words: "View on Blackboard". That is the whole syllabus section of the deck. It does not give grading weights, exam dates, project deliverables, a textbook, an office location or office hours. Anything you read elsewhere claiming to know those for this course is not coming from these slides.

تحتوي الشريحة 12 على ثلاث كلمات فقط: "View on Blackboard". وهذا هو قسم الخطة الدراسية كله في الشرائح. فهي لا تذكر أوزان التقييم، ولا مواعيد الامتحانات، ولا مخرجات المشروع، ولا كتابًا مقررًا، ولا موقع المكتب، ولا الساعات المكتبية. وأي مصدر آخر تقرؤه يدّعي معرفة هذه التفاصيل لهذا المقرر لا يستقيها من هذه الشرائح.

Plan the project before the syllabus tells you toخطّط للمشروع قبل أن تطلب منك الخطة الدراسية ذلك

Takeaway 5 promises hands-on experience compressing and implementing models on constrained devices, and the MIT counterpart of this course ends in an open-ended design project. Read that as a strong hint that a hardware Deployment is coming, whatever Blackboard eventually calls it. The students who struggle with such projects are rarely short of techniques; they are short of a baseline to compare against and a board that arrives on time. Both are fixed in week one.

يَعِد المُخرج 5 بخبرة عملية في ضغط النماذج وتنفيذها على أجهزة محدودة الموارد، والمقرر المقابل لهذا المقرر في MIT ينتهي بمشروع تصميم مفتوح. اقرأ ذلك تلميحًا قويًا إلى أن deployment (نشرًا) على عتاد حقيقي قادم، أيًا كان الاسم الذي سيطلقه عليه Blackboard لاحقًا. الطلاب الذين يتعثرون في مثل هذه المشاريع نادرًا ما تنقصهم التقنيات؛ بل ينقصهم خط أساس يقارنون به، ولوحة تصل في الوقت المناسب. وكلاهما يُحسم في الأسبوع الأول.

1. Pick a device tier first. The memory budget of the tier decides which models are even candidates, so the device is an input to model selection, not an output of it.اختر فئة الجهاز أولًا. ميزانية الذاكرة في الفئة هي التي تحدد أي النماذج يصلح أصلًا أن يكون مرشحًا، لذا فالجهاز مُدخل لاختيار النموذج، لا ناتج عنه.
2. Pick a candidate model that already fits, or is within one or two optimizations of fitting, and record its parameter count and float32 size with the formula from the previous concept.اختر نموذجًا مرشحًا يتسع بالفعل، أو يبعد عملية تحسين أو اثنتين عن أن يتسع، وسجّل parameter count (عدد معاملاته) وحجمه بصيغة float32 باستخدام المعادلة من المفهوم السابق.
3. Start a metrics log before the first optimization. A baseline recorded after you have started changing things is not a baseline.ابدأ سجل مقاييس قبل أول عملية تحسين. خط الأساس الذي يُسجَّل بعد أن تبدأ في تغيير الأشياء ليس خط أساس.

The last column is a guide, not a datasheet claim. MCUNet reached over 70% ImageNet top-1 accuracy on a commercial microcontroller, so the microcontroller tier is more capable than its numbers suggest, but only after the whole loop has been applied to a purpose-built architecture. A model chosen for a GPU module and then squeezed onto a microcontroller is the hardest path in the course.

العمود الأخير إرشادي، وليس ادعاءً من ورقة بيانات. فقد بلغ MCUNet دقة top-1 تفوق 70% على ImageNet باستخدام microcontroller (متحكم دقيق) تجاري، لذا ففئة المتحكمات الدقيقة أقدر مما توحي به أرقامها، لكن فقط بعد تطبيق الحلقة كاملة على معمارية مصممة لهذا الغرض. أما النموذج الذي يُختار لوحدة GPU ثم يُعصر ليتسع في متحكم دقيق فهو أصعب مسار في المقرر.

Keep the log as a plain table with one row per experiment and the same columns every time: accuracy, parameter count, size, peak memory, latency, energy if you can measure it, and a one-line note of what changed. This is the compare step made permanent, and it is the table an examiner or a reviewer will want to see.

احتفظ بالسجل جدولًا بسيطًا فيه صف واحد لكل تجربة والأعمدة نفسها في كل مرة: الدقة، وعدد المعاملات، والحجم، وذروة الذاكرة، وزمن الاستجابة، والطاقة إن استطعت قياسها، وملاحظة من سطر واحد عما تغيّر. هذه هي خطوة المقارنة وقد صارت دائمة، وهو الجدول الذي سيرغب الممتحن أو المراجع في رؤيته.