COE 592Lecture 00المحاضرة 00Referenceالمرجع

Reference sheetالورقة المرجعية

Course overview compressed onto one page: the definitions, formulas and numbers to have in your head before a quiz or exam.محاضرة «نظرة عامة على المقرر» مضغوطة في صفحة واحدة: التعريفات والمعادلات والأرقام التي يجب أن تكون حاضرة في ذهنك قبل الاختبار القصير أو الامتحان.

Course facts and week oneحقائق المقرر والأسبوع الأول

Everything the deck states about the course, the instructor and the first evening. Part 01: The instructor and edge AI in practice, Part 02: Course takeaways and getting started

كل ما يذكره العرض عن المقرر والمحاضر والأمسية الأولى. الجزء 01: المحاضر والذكاء الاصطناعي على الحافة (edge AI) عمليًا، الجزء 02: النتائج التعليمية للمقرر والبدء

Facts as stated on slides 1, 2, 9, 10, 12 and the course registryالحقائق كما وردت في الشرائح 1 و2 و9 و10 و12 وفي سجل المقرر

Courseالمقرر: COE 592 Machine Learning on Embedded Systems, term T261COE 592 تعلم الآلة على الأنظمة المدمجة (Machine Learning on Embedded Systems)، الفصل T261
Instructorالمحاضر: Dr. Abdul Jabbar Siddiqui, Computer Engineering, KFUPM; SERV Lab lead; SDAIA-KFUPM JRC-AI scholarد. عبد الجبار صديقي (Dr. Abdul Jabbar Siddiqui)، هندسة الحاسب، KFUPM؛ قائد مختبر SERV؛ باحث في SDAIA-KFUPM JRC-AI
Degreesالمؤهلات: PhD uOttawa 2021, MASc uOttawa 2015, BSc KFUPM 2012; NRC Canada 2020 to 2022دكتوراه من uOttawa عام 2021، وماجستير MASc من uOttawa عام 2015، وبكالوريوس من KFUPM عام 2012؛ وNRC Canada من 2020 إلى 2022
Meetingsالمحاضرات: Monday and Wednesday, 20:10 to 21:25, Building 59, Room 2004الاثنين والأربعاء، من 20:10 إلى 21:25، المبنى 59، القاعة 2004
Icebreakerالتعارف: Name, educational background, work backgroundالاسم، والخلفية التعليمية، والخلفية المهنية
Surveyالاستبيان: https://forms.cloud.microsoft/r/5ssu8gkcS9https://forms.cloud.microsoft/r/5ssu8gkcS9
Syllabus, grading, deliverablesالمنهج والدرجات والمخرجات: On Blackboard only; not in the deckعلى Blackboard فقط؛ وليست في العرض

Fill in the survey and introduce yourself with the three items.املأ الاستبيان وعرّف بنفسك بالبنود الثلاثة.
Pick a device tier first; its memory budget is an input to model selection, not an output.اختر فئة الجهاز أولًا؛ ميزانية ذاكرتها مُدخل لاختيار النموذج لا ناتج عنه.
Pick a candidate model that fits or is one or two optimizations from fitting; record parameters and float32 size.اختر نموذجًا مرشحًا يتسع أو يبعد خطوة أو خطوتين من التحسين عن أن يتسع؛ سجّل عدد معاملاته وحجمه بصيغة float32.
Start a metrics log before the first optimization. A baseline taken after changes is not a baseline.ابدأ سجل المقاييس قبل أول تحسين. خط الأساس الذي يُؤخذ بعد إجراء التغييرات ليس خط أساس.

Whenمتى	What to recordماذا تسجّل
Week 1الأسبوع 1	Device tier and its flash, SRAM or RAM budget from the datasheetفئة الجهاز وميزانيتها من flash أو SRAM أو RAM من ورقة البيانات
Week 1الأسبوع 1	Candidate model, parameter count, float32 weight sizeالنموذج المرشح، وعدد معاملاته، وحجم أوزانه بصيغة float32
Week 1الأسبوع 1	Baseline accuracy on a held-out set you never changeدقة خط الأساس على مجموعة محجوزة لا تغيّرها أبدًا
First run on hardwareأول تشغيل على العتاد	Latency per inference and peak memory as the runtime reports themزمن الاستجابة لكل استدلال وذروة الذاكرة كما تُبلغ عنهما بيئة التشغيل
Every optimizationكل تحسين	The same numbers again next to the baseline, plus what it costالأرقام نفسها مرة أخرى بجوار خط الأساس، مع ما كلّفه التحسين

Starter metrics logسجل مقاييس للبداية

SERVSERV

Secure, Efficient, Robust Vision: the lab name is the syllabus in miniature. Part 01

Secure, Efficient, Robust Vision (رؤية آمنة وفعّالة ومتينة): اسم المختبر هو منهج المقرر في صورة مصغرة. الجزء 01

Letterالحرف	Wordالكلمة	Course themeموضوع المقرر	Example in the deckمثال من العرض
SS	Secureآمنة (Secure)	Adversarial machine learning, intrusion detectionتعلم الآلة العدائي (adversarial ML)، وكشف التسلل	PNet-IDS (slide 6)PNet-IDS (الشريحة 6)
EE	Efficientفعّالة (Efficient)	Compression, pruning, quantization, nano detectorsالضغط، والتقليم (pruning)، والتكميم (quantization)، وكواشف nano	EcoWeedNet (slide 4), PNet-IDS (slide 6)EcoWeedNet (الشريحة 4)، PNet-IDS (الشريحة 6)
RR	Robustمتينة (Robust)	Rain, noise, blur, distribution shiftالمطر، والضوضاء، والتشويش، وتحوّل توزيع البيانات (distribution shift)	YOLO-RAW (slide 5)YOLO-RAW (الشريحة 5)
VV	Visionرؤية (Vision)	Cameras, thermal imagers, LiDAR as inputالكاميرات، والكاميرات الحرارية، وLiDAR كمدخلات	Slides 3 to 8الشرائح من 3 إلى 8

SERV mapped onto the courseربط SERV بالمقرر

Exam tipنصيحة للامتحان

Two-mark recallسؤال استرجاع بدرجتين

Write all four words, then attach one topic to each: adversarial ML, model compression, robustness to weather and shift, cameras and LiDAR as input. Edge AI spans helicopters to gateways to microcontrollers, whose memory is two to three orders of magnitude below a phone (MCUNet).

اكتب الكلمات الأربع، ثم اربط كل كلمة بموضوع واحد: تعلم الآلة العدائي (adversarial ML)، وضغط النماذج (model compression)، والمتانة أمام الطقس وتحوّل البيانات (shift)، والكاميرات وLiDAR كمدخلات. يمتد Edge AI من المروحيات إلى البوابات إلى المتحكمات الدقيقة، التي تقل ذاكرتها عن ذاكرة الهاتف بمرتبتين إلى ثلاث مراتب عشرية (MCUNet).

Inspection rigs: shrink the model or ship the dataمنصات الفحص: صغّر النموذج أو أرسل البيانات

A UAV lifts a fixed mass, and every gram of sensor or computer is a gram less battery. Two options exist: run a model small enough on board, or ship raw data. The bandwidth arithmetic rules out the second. Part 01

ترفع الطائرة المسيّرة (UAV) كتلة ثابتة، وكل غرام من المستشعرات أو الحاسوب هو غرام أقل من البطارية. يوجد خياران: تشغيل نموذج صغير بما يكفي على متنها، أو إرسال البيانات الخام. حساب عرض النطاق (bandwidth) يستبعد الخيار الثاني. الجزء 01

Sensorالمستشعر	Measuresما يقيسه	Good atيجيد	Weak atيضعف في	Data rateمعدل البيانات
Visual (RGB) cameraكاميرا مرئية (RGB)	Reflected visible lightالضوء المرئي المنعكس	Colour and textureاللون والملمس	Darkness, rain, glareالظلام والمطر والوهج	Highestالأعلى
Thermal (IR) cameraكاميرا حرارية (IR)	Emitted infrared, so temperatureالأشعة تحت الحمراء المنبعثة، أي درجة الحرارة	Hot bearings, people at nightالمحامل الساخنة، والأشخاص ليلًا	No colour, low resolutionلا ألوان، ودقة منخفضة	Moderateمتوسط
LiDARLiDAR	Pulsed-laser time of flight, so rangeزمن طيران نبضات الليزر (time of flight)، أي المسافة	Geometry, clearance, 3D point cloudsالهندسة، والخلوص (clearance)، وسحب النقاط ثلاثية الأبعاد	Sparse at range, cost, weightمتناثر على المسافات البعيدة، والتكلفة، والوزن	Highمرتفع
GPS receiverمستقبل GPS	Position and timeالموقع والزمن	Georeferencing frames and pointsربط الإطارات والنقاط بإحداثيات جغرافية	Nothing about the sceneلا شيء عن المشهد	Negligibleضئيل

The four modalities on the slide 3 rigsأنواع المستشعرات الأربعة في منصات الشريحة 3

Five-camera rig, worked numbersمنصة بخمس كاميرات، أرقام محسوبة

Assumptionالافتراض: 5 cameras at 1080p, 8 Mbit/s each (illustrative)5 كاميرات بدقة 1080p، بمعدل 8 Mbit/s لكل منها (للتوضيح)
Stream leaving the rigالتدفق الخارج من المنصة: 5 × 8 = 40 Mbit/s5 × 8 = 40 Mbit/s
One hour of drivingساعة واحدة من القيادة: 40 × 3600 = 144,000 Mbit, about 18 GB40 × 3600 = 144,000 Mbit، أي نحو 18 GB
Upload at 5 Mbit/sالرفع بسرعة 5 Mbit/s: 144,000 / 5 = 28,800 s, about 8 hours per hour recorded144,000 / 5 = 28,800 s، أي نحو 8 ساعات لكل ساعة مسجلة
Satyanarayanan 2017Satyanarayanan 2017: 12,000 users at 1080p need about 100 Gbit/s ingress; a million users need 8.5 Tbit/s12,000 مستخدم بدقة 1080p يحتاجون نحو 100 Gbit/s من البيانات الواردة؛ ومليون مستخدم يحتاجون 8.5 Tbit/s

Nano detectors: efficiency measuredكواشف nano: الكفاءة بالأرقام

YOLO size classes n, s, m, l, x share one architecture and differ in width and depth. Figures are Ultralytics, COCO validation at 640 px. Part 01

فئات أحجام YOLO وهي n, s, m, l, x تشترك في بنية واحدة وتختلف في العرض والعمق. الأرقام من Ultralytics على مجموعة التحقق من COCO بدقة 640 px. الجزء 01

Modelالنموذج	Parametersالمعاملات	FLOPsFLOPs	mAP50-95mAP50-95	CPU ONNXCPU ONNX	T4 TensorRTT4 TensorRT
YOLO11nYOLO11n	2.6M2.6M	6.5B6.5B	39.539.5	56.1 ms56.1 ms	1.5 ms1.5 ms
YOLO12nYOLO12n	2.6M2.6M	7.5B7.5B	40.640.6	not listedغير مذكور	1.64 ms1.64 ms
YOLO11mYOLO11m	20.1M20.1M	68.1B68.1B	51.551.5	183.2 ms183.2 ms	4.7 ms4.7 ms
YOLO11xYOLO11x	56.9M56.9M	195.3B195.3B	54.754.7	462.8 ms462.8 ms	11.3 ms11.3 ms

YOLO size classesفئات أحجام YOLO

Nano versus medium, and EcoWeedNet's resultنموذج nano مقابل medium، ونتيجة EcoWeedNet

Parametersالمعاملات: 20.1 / 2.6 ≈ 7.7x fewer in YOLO11nأقل بمقدار 20.1 / 2.6 ≈ 7.7x في YOLO11n
FLOPs: 68.1 / 6.5 ≈ 10.5x fewer per imageأقل بمقدار 68.1 / 6.5 ≈ 10.5x لكل صورة
CPU latencyزمن الاستجابة على CPU: 183.2 / 56.1 ≈ 3.3x lower; below the FLOP ratio because small models leave hardware idleأقل بمقدار 183.2 / 56.1 ≈ 3.3x؛ وهي نسبة أدنى من نسبة FLOPs لأن النماذج الصغيرة تترك العتاد خاملًا
Priceالثمن: 51.5 − 39.5 = 12.0 mAP50-95 points51.5 − 39.5 = 12.0 نقطة من mAP50-95
EcoWeedNet: 95.2% mAP@0.5 on CottonWeedDet12 with about 4.21% of YOLOv4 parameters and 6.59% of its GFLOPs95.2% في mAP@0.5 على CottonWeedDet12 بنحو 4.21% من معاملات YOLOv4 و6.59% من GFLOPs الخاصة به

Numberالرقم	Measuresما يقيسه	Unitالوحدة	Kindالنوع
ParametersParameters	Size, so memoryالحجم، أي الذاكرة	millions (M)بالملايين (M)	Metricمقياس
FLOPsFLOPs	Compute per inferenceالحوسبة لكل استدلال	billions (B) or GFLOPsبالمليارات (B) أو GFLOPs	Metricمقياس
LatencyLatency	Time per inference on a named deviceالزمن لكل استدلال على جهاز محدد	msms	Metricمقياس
mAPmAP	Detection quality on a datasetجودة الكشف على مجموعة بيانات	percent or pointsنسبة مئوية أو نقاط	Metricمقياس
GradCAM++ heatmapخريطة GradCAM++ الحرارية	Which pixels drove a class scoreأي البكسلات أثّرت في درجة الفئة	noneلا شيء	Attribution, not a metricإسناد، وليس مقياسًا

What each number measuresماذا يقيس كل رقم

Rain scene: robustness measuredمشهد المطر: المتانة بالأرقام

YOLOv5-m (21.2M parameters, 49.0B FLOPs) against YOLO-RAW on rainy, Gaussian-noise and motion-blur test sets. Gulls numbered top to bottom in the YOLO-RAW panel. Part 01

YOLOv5-m (21.2M معامل، و49.0B FLOPs) في مقابل YOLO-RAW على مجموعات اختبار فيها مطر وضوضاء غاوسية (Gaussian noise) وتشويش حركة (motion blur). طيور النورس مرقمة من الأعلى إلى الأسفل في لوحة YOLO-RAW. الجزء 01

Objectالجسم	YOLOv5-mYOLOv5-m	YOLO-RAWYOLO-RAW
Gull 1 (top left)النورس 1 (أعلى اليسار)	no boxلا يوجد مربع	Bird 0.50Bird 0.50
Gull 2 (centre)النورس 2 (الوسط)	UAV 0.29 (false positive)UAV 0.29 (إيجابية كاذبة)	Bird 0.63Bird 0.63
Gull 3النورس 3	no boxلا يوجد مربع	Bird 0.54Bird 0.54
Gull 4النورس 4	no boxلا يوجد مربع	Bird 0.73Bird 0.73
Gull 5 (bottom)النورس 5 (الأسفل)	Bird 0.35Bird 0.35	Bird 0.37 (approximate)Bird 0.37 (تقريبي)
Real drone, rain fieldطائرة مسيّرة حقيقية، حقل المطر	UAV 0.90UAV 0.90	UAV 0.93UAV 0.93

Every label on slide 5كل تسمية في الشريحة 5

\text{precision} = \frac{TP}{TP + FP}, \qquad \text{recall} = \frac{TP}{TP + FN}

The two numbers a confidence threshold trades against each otherالرقمان اللذان يقايض بينهما حد الثقة (confidence threshold)

Can a threshold fix the baseline?هل تستطيع العتبة إصلاح نموذج خط الأساس؟

Ultralytics defaultالقيمة الافتراضية في Ultralytics: 0.250.25
At 0.30عند 0.30: YOLOv5-m loses the false UAV and nothing else, but still sees one bird in fiveيفقد YOLOv5-m الطائرة المسيّرة الكاذبة ولا شيء غيرها، لكنه لا يزال يرى طائرًا واحدًا من خمسة
At 0.60عند 0.60: YOLOv5-m reports nothing; YOLO-RAW has lost three of five correct birdsلا يبلغ YOLOv5-m عن أي شيء؛ ويكون YOLO-RAW قد فقد ثلاثة من الطيور الخمسة الصحيحة
Ruleالقاعدة: A threshold slices the confidence mass a model produced. A better model moves that mass.العتبة تقتطع من كتلة الثقة التي أنتجها النموذج. أما النموذج الأفضل فيحرّك تلك الكتلة نفسها.

PNet-IDS: line rate on a gatewayPNet-IDS: سرعة الخط على بوابة الشبكة

A network-based IDS (NIST SP 800-94) running on the gateway CPU that forwards the packets. The deadline is set by the link, not the designer. IEEE Access 2025, DOI 10.1109/ACCESS.2025.3575705. Part 01

نظام كشف تسلل شبكي (network-based IDS) وفق NIST SP 800-94، يعمل على معالج البوابة (gateway CPU) نفسه الذي يمرر الحزم. الموعد النهائي يحدده الرابط لا المصمم. IEEE Access 2025، DOI 10.1109/ACCESS.2025.3575705. الجزء 01

t_{\text{budget}} = \frac{1}{\text{packets/s}} = \frac{L_{\text{packet}} \times 8}{R}

Time per packet on a link of rate R bits per secondالزمن لكل حزمة على رابط معدله R بت في الثانية

Line-rate arithmetic (illustrative numbers)حساب سرعة الخط (أرقام توضيحية)

Packets per secondالحزم في الثانية: 100 × 10^6 / (500 × 8) = 25,000 on a 100 Mbit/s link with 500-byte packets100 × 10^6 / (500 × 8) = 25,000 على رابط سرعته 100 Mbit/s بحزم حجمها 500 بايت
Budget per packetالميزانية لكل حزمة: 1 / 25,000 = 40 µs1 / 25,000 = 40 µs
Heavy modelنموذج ثقيل: 10 MFLOPs at 1 GFLOP/s is 10 ms, about 250x too slow10 MFLOPs بسرعة 1 GFLOP/s تساوي 10 ms، أي أبطأ من اللازم بنحو 250x
Light modelنموذج خفيف: 0.02 MFLOPs at 1 GFLOP/s is 20 µs, inside the budget0.02 MFLOPs بسرعة 1 GFLOP/s تساوي 20 µs، أي ضمن الميزانية
Generalizableقابل للتعميم: Accuracy held under traffic distribution shift, via knowledge distillation (student reproduces a teacher)تصمد الدقة أمام تحوّل توزيع حركة المرور، بفضل تقطير المعرفة (knowledge distillation)، حيث يحاكي نموذج الطالب نموذج المعلم
Benchmarksمجموعات القياس: BoT-IoT and CIC-IDS2017; wins are fewer parameters, fewer FLOPs, smaller size at maintained accuracyBoT-IoT وCIC-IDS2017؛ والمكاسب هي معاملات أقل، وFLOPs أقل، وحجم أصغر مع الحفاظ على الدقة

Physics sets the deadlineالفيزياء تحدد الموعد النهائي

Distance travelled during the reply latency is the safety margin lost. Deadline first, then accuracy. Part 01

المسافة المقطوعة خلال زمن انتظار الرد هي هامش الأمان الضائع. الموعد النهائي أولًا، ثم الدقة. الجزء 01

d_{\text{lost}} = v \times t_{\text{latency}}

Metres of travel before the detector answersالأمتار المقطوعة قبل أن يجيب الكاشف

Scenarioالسيناريو	Speedالسرعة	Travel per latencyالمسافة لكل زمن استجابة	Worked numberرقم محسوب	Cost of a missتكلفة الإخفاق
Shuttle at a T-intersectionمركبة نقل ذاتية عند تقاطع على شكل حرف T	10 m/s10 m/s	1 m per 100 ms1 m لكل 100 ms	200 ms cloud round trip is 2 m of travelذهاب وإياب إلى السحابة في 200 ms يعني 2 m من الحركة	A pedestrian is struckيُصدم أحد المشاة
Wagon past a wayside cameraعربة قطار تمر أمام كاميرا جانبية	15 m/s15 m/s	1.5 m per 100 ms1.5 m لكل 100 ms	33 ms per frame at 30 fps, wagon moves 0.5 m33 ms لكل إطار عند 30 fps، تتحرك العربة 0.5 m	A defect leaves the yardيغادر عيبٌ الساحة دون اكتشاف

Two safety-critical edge inference problemsمشكلتا استدلال على الحافة حرجتان من ناحية السلامة

Five takeaways as one loopالنتائج الخمس كحلقة واحدة

Measure, optimize, compare, explore, deploy, then measure again. Deep Compression (Han, Mao and Dally, 2016) is the canonical worked loop. Part 02

قِس، حسّن، قارن، استكشف، انشر، ثم قِس من جديد. Deep Compression (Han, Mao and Dally, 2016) هو المثال النموذجي على تطبيق الحلقة كاملة. الجزء 02

Pillarالركيزة	Verbالفعل	Questionالسؤال	Exampleالمثال
1 Measure efficiency1 قياس الكفاءة	Measureقِس (Measure)	How big, slow, hungry is the baseline?ما مدى حجم خط الأساس وبطئه واستهلاكه؟	AlexNet 240 MB, 61 M parameters, 32-bitAlexNet: 240 MB، و61 M معامل، بدقة 32-bit
2 Accelerate2 التسريع	Optimizeحسّن (Optimize)	Which technique shrinks the cost that hurts most?أي تقنية تقلّص التكلفة الأكثر إيلامًا؟	Prune 9x, quantize to 5 bits, Huffman codeتقليم بمقدار 9x، وتكميم إلى 5 بتات، وترميز Huffman
3 Analyse trade-offs3 تحليل المفاضلات	Compareقارن (Compare)	What did each step cost in accuracy or effort?كم كلّفت كل خطوة من الدقة أو الجهد؟	35x smaller, no accuracy loss, after retrainingأصغر بمقدار 35x، دون خسارة في الدقة، بعد إعادة التدريب
4 Track the frontier4 متابعة أحدث ما وصل إليه البحث	Exploreاستكشف (Explore)	What has research or industry done since?ماذا أنجز البحث أو الصناعة منذ ذلك الحين؟	MCUNet, TinyTL, training under 256 KBMCUNet، وTinyTL، والتدريب تحت 256 KB
5 Build and deploy5 البناء والنشر	Deployانشر (Deploy)	Does it really run on the target hardware?هل يعمل فعلًا على العتاد المستهدف؟	3x to 4x speedup, 3x to 7x energy efficiencyتسريع من 3x إلى 4x، وكفاءة طاقة من 3x إلى 7x

Pillar, verb, question, Deep Compression exampleالركيزة، والفعل، والسؤال، ومثال Deep Compression

Efficiency metrics and the size formulaمقاييس الكفاءة ومعادلة الحجم

Seven metrics that can disagree: a pruned model can be smaller yet no faster on hardware that cannot skip zeros. Part 02

سبعة مقاييس قد تختلف فيما بينها: النموذج المقلَّم قد يكون أصغر لكنه ليس أسرع على عتاد لا يستطيع تخطي الأصفار. الجزء 02

Metricالمقياس	What it countsماذا يحسب	Unitالوحدة
Parameter countعدد المعاملات (parameter count)	Learnable weights and biasesالأوزان والانحيازات القابلة للتعلم	MM
Model sizeحجم النموذج (model size)	Parameters × bits per weight / 8المعاملات × البتات لكل وزن / 8	MB or KBMB أو KB
Peak memoryذروة الذاكرة (peak memory)	Weights plus the largest activation tensors at onceالأوزان مضافًا إليها أكبر موترات التنشيط الموجودة في وقت واحد	MB or KBMB أو KB
Computeالحوسبة (compute)	MACs or FLOPs per inferenceMACs أو FLOPs لكل استدلال	MMACs or GFLOPsMMACs أو GFLOPs
Latencyزمن الاستجابة (latency)	Time from one input to its outputالزمن من مُدخل واحد إلى ناتجه	msms
Throughputالإنتاجية (throughput)	Inferences per secondعدد الاستدلالات في الثانية	inferences/sinferences/s
Energyالطاقة (energy)	Joules per inference or average powerالجول لكل استدلال أو متوسط القدرة	mJ or mWmJ أو mW

Efficiency metrics (preview of later lectures)مقاييس الكفاءة (تمهيد للمحاضرات القادمة)

\text{size (bytes)} = \frac{N_{\text{params}} \times b}{8}

N parameters at b bits each; MB means one million bytesعدد N من المعاملات بعدد b من البتات لكل منها؛ وMB تعني مليون بايت

Bitsالبتات	Calculationالحساب	Sizeالحجم	Pico (2 MB)?Pico (2 MB)؟	Nano 33 BLE Sense (1 MB)?Nano 33 BLE Sense (1 MB)؟
32-bit32-bit	3,000,000 × 32 / 83,000,000 × 32 / 8	12 MB12 MB	Noلا	Noلا
16-bit16-bit	3,000,000 × 16 / 83,000,000 × 16 / 8	6 MB6 MB	Noلا	Noلا
8-bit8-bit	3,000,000 × 8 / 83,000,000 × 8 / 8	3 MB3 MB	Noلا	Noلا
4-bit4-bit	3,000,000 × 4 / 83,000,000 × 4 / 8	1.5 MB1.5 MB	Yesنعم	Noلا

3 M parameters at four bit widths against two flash budgets3 M معامل بأربعة أعداد بتات مقابل ميزانيتين لذاكرة flash

Exam tipنصيحة للامتحان

Size calculationحساب الحجم

Write the formula, substitute, state bytes, then convert to MB. At 8 bits the byte count equals the parameter count: 12 M parameters at 8-bit is 12 MB. Bit width divides size; the device decides whether the result fits. Below 1 MB the 3 M model also needs pruning or a new architecture.

اكتب المعادلة، ثم عوّض، ثم اذكر الناتج بالبايت، ثم حوّله إلى MB. عند 8 بتات يساوي عدد البايتات عدد المعاملات: 12 M معامل بدقة 8-bit تعني 12 MB. عدد البتات يقسم الحجم، والجهاز هو من يقرر هل يتسع الناتج. ولكي ينزل نموذج 3 M تحت 1 MB يحتاج أيضًا إلى التقليم أو إلى بنية جديدة.

Inference versus training on deviceالاستدلال مقابل التدريب على الجهاز

Itemالعنصر	Inferenceالاستدلال	Trainingالتدريب
Weightsالأوزان	Yesنعم	Yesنعم
Current activationsالتنشيطات الحالية	Yesنعم	Yesنعم
Stored activations for the backward passالتنشيطات المخزنة للتمرير العكسي	Noلا	Yes, the bottleneck (TinyTL)نعم، وهي عنق الزجاجة (TinyTL)
Gradients for every weightالتدرجات لكل وزن	Noلا	Yesنعم
Optimizer stateحالة المُحسِّن (optimizer state)	Noلا	Yesنعم
LiteRT for MicrocontrollersLiteRT for Microcontrollers	Supportedمدعوم	Not supportedغير مدعوم

What each holds in memoryما يحتفظ به كل منهما في الذاكرة

Device tiersفئات الأجهزة

Datasheet capacities, not what is free once the runtime is loaded. MCUNet reached over 70% ImageNet top-1 on a microcontroller, after the whole loop on a purpose-built architecture. Part 02

هذه سعات ورقة البيانات (datasheet)، لا ما يبقى متاحًا بعد تحميل بيئة التشغيل (runtime). وصل MCUNet إلى أكثر من 70% في دقة ImageNet top-1 على متحكم دقيق، بعد تطبيق الحلقة كاملة على بنية مصممة خصيصًا. الجزء 02

Tierالفئة	Boardاللوحة	Memoryالذاكرة	Typically runsما يشغّله عادةً
Microcontrollerمتحكم دقيق	Arduino Nano 33 BLE Sense Rev2 (nRF52840)Arduino Nano 33 BLE Sense Rev2 (nRF52840)	1 MB flash, 256 KB SRAM1 MB flash, 256 KB SRAM	Keyword spotting, gesture, tiny classifiersتمييز الكلمات المفتاحية (keyword spotting)، والإيماءات، والمصنِّفات الصغيرة جدًا
Microcontrollerمتحكم دقيق	Raspberry Pi Pico / Pico 2Raspberry Pi Pico / Pico 2	2 MB flash, 264 KB SRAM / 4 MB, 520 KB2 MB flash, 264 KB SRAM / 4 MB, 520 KB	Same class, more headroomالفئة نفسها، مع هامش أكبر
Single-board computerحاسوب أحادي اللوحة	Raspberry Pi 4 Model BRaspberry Pi 4 Model B	1 to 8 GB LPDDR41 إلى 8 GB LPDDR4	Quantized MobileNet-class vision, small detectorsرؤية بنماذج من فئة MobileNet بعد التكميم، وكواشف صغيرة
GPU moduleوحدة GPU	Jetson Orin Nano SuperJetson Orin Nano Super	8 GB LPDDR5, 102 GB/s, 67 INT8 TOPS8 GB LPDDR5, 102 GB/s, 67 INT8 TOPS	Real-time detection, small transformers, fine-tuningكشف في الزمن الحقيقي، ونماذج transformer صغيرة، والضبط الدقيق (fine-tuning)

One example board per tierلوحة مثال واحدة لكل فئة

Slide errata and reading notesأخطاء الشرائح وملاحظات القراءة

Answer with the corrected fact; do not attribute results to uncaptioned photographs. Part 01, Part 02

أجب بالمعلومة المصححة، ولا تنسب نتائج إلى صور فوتوغرافية بلا تعليق توضيحي. الجزء 01، الجزء 02

What the slides get wrong or leave outما تخطئ فيه الشرائح أو تغفله

Slide 2الشريحة 2: Degree punctuation is inconsistent, (UOttawa 2021) versus (UOttawa, 2015). JRC is unexpanded: SDAIA-KFUPM Joint Research Center for AI.علامات الترقيم في المؤهلات غير متسقة: (UOttawa 2021) مقابل (UOttawa, 2015). واختصار JRC غير موضّح، وهو SDAIA-KFUPM Joint Research Center for AI (مركز البحث المشترك للذكاء الاصطناعي).
Slide 3الشريحة 3: No caption, no citation. Describe the rig (RGB, thermal, LiDAR, GPS); attribute no measured result.لا تعليق توضيحي ولا مرجع. صِف المنصة (RGB، وحرارية، وLiDAR، وGPS)؛ ولا تنسب إليها أي نتيجة مقاسة.
Slide 5الشريحة 5: RAW is never expanded, on the slide or in the paper. The fifth YOLO-RAW label is occluded and reads about Bird 0.37.اختصار RAW لا يُوضَّح أبدًا، لا في الشريحة ولا في الورقة البحثية. والتسمية الخامسة في YOLO-RAW محجوبة جزئيًا وتُقرأ تقريبًا Bird 0.37.
Slides 7, 8الشريحتان 7 و8: Photographs with no paper and no result. Cite FHWA HRT-18-044 and the NRC rail review for the problem class only.صور فوتوغرافية بلا ورقة بحثية ولا نتيجة. استشهد بـFHWA HRT-18-044 وبمراجعة NRC للسكك الحديدية لتوصيف فئة المشكلة فقط.
Slide 11الشريحة 11: "Resource-constraint platforms" should be "resource-constrained". Spelling mixes British "Analyse" with American "Optimize".عبارة "Resource-constraint platforms" صوابها "resource-constrained". والتهجئة تخلط بين البريطانية "Analyse" والأمريكية "Optimize".
Slide 12الشريحة 12: Only "View on Blackboard". No grading weights, exam dates, textbook or office hours are in the deck.فقط "View on Blackboard". لا توجد في العرض أوزان للدرجات ولا مواعيد اختبارات ولا كتاب مقرر ولا ساعات مكتبية.