Glossaryالمصطلحات

A pruning pattern where two of every four weights are zero, which NVIDIA Tensor Cores from Ampere on can skip; spec sheets quote a sparse TOPS figure exactly double the dense one, and only pruned models reach it.نمط تقليم (pruning) يكون فيه وزنان من كل أربعة أوزان صفرا، وتستطيع Tensor Cores من NVIDIA بدءا من Ampere تخطيهما؛ وتذكر أوراق المواصفات رقم TOPS متناثرا (sparse) يساوي ضعف الرقم الكثيف (dense) تماما، ولا تبلغه إلا النماذج المقلمة.

• Slide 18الشريحة 18

Working memory that holds intermediate results during computation: 80 GB for cloud AI, 4 GB for mobile AI, 320 kB for tiny AI.ذاكرة العمل التي تحمل النتائج الوسيطة أثناء الحساب: 80 GB للذكاء الاصطناعي السحابي، و4 GB للذكاء الاصطناعي على الهاتف، و320 kB للذكاء الاصطناعي المصغر (tiny AI).

• Slide 23الشريحة 23

Jointly optimizing the model and the system software or hardware it runs on, such as kernel optimization plus model redesign, to reach real-time performance.تحسين النموذج مع برمجيات النظام أو العتاد الذي يعمل عليه معا، مثل تحسين النوى البرمجية (kernels) مع إعادة تصميم النموذج، للوصول إلى أداء في الزمن الحقيقي.

• Slide 14الشريحة 14

Energy-efficient, high-throughput engine for ML inference on Apple silicon, from 0.6 TOPS (A11) to 35 TOPS (A17).محرك موفر للطاقة وعالي الإنتاجية لاستدلال التعلم الآلي في شرائح Apple، من 0.6 TOPS (A11) إلى 35 TOPS (A17).

• Slide 20الشريحة 20

Operations performed per byte fetched from memory; a workload below the chip's break-even ratio (about 295 operations per byte on an H100 at 990 TOPS and 3.35 TB/s) is memory bound, and LLM decoding at batch size one sits near 1.عدد العمليات المنفذة لكل بايت يجلب من الذاكرة؛ والحمل الذي يقل عن نسبة التعادل في الشريحة (نحو 295 عملية لكل بايت في H100 عند 990 TOPS و3.35 TB/s) يكون محدودا بالذاكرة، وفك ترميز LLM بحجم دفعة (batch size) واحد يقع قرب 1.

• Slide 18الشريحة 18

Arm's family of 32-bit microcontroller processor cores (M0+, M3, M4, M7) used on boards such as the Arduino Zero and the STM32F746; Arm rates each core in DMIPS per MHz, and the Cortex-M7 is the core MCUNet targets.عائلة أنوية معالجات المتحكمات الدقيقة 32-بت من Arm (M0+ وM3 وM4 وM7) المستخدمة في لوحات مثل Arduino Zero وSTM32F746؛ تقيم Arm كل نواة بوحدة DMIPS لكل MHz، ونواة Cortex-M7 هي التي يستهدفها MCUNet.

• Slide 7الشريحة 7
• Slide 22الشريحة 22

The transformer operation that compares every token with every other token, so its compute and memory grow with the square of the token count; it is why diffusion cost is super-quadratic in resolution and why efficient attention is a research area.عملية المحول التي تقارن كل رمز (token) بكل رمز آخر، فينمو حسابها وذاكرتها مع مربع عدد الرموز؛ ولهذا تكون كلفة نماذج الانتشار فوق تربيعية بالنسبة للدقة، ولهذا يعد الانتباه الفعال مجالا بحثيا.

• Slide 12الشريحة 12

The training algorithm that follows a forward pass with a backward pass computing gradients layer by layer; it costs about twice the forward pass and must keep every layer's activations until the backward pass returns, which is why training needs more compute and memory than inference.خوارزمية التدريب التي تتبع المرور الأمامي (forward pass) بمرور خلفي (backward pass) يحسب التدرجات (gradients) طبقة بطبقة؛ تكلف نحو ضعف المرور الأمامي ويجب أن تحتفظ بتنشيطات كل طبقة حتى يعود المرور الخلفي، ولهذا يحتاج التدريب حسابا وذاكرة أكثر من الاستدلال.

• Slide 8الشريحة 8

Data center accelerator such as NVIDIA P100, V100, A100, H100 and B100, with up to 192 GB memory and 700 W power.مسرع لمراكز البيانات مثل NVIDIA P100 وV100 وA100 وH100 وB100، بذاكرة تصل إلى 192 GB وقدرة تصل إلى 700 W.

• Slide 18الشريحة 18
• Slide 23الشريحة 23

Three hardware tiers of decreasing resources, showing that edge AI devices still have a huge gap to cloud processors.ثلاث فئات من العتاد بموارد متناقصة، توضح أن أجهزة الذكاء الاصطناعي الطرفية ما زالت بينها وبين المعالجات السحابية فجوة هائلة.

• Slide 23الشريحة 23

Machine learning with deep neural networks of many layers, applied to vision, language and multimodal tasks, whose accuracy comes at the cost of high computation.تعلم آلي يعتمد على شبكات عصبية عميقة متعددة الطبقات، يطبق في مهام الرؤية واللغة والمهام متعددة الوسائط (multimodal)، وتأتي دقته على حساب تكلفة حسابية عالية.

• Slide 2الشريحة 2
• Slide 4الشريحة 4
• Slide 5الشريحة 5

One forward pass of a diffusion model that removes a little noise from the current image or latent; a sampler runs tens of them per image, so the real cost of one image is the per-step MACs times the step count.مرور أمامي واحد لنموذج الانتشار يزيل قليلا من الضوضاء من الصورة أو التمثيل الكامن (latent) الحالي؛ ويشغل المعاين (sampler) عشرات منها لكل صورة، فتكون الكلفة الحقيقية للصورة الواحدة هي MACs لكل خطوة مضروبة في عدد الخطوات.

• Slide 12الشريحة 12
• Slide 13الشريحة 13

Generative model that creates realistic images or video from a natural language description by iterative denoising; very computationally expensive to train and run.نموذج توليدي ينشئ صورا أو فيديو واقعيا من وصف باللغة الطبيعية عبر إزالة الضوضاء تكراريا (iterative denoising)؛ وهو مكلف حسابيا جدا في التدريب والتشغيل.

• Slide 11الشريحة 11
• Slide 12الشريحة 12
• Slide 13الشريحة 13

DistriFusion's mechanism: each GPU denoises its own image patch but attends to the neighbouring patches' activations from the previous denoising step, which are similar enough to the current ones, so communication is asynchronous and hidden behind computation.آلية DistriFusion: تزيل كل GPU الضوضاء عن رقعتها الخاصة من الصورة، لكنها تنتبه إلى تنشيطات الرقع المجاورة من خطوة إزالة الضوضاء السابقة، وهي قريبة بما يكفي من الحالية، فيصبح الاتصال غير متزامن (asynchronous) ومخفيا خلف الحساب.

• Slide 13الشريحة 13

Distributed parallel inference for high-resolution diffusion models that splits work across 4 GPUs for 4.0x fewer MACs per device and 3.0x lower latency without the duplicated-subject artifacts of naive patch parallelization.استدلال متوازٍ موزع لنماذج الانتشار عالية الدقة يقسم العمل على 4 وحدات GPU، فيقلل MACs لكل جهاز بمقدار 4.0 مرات والكمون (latency) بمقدار 3.0 مرات، دون تشوهات تكرار العنصر التي يسببها التوازي الساذج بالرقع.

• Slide 13الشريحة 13

Dhrystone million instructions per second, an index of integer computation used to rate microcontroller performance.ملايين تعليمات Dhrystone في الثانية، مؤشر لحساب الأعداد الصحيحة يستخدم لتقييم أداء المتحكمات الدقيقة.

• Slide 22الشريحة 22

Computing device close to the user or sensor (phone, smart speaker, car, robot, microcontroller) that processes data locally instead of in a cloud server.جهاز حوسبة قريب من المستخدم أو المستشعر (هاتف، سماعة ذكية، سيارة، روبوت، متحكم دقيق) يعالج البيانات محليا بدلا من خادم سحابي.

• Slide 8الشريحة 8
• Slide 16الشريحة 16
• Slide 19الشريحة 19
• Slide 20الشريحة 20
• Slide 21الشريحة 21
• Slide 23الشريحة 23

Running LLMs locally on laptops, cars and robots for copilot services, for devices that may not be connected and to keep personal data private.تشغيل النماذج اللغوية الكبيرة محليا على الحواسيب المحمولة والسيارات والروبوتات لخدمات المساعد (copilot)، للأجهزة التي قد لا تكون متصلة بالشبكة وللحفاظ على خصوصية البيانات الشخصية.

• Slide 16الشريحة 16

SAM accelerated by replacing its image encoder with EfficientViT, matching SAM-ViT-H zero-shot segmentation performance with a 48.9x speedup on an A100 GPU.نسخة مسرعة من SAM باستبدال مشفر الصور فيه بـ EfficientViT، تضاهي أداء SAM-ViT-H في التجزئة zero-shot مع تسريع قدره 48.9 مرة على GPU من نوع A100.

• Slide 10الشريحة 10

3D LiDAR perception network accelerated by algorithm/system co-design to 47 fps, above the 30 fps real-time threshold, versus 5 fps for MinkowskiNet.شبكة إدراك ثلاثي الأبعاد لبيانات LiDAR سرعت بالتصميم المشترك بين الخوارزمية والنظام (co-design) إلى 47 fps، فوق عتبة الزمن الحقيقي البالغة 30 fps، مقابل 5 fps لـ MinkowskiNet.

• Slide 14الشريحة 14

The persistent, read-only-during-inference storage of a microcontroller, e.g. 1 MB on the STM32F746, which holds the model weights and therefore constrains the total model size.وحدة التخزين الدائمة في المتحكم الدقيق، وهي للقراءة فقط أثناء الاستدلال، مثلا 1 MB في STM32F746، وتحمل أوزان النموذج، ولذلك تقيد الحجم الكلي للنموذج.

• Slide 23الشريحة 23

Count of arithmetic operations where a multiply and an add are counted separately, so one MAC equals two FLOPs; some papers label multiply-adds as FLOPs, so check the convention before comparing, and TOPS and TFLOPS ratings use the two-per-MAC count.عدد العمليات الحسابية مع احتساب الضرب والجمع كل على حدة، فتساوي عملية MAC واحدة عمليتي FLOPs؛ بعض الأوراق تسمي عمليات الضرب والجمع FLOPs، لذا تحقق من الاصطلاح قبل المقارنة، علما بأن تصنيفات TOPS وTFLOPS تعتمد احتساب عمليتين لكل MAC.

• Slide 5الشريحة 5
• Slide 18الشريحة 18

16-bit floating point precision, 2 bytes per value, assumed when converting model parameters to GPU memory.دقة الفاصلة العائمة 16-بت، بمقدار 2 بايت لكل قيمة، وهي المفترضة عند تحويل معاملات النموذج إلى ذاكرة GPU.

• Slide 15الشريحة 15
• Slide 16الشريحة 16
• Slide 18الشريحة 18

The time budget for one frame, 1000 ms divided by the frame rate: 33.3 ms at 30 fps, 200 ms at 5 fps, 21.3 ms at 47 fps; a model is real time only when its per-frame latency fits inside it.الميزانية الزمنية للإطار الواحد، وتساوي 1000 ms مقسومة على معدل الإطارات: 33.3 ms عند 30 fps و200 ms عند 5 fps و21.3 ms عند 47 fps؛ ولا يعد النموذج في الزمن الحقيقي إلا إذا كان كمونه لكل إطار ضمنها.

• Slide 14الشريحة 14

Inference throughput for video or sensor streams; 30 fps is the real-time threshold used for driving.إنتاجية الاستدلال لتدفقات الفيديو أو المستشعرات؛ و30 fps هي عتبة الزمن الحقيقي المستخدمة في القيادة.

• Slide 14الشريحة 14

The stacked DRAM packaged next to a data center GPU that holds weights and activations: 16 GB at 732 GB/s on the P100, 80 GB at 2039 GB/s on the A100, 192 GB at 8192 GB/s on the B100.ذاكرة DRAM مكدسة مغلفة بجوار GPU مراكز البيانات وتحمل الأوزان والتنشيطات: 16 GB بسرعة 732 GB/s في P100، و80 GB بسرعة 2039 GB/s في A100، و192 GB بسرعة 8192 GB/s في B100.

• Slide 18الشريحة 18
• Slide 23الشريحة 23

Large-scale image classification benchmark and annual contest used to track progress of deep networks, where winners' top-5 error fell from 28.2% in 2010 to 2.3% in 2017, below the human 5.1%.معيار ومسابقة سنوية واسعة النطاق لتصنيف الصور تستخدم لتتبع تقدم الشبكات العميقة، وقد انخفض فيها خطأ top-5 للفائزين من 28.2% عام 2010 إلى 2.3% عام 2017، أي أقل من خطأ الإنسان البالغ 5.1%.

• Slide 4الشريحة 4
• Slide 5الشريحة 5
• Slide 6الشريحة 6

Using a trained model to produce predictions for new inputs; cheaper than training.استخدام نموذج مدرب لإنتاج تنبؤات لمدخلات جديدة؛ وهو أرخص من التدريب.

• Slide 6الشريحة 6
• Slide 8الشريحة 8
• Slide 20الشريحة 20

8-bit integer precision, 1 byte per value, 4x smaller than FP32; the format MCUNet uses for its quantized models and the one NVIDIA quotes for Jetson Xavier and Orin TOPS.دقة الأعداد الصحيحة 8-بت، بمقدار 1 بايت لكل قيمة، أصغر بـ 4 مرات من FP32؛ وهي الصيغة التي يستخدمها MCUNet لنماذجه المكممة (quantized)، والتي تذكر بها NVIDIA قيم TOPS لـ Jetson Xavier وOrin.

• Slide 21الشريحة 21
• Slide 23الشريحة 23

Transformer-based language model with billions of parameters, growing from 0.05B (Transformer, 2017) to 530B (MT-NLG), far faster than GPU memory.نموذج لغوي قائم على المحول (transformer) بمليارات المعاملات، نما من 0.05B (Transformer عام 2017) إلى 530B (MT-NLG)، أسرع بكثير من نمو ذاكرة GPU.

• Slide 15الشريحة 15
• Slide 16الشريحة 16

Time to produce one output, e.g. 12.3 s for one high-resolution image on a single GPU versus 4.16 s with DistriFusion on 4 GPUs.الزمن اللازم لإنتاج مخرج واحد، مثلا 12.3 s لصورة عالية الدقة على GPU واحدة مقابل 4.16 s مع DistriFusion على 4 GPU.

• Slide 13الشريحة 13

Algorithms that learn patterns from data to make predictions or decisions instead of being explicitly programmed; the slides pair it with deep learning as widely used but computationally expensive.خوارزميات تتعلم الأنماط من البيانات لتصدر تنبؤات أو قرارات بدلا من برمجتها صراحة؛ وتقرنها الشرائح بالتعلم العميق (deep learning) بوصفهما واسعي الاستخدام لكنهما مكلفان حسابيا.

• Slide 2الشريحة 2

Count of multiply-accumulate operations a model performs for one input, a hardware-neutral measure of computational cost reported in billions (B) or trillions (T).عدد عمليات الضرب والجمع التراكمي (multiply-accumulate) التي ينفذها النموذج لمدخل واحد، وهو مقياس للتكلفة الحسابية لا يرتبط بعتاد معين، ويذكر بالمليارات (B) أو التريليونات (T).

• Slide 5الشريحة 5
• Slide 6الشريحة 6
• Slide 12الشريحة 12
• Slide 13الشريحة 13

The COCO instance segmentation accuracy metric: average precision over recall levels and mask overlap thresholds, averaged over classes; SAM-ViT-H scores 46.5 and EfficientViT-SAM-L2 46.6 zero-shot.مقياس دقة تجزئة الكائنات (instance segmentation) في COCO: متوسط الدقة (average precision) عبر مستويات الاستدعاء (recall) وعتبات تداخل الأقنعة، ثم يؤخذ متوسطه عبر الفئات؛ يحقق SAM-ViT-H قيمة 46.5 وEfficientViT-SAM-L2 قيمة 46.6 في وضع zero-shot.

• Slide 10الشريحة 10

Tiny deep learning system that enables vision tasks like facial mask detection and person detection on IoT devices such as an ARM Cortex-M7 with an OpenMV Cam.نظام تعلم عميق مصغر يمكن مهام الرؤية مثل كشف الكمامات وكشف الأشخاص على أجهزة IoT مثل معالج ARM Cortex-M7 مع كاميرا OpenMV Cam.

• Slide 7الشريحة 7

Rate at which data can be moved to and from accelerator memory in GB/s, rising from 732 GB/s (P100) to 8192 GB/s (B100).معدل نقل البيانات من ذاكرة المسرع وإليها بوحدة GB/s، ويرتفع من 732 GB/s (P100) إلى 8192 GB/s (B100).

• Slide 18الشريحة 18

The widening gap between compute and data movement: P100 to B100 compute grew 94x while memory capacity and bandwidth grew about 12x, so memory-bound work such as LLM token decoding is limited by bandwidth, not TOPS.الفجوة المتسعة بين الحساب ونقل البيانات: من P100 إلى B100 نما الحساب 94 مرة بينما نمت سعة الذاكرة وعرض نطاقها نحو 12 مرة فقط، لذا فإن العمل المحدود بالذاكرة (memory-bound) مثل فك ترميز الرموز في LLM يقيده عرض النطاق، لا TOPS.

• Slide 18الشريحة 18

Compact integrated circuit for embedded systems that includes a processor, memory and I/O peripherals on a single chip, with milliwatts of power and kilobytes of memory.دائرة متكاملة مدمجة للأنظمة المضمنة (embedded systems) تضم معالجا وذاكرة وطرفيات إدخال وإخراج (I/O) على شريحة واحدة، بقدرة بالمللي واط وذاكرة بالكيلوبايت.

• Slide 7الشريحة 7
• Slide 22الشريحة 22
• Slide 23الشريحة 23

Number of parameters (weights) in a model, e.g. 2M to 64M for ImageNet CNNs and up to 530B for LLMs; memory needed depends on the numeric precision per parameter.عدد المعاملات (الأوزان weights) في النموذج، مثلا من 2M إلى 64M لشبكات CNN على ImageNet وحتى 530B للنماذج اللغوية الكبيرة LLM؛ وتعتمد الذاكرة اللازمة على الدقة العددية لكل معامل.

• Slide 5الشريحة 5
• Slide 15الشريحة 15
• Slide 16الشريحة 16

Automated (AutoML) search for network architectures that reach high accuracy with low computation, as opposed to handcrafted designs.بحث آلي (AutoML) عن معماريات شبكات تحقق دقة عالية بحساب منخفض، في مقابل التصاميم المصنوعة يدويا.

• Slide 6الشريحة 6

The number format used to store each parameter or activation, which sets the bytes per value: 4 for FP32, 2 for FP16 or BF16, 1 for INT8, 0.5 for INT4; memory is parameters times bytes per parameter, and TOPS ratings are quoted at a specific precision.صيغة الأعداد المستخدمة لتخزين كل معامل أو تنشيط، وهي تحدد عدد البايتات لكل قيمة: 4 لـ FP32، و2 لـ FP16 أو BF16، و1 لـ INT8، و0.5 لـ INT4؛ والذاكرة تساوي عدد المعاملات مضروبا في البايتات لكل معامل، وتذكر تصنيفات TOPS عند دقة محددة.

• Slide 15الشريحة 15
• Slide 16الشريحة 16
• Slide 18الشريحة 18
• Slide 21الشريحة 21

Edge AI family of systems on module, from Nano (0.5 TOPS, 10 W, 4 GB) to AGX Orin 64GB (275 TOPS, 60 W, 64 GB).عائلة من الأنظمة على وحدة (system on module) للذكاء الاصطناعي الطرفي، من Nano (0.5 TOPS و10 W و4 GB) إلى AGX Orin 64GB (275 TOPS و60 W و64 GB).

• Slide 21الشريحة 21

Updating a model directly on the edge device with locally collected data, giving better privacy, lower cost, customization and life-long learning, but harder because training costs more than inference and edge memory and power are limited.تحديث النموذج مباشرة على الجهاز الطرفي (edge device) باستخدام بيانات تجمع محليا، مما يمنح خصوصية أفضل وتكلفة أقل وتخصيصا وتعلما مستمرا مدى الحياة، لكنه أصعب لأن التدريب أكثر كلفة من الاستدلال ولأن ذاكرة الأجهزة الطرفية وطاقتها محدودتان.

• Slide 8الشريحة 8

NAS approach that trains one network and specializes sub-networks for efficient deployment, reaching 80.0% ImageNet top-1 at 595M MACs, 14x less computation than comparable models.أسلوب NAS يدرب شبكة واحدة ثم يخصص منها شبكات فرعية للنشر الفعال، ويحقق دقة top-1 تبلغ 80.0% على ImageNet عند 595M MACs، أي حسابا أقل بـ 14 مرة من النماذج المماثلة.

• Slide 6الشريحة 6

Speedup divided by device count, e.g. 3.0x on 4 GPUs is 75% for DistriFusion; the shortfall from 100% is the cost of communication between devices.التسريع مقسوما على عدد الأجهزة، مثلا تسريع 3.0 مرات على 4 GPU يعني 75% في DistriFusion؛ والنقص عن 100% هو كلفة الاتصال بين الأجهزة.

• Slide 13الشريحة 13

On accuracy-versus-MACs plots higher accuracy is better and lower computation is better, so the best models sit toward the upper left; the Pareto frontier is the set of models no other model beats on both accuracy and MACs, drawn as a staircase toward the upper left that architecture search shifts further left.في رسوم الدقة مقابل MACs تكون الدقة الأعلى أفضل والحساب الأقل أفضل، فتقع أفضل النماذج نحو الأعلى يسارا؛ وحد باريتو هو مجموعة النماذج التي لا يتفوق عليها أي نموذج آخر في الدقة وMACs معا، ويرسم كدرج متجه نحو الأعلى يسارا يزيحه البحث عن المعماريات أكثر نحو اليسار.

• Slide 5الشريحة 5
• Slide 6الشريحة 6

The sustained power a device can dissipate: about 10 W for a fanless phone, fixed by heat, so phone accelerators gain only through efficiency; 10 to 60 W across Jetson tiers with cooling; 250 to 700 W for a cloud GPU.القدرة المستمرة التي يستطيع الجهاز تبديدها: نحو 10 W لهاتف بلا مروحة، وهي ثابتة بسبب الحرارة، لذا لا تتحسن مسرعات الهواتف إلا عبر الكفاءة؛ ومن 10 إلى 60 W عبر فئات Jetson مع التبريد؛ ومن 250 إلى 700 W لـ GPU السحابية.

• Slide 18الشريحة 18
• Slide 19الشريحة 19
• Slide 20الشريحة 20
• Slide 21الشريحة 21

Segmentation task where the user supplies a prompt (a point, a box, a mask or text) and the model returns a valid mask for the object the prompt refers to, even for objects it was never told about.مهمة تجزئة (segmentation) يقدم فيها المستخدم موجها (prompt) على شكل نقطة أو صندوق أو قناع أو نص، فيعيد النموذج قناعا صالحا للكائن الذي يشير إليه الموجه، حتى لكائنات لم يعرف بها من قبل.

• Slide 9الشريحة 9

Digital signal processor in Snapdragon chips designed to deliver AI performance at low power, from 3 to 52 TOPS at about 10 W.معالج إشارات رقمية (DSP) في شرائح Snapdragon مصمم لتقديم أداء الذكاء الاصطناعي بقدرة منخفضة، من 3 إلى 52 TOPS عند نحو 10 W.

• Slide 19الشريحة 19

Promptable image segmentation model with an image encoder, a prompt encoder and a lightweight mask decoder that outputs a valid mask for a given prompt.نموذج لتجزئة الصور قابل للتوجيه بالموجهات، يتكون من مشفر صور (image encoder) ومشفر موجهات (prompt encoder) ومفكك أقنعة خفيف (mask decoder) يخرج قناعا صالحا للموجه المعطى.

• Slide 9الشريحة 9
• Slide 10الشريحة 10

The on-chip read-write memory of a microcontroller, e.g. 320 kB on the STM32F746, which holds activations during inference and therefore constrains the peak activation size.ذاكرة القراءة والكتابة المدمجة في شريحة المتحكم الدقيق، مثلا 320 kB في STM32F746، وتحمل التنشيطات (activations) أثناء الاستدلال، ولذلك تقيد ذروة حجم التنشيطات.

• Slide 22الشريحة 22
• Slide 23الشريحة 23

About $600,000 of compute, 256 A100 GPUs for 150k GPU hours, illustrating the expense of training generative models.نحو 600,000 دولار من الحوسبة، باستخدام 256 GPU من نوع A100 لمدة 150k ساعة GPU، مما يوضح كلفة تدريب النماذج التوليدية.

• Slide 11الشريحة 11

Diffusion model computation grows faster than the square of image resolution, e.g. FLUX.1 MACs rising from tens of trillions at 1024 to nearly 2000T at 4096.ينمو حساب نموذج الانتشار أسرع من مربع دقة الصورة (resolution)، مثلا ترتفع MACs في FLUX.1 من عشرات التريليونات عند 1024 إلى ما يقارب 2000T عند 4096.

• Slide 12الشريحة 12

Complete compute board that integrates a GPU, CPU, memory, power management and high-speed interfaces in one module.لوحة حوسبة كاملة تدمج GPU وCPU والذاكرة وإدارة الطاقة والواجهات عالية السرعة في وحدة واحدة.

• Slide 21الشريحة 21

Algorithm, hardware and data: the three factors whose joint progress drives deep learning capability and whose balance determines efficiency.الخوارزمية والعتاد (hardware) والبيانات: العوامل الثلاثة التي يقود تقدمها المشترك قدرات التعلم العميق، ويحدد التوازن بينها مستوى الكفاءة.

• Slide 3الشريحة 3
• Slide 17الشريحة 17

Number of inputs processed per second, e.g. images per second on an A100 (11 for SAM-ViT-H, 538 for EfficientViT-SAM-L2) or frames per second for a sensor stream; it depends on MACs, memory traffic and kernels, not on parameter count alone.عدد المدخلات المعالجة في الثانية، مثل عدد الصور في الثانية على A100 (11 لـ SAM-ViT-H و538 لـ EfficientViT-SAM-L2) أو الإطارات في الثانية لتدفق مستشعر؛ ويعتمد على MACs وحركة الذاكرة والنوى البرمجية (kernels)، لا على عدد المعاملات وحده.

• Slide 10الشريحة 10
• Slide 14الشريحة 14

MCUNet's inference engine for microcontrollers: a code-generating runtime that executes the searched network without interpreter overhead, cutting SRAM use and flash size compared with generic frameworks.محرك الاستدلال في MCUNet للمتحكمات الدقيقة: بيئة تشغيل تولد الشيفرة وتنفذ الشبكة المختارة دون عبء المفسر (interpreter)، فتقلل استهلاك SRAM وحجم الذاكرة الوميضية مقارنة بالأطر العامة.

• Slide 7الشريحة 7

Running machine learning on tiny, resource-constrained IoT devices such as microcontrollers with kilobytes of memory.تشغيل التعلم الآلي على أجهزة إنترنت الأشياء (IoT) الصغيرة محدودة الموارد مثل المتحكمات الدقيقة (microcontrollers) ذات الذاكرة المقدرة بالكيلوبايت.

• Slide 7الشريحة 7
• Slide 23الشريحة 23
• Slide 24الشريحة 24

MCUNet's architecture search stage: a two-stage neural architecture search that first picks a search space fitting the microcontroller's SRAM and flash limits, then searches a network inside it.مرحلة البحث عن المعمارية في MCUNet: بحث عن معمارية الشبكة على مرحلتين، يختار أولا فضاء بحث يناسب حدود SRAM والذاكرة الوميضية (flash) في المتحكم الدقيق، ثم يبحث عن شبكة داخله.

• Slide 7الشريحة 7

The units a transformer processes: text pieces for a language model, image patches for a ViT, or latent patches and frames for a diffusion model; linear-layer compute scales with the token count and attention with its square.الوحدات التي يعالجها المحول (transformer): قطع نصية في النموذج اللغوي، ورقع صور (patches) في ViT، أو رقع كامنة (latent) وإطارات في نموذج الانتشار؛ يتناسب حساب الطبقات الخطية مع عدد الرموز، والانتباه (attention) مع مربعه.

• Slide 12الشريحة 12

Fraction of test images whose single highest-scoring predicted class matches the true label.نسبة صور الاختبار التي تطابق فيها الفئة الوحيدة الأعلى درجة في تنبؤ النموذج التصنيف الصحيح.

• Slide 5الشريحة 5
• Slide 6الشريحة 6

Fraction of test images whose true label is not among the model's five highest-scoring predicted classes.نسبة صور الاختبار التي لا يكون تصنيفها الصحيح ضمن الفئات الخمس الأعلى درجة في تنبؤات النموذج.

• Slide 4الشريحة 4

Trillions of operations per second, a performance metric for AI accelerators, e.g. 1750 TOPS for NVIDIA B100 and 52 for Snapdragon 8 Gen 1.تريليونات العمليات في الثانية، مقياس أداء لمسرعات الذكاء الاصطناعي، مثلا 1750 TOPS لـ NVIDIA B100 و52 لـ Snapdragon 8 Gen 1.

• Slide 18الشريحة 18
• Slide 19الشريحة 19
• Slide 20الشريحة 20
• Slide 21الشريحة 21

Peak TOPS divided by board power, the efficiency metric behind every accelerator chart: 0.075 for the P100 rising to 2.5 for the B100, and 0.33 to 5.2 across Snapdragon 845 to 8 Gen 1 under a fixed 10 W lid.ذروة TOPS مقسومة على قدرة اللوحة، وهو مقياس الكفاءة خلف كل رسوم المسرعات: من 0.075 لـ P100 إلى 2.5 لـ B100، ومن 0.33 إلى 5.2 عبر Snapdragon 845 حتى 8 Gen 1 تحت سقف ثابت قدره 10 W.

• Slide 18الشريحة 18
• Slide 19الشريحة 19
• Slide 20الشريحة 20
• Slide 21الشريحة 21

Persistent storage that holds model weights: about TB/PB for cloud AI, 256 GB for mobile AI, 1 MB for tiny AI.وحدة التخزين الدائمة التي تحمل أوزان النموذج: نحو TB/PB للذكاء الاصطناعي السحابي، و256 GB للذكاء الاصطناعي على الهاتف، و1 MB للذكاء الاصطناعي المصغر.

• Slide 23الشريحة 23

Accuracy of a model on a task or dataset it was not specifically trained on, such as SAM's zero-shot COCO mAP.دقة النموذج على مهمة أو مجموعة بيانات لم يدرب عليها تحديدا، مثل قيمة mAP لـ SAM على COCO دون تدريب عليها (zero-shot).

• Slide 10الشريحة 10