Latency is transit time, paid twice

زمن الانتقال هو زمن العبور، ويُدفع مرتين

Latency is the time data spends in transit between two points (slide 51). The common practice today is to put the server in the cloud, so every request crosses the network to reach it, and the answer crosses back.

Latency هو الزمن الذي تقضيه البيانات في الطريق بين نقطتين (الشريحة 51). والممارسة الشائعة اليوم هي وضع الخادم في cloud، فكل طلب يعبر الشبكة ليصل إليه، والجواب يعبرها راجعاً.

The client always starts the exchange, so a request and its response pay latency in both directions. The two one-way figures are usually close, but they do not have to be equal, because Internet routes are not always symmetric.

العميل (client) هو من يبدأ التبادل دائماً، لذلك يدفع الطلب وجوابه latency في الاتجاهين. والقيمتان في الاتجاه الواحد متقاربتان عادة، لكن لا يلزم أن تتساويا، لأن مسارات الإنترنت ليست متماثلة دائماً.

The time the server spends working is not latency. That is processing time, and page 09 adds it to the two latencies to get the response time.

الزمن الذي يقضيه الخادم في العمل ليس latency. هذا هو processing time، وفي الصفحة 09 نضيفه إلى زمني الانتقال لنحصل على response time.

The physical lower bound

الحد الأدنى الفيزيائي

Slide 52 gives the one formula you must own:

الشريحة 52 تعطي المعادلة الوحيدة التي يجب أن تتقنها:

It is a lower bound because every simplification can only make the real number bigger: nothing carries information faster than light in vacuum, no cable is shorter than the shortest path over the Earth, and the formula ignores every other delay. No provider, protocol or hardware upgrade can beat it. The only way to lower it is to shorten the distance.

هو حد أدنى (lower bound) لأن كل تبسيط فيه لا يمكن إلا أن يجعل الرقم الحقيقي أكبر: لا شيء ينقل المعلومات أسرع من الضوء في الفراغ، ولا يوجد كابل أقصر من أقصر مسار على سطح الأرض، والمعادلة تتجاهل كل التأخيرات الأخرى. لا يستطيع أي مزوّد أو بروتوكول أو ترقية عتاد أن يتجاوزه. الطريقة الوحيدة لخفضه هي تقصير المسافة.

Which distance: geodesic, not planar

أي مسافة: geodesic لا planar

The distance in the formula is the geodesic distance: the shortest path between two points along the curved surface of the Earth (a great-circle arc on a sphere). Slide 53 shows London to Singapore: the straight orange line on the flat map is the planar distance, and the blue curve bending north is the geodesic.

المسافة في المعادلة هي مسافة geodesic: أقصر مسار بين نقطتين على السطح المنحني للأرض (قوس دائرة عظمى، great-circle، على الكرة). الشريحة 53 تُظهر لندن إلى سنغافورة: الخط البرتقالي المستقيم على الخريطة المسطحة هو مسافة planar، والمنحنى الأزرق المتجه شمالاً هو geodesic.

The curve only looks longer because the map flattens a sphere. On the real Earth the geodesic is shorter, and signals travel over the real Earth, so latency always uses the geodesic.

المنحنى يبدو أطول فقط لأن الخريطة تُسطّح الكرة. على الأرض الحقيقية يكون geodesic أقصر، والإشارات تسافر فوق الأرض الحقيقية، لذلك يستخدم حساب latency دائماً مسافة geodesic.

Real glass is slower than vacuum

الزجاج الحقيقي أبطأ من الفراغ

The c in the bound is light in vacuum. Real links carry light through glass fiber with a refractive index of about 1.5, so the signal moves at about c / 1.5 ≈ 200,000 km/s, two thirds of c. Even a perfect fiber laid exactly along the geodesic needs 1.5× the bound.

قيمة c في الحد هي سرعة الضوء في الفراغ. أما الروابط الحقيقية فتنقل الضوء عبر ألياف زجاجية معامل انكسارها نحو 1.5، فتتحرك الإشارة بسرعة c / 1.5 ≈ 200,000 km/s تقريباً، أي ثلثي c. حتى الليف المثالي الممدود تماماً على مسار geodesic يحتاج 1.5× من الحد.

Bound against measurement: Dammam to three AWS regions

الحد مقابل القياس: من الدمام إلى ثلاث مناطق في AWS

Slide 54 puts the client in Dammam and the server in Frankfurt (eu-central-1), Tokyo (ap-northeast-1) and Oregon (us-west-2), then measures the RTT with aws-latency-test.com. The rule: compare an RTT with twice the one-way bound.

الشريحة 54 تضع العميل في الدمام والخادم في فرانكفورت (eu-central-1) وطوكيو (ap-northeast-1) وأوريغون (us-west-2)، ثم تقيس RTT عبر aws-latency-test.com. القاعدة: قارن RTT مع ضعف الحد في الاتجاه الواحد.

Dammam to Frankfurt, geodesic about 4,390 km

  one-way bound   4,390 / 300,000  = 0.01463 s  = 14.6 ms
  RTT bound       2 x 14.6         = 29.3 ms
  fiber RTT       2 x 4,390 / 200,000 = 0.0439 s = 43.9 ms
  measured RTT    100 ms

  measured / RTT bound   = 100 / 29.3  = 3.4x
  measured / fiber floor = 100 / 43.9  = 2.3x

يلخّص الجدول المناطق الثلاث. فرانكفورت: ≈ 4,390 km، والحد 14.6 / 29.3 ms، والألياف 43.9 ms، والمقاس 100 ms، والنسبة ≈ 3.4×. طوكيو: ≈ 8,300 km، والحد 27.7 / 55.3 ms، والألياف 83.0 ms، والمقاس 163 ms، والنسبة ≈ 2.9×. أوريغون: ≈ 11,900 km، والحد 39.7 / 79.4 ms، والألياف 119 ms، والمقاس 243 ms، والنسبة ≈ 3.1×.

The ratio is about 3× for all three regions, at very different distances. A stable ratio means the extra cost is systematic: 1.5× from glass, plus cable routes that follow coastlines and seabeds instead of the geodesic, plus processing and queueing at every router.

النسبة نحو 3× في المناطق الثلاث رغم اختلاف المسافات كثيراً. وثبات النسبة يعني أن التكلفة الإضافية منهجية: 1.5× من الزجاج، ثم مسارات كابلات تتبع السواحل وقيعان البحار بدلاً من geodesic، ثم المعالجة والانتظار في كل موجّه.

Latency over the Internet: up to 100× the bound

زمن الانتقال عبر الإنترنت: حتى 100× من الحد

Slide 55 says Internet latencies can be as large as 100× Latency_LB, with the example of a 15 ms theoretical latency becoming 1,500 ms. Measurements support this for whole page fetches: Singla et al. found that fetching the HTML of popular pages took 34× the speed-of-light RTT at the median and 169× at the 90th percentile. Those fetches stack DNS lookups, the TCP handshake and slow start on top of the per-hop delays.

تقول الشريحة 55 إن زمن الانتقال عبر الإنترنت قد يصل إلى 100× من Latency_LB، ومثالها أن 15 ms نظرية قد تصبح 1,500 ms. والقياسات تدعم هذا لجلب الصفحات كاملة: وجد Singla et al. أن جلب HTML لصفحات مشهورة استغرق 34× من RTT بسرعة الضوء عند الوسيط، و169× عند المئين 90. فهذه العمليات تُراكم استعلام DNS ومصافحة TCP وslow start فوق تأخيرات كل قفزة.

The four packet delays

تأخيرات الحزمة الأربعة

Propagation, the physical distance, is only one element. Every packet pays four delays at every node it crosses (Kurose and Ross, section 1.4):

التأخير الناتج عن المسافة الفيزيائية (propagation) عنصر واحد فقط. كل حزمة تدفع أربعة تأخيرات عند كل عقدة تعبرها (Kurose and Ross، القسم 1.4):

1. Processing delay. Inside switches, routers and hosts: checking headers and bit errors, looking up where to forward. Driven by the device, usually microseconds.

   Processing delay. داخل المبدّلات والموجّهات والأجهزة: فحص الترويسات وأخطاء البتات، والبحث عن وجهة التمرير. يعتمد على الجهاز، وعادة يُقاس بالميكروثانية.

2. Queueing delay. Waiting in router and server buffers behind packets that arrived first. Driven by congestion, from zero at night to hundreds of milliseconds at peak.

   Queueing delay. الانتظار في ذاكرات الموجّهات والخوادم خلف حزم وصلت قبلك. يعتمد على الازدحام (congestion)، من صفر ليلاً إلى مئات الميلي ثانية في الذروة.

3. Transmission delay = L / R. At the network interface card, pushing all L bits of the packet onto a link of rate R bits per second. Driven by packet size and bandwidth. Nothing to do with distance.

   Transmission delay = L / R. عند بطاقة الشبكة (NIC)، دفع كل بتات الحزمة L على رابط معدّله R بت في الثانية. يعتمد على حجم الحزمة وbandwidth، ولا علاقة له بالمسافة.

4. Propagation delay = d / s. Along the physical channel (fiber, copper, radio): link length d divided by signal speed s, about 200,000 km/s in fiber. Driven by distance. Nothing to do with bandwidth.

   Propagation delay = d / s. على القناة الفيزيائية (ألياف، نحاس، راديو): طول الرابط d مقسوماً على سرعة الإشارة s، نحو 200,000 km/s في الألياف. يعتمد على المسافة، ولا علاقة له بـ bandwidth.

one 1,500-byte packet, Dammam to Frankfurt fiber (4,390 km)

  L = 1,500 x 8 = 12,000 bits

  transmission at 1 Gbps    12,000 / 10^9   = 12 us
  transmission at 10 Mbps   12,000 / 10^7   = 1.2 ms
  propagation (either link) 4,390 / 200,000 = 0.02195 s = 22 ms

  100x less bandwidth: transmission grows 100x,
  propagation does not move by a single microsecond.

الجدول يلخّص التأخيرات الأربعة: processing في المبدّلات والموجّهات ويقلّ بعتاد أسرع وقفزات أقل. وqueueing في الموجّهات والخوادم ويعتمد على الازدحام ويقلّ بحركة أقل. وtransmission عند بطاقة الشبكة ويساوي L / R ويقلّ بزيادة bandwidth. وpropagation على القناة الفيزيائية ويساوي d / s ولا يقلّ إلا إذا اقتربت النهايتان من بعضهما.

Practice computation

تمرين حسابي

Do it with a pen before reading the answer: Dammam to London is about 5,020 km along the geodesic. Give the one-way bound, the RTT bound and the fiber RTT floor. If the measured RTT is 120 ms, what is the ratio to the RTT bound?

احسبها بالقلم قبل قراءة الجواب: المسافة من الدمام إلى لندن نحو 5,020 km على geodesic. أعطِ الحد في اتجاه واحد، وحد RTT، وحد الألياف لـ RTT. وإذا كان RTT المقاس 120 ms، فما النسبة إلى حد RTT؟

one-way bound   5,020 / 300,000         = 0.01673 s = 16.7 ms
RTT bound       2 x 16.7                 = 33.5 ms
fiber one way   5,020 / 200,000          = 25.1 ms
fiber RTT       2 x 25.1                 = 50.2 ms
ratio           120 / 33.5               = 3.6x

Everything on one card

كل شيء في بطاقة واحدة