ICS 582 / Section 01الشعبة 01 / Fall 2026خريف 2026

Natural Language Processingمعالجة اللغات الطبيعية

How machines read, represent and generate human language, from text processing to modern language models.كيف تقرأ الآلات اللغة البشرية وتمثلها وتولدها، من معالجة النصوص إلى نماذج اللغة الحديثة.

LecturesالمحاضراتAssessmentsالتقييمات
Lecturesالمحاضرات
6
Assessedالتقييمات
1
Weightedالأوزان
TBC
Instructorالمحاضر
To be announcedيُعلن لاحقًا
Officeالمكتب
To be announcedيُعلن لاحقًا
Office hoursالساعات المكتبية
To be announcedيُعلن لاحقًا
Scheduleالجدول
Mon & Wed 5:20 PM to 6:35 PMالاثنين والأربعاء من 5:20 م إلى 6:35 م
Roomالقاعة
Building 22, Room 130
Term and creditsالفصل والساعات المعتمدة
Fall 2026خريف 2026, 3 credits، 3 ساعات معتمدة

Lecturesالمحاضرات

6 publishedالمنشور منها 6
  • 01

    Week 1الأسبوع 131 Aug 202631 أغسطس 2026

    Introduction to natural language processingمقدمة في معالجة اللغات الطبيعية (NLP)

    What NLP is and where it sits between linguistics, computer science and AI, the applications that run it at scale (translation, question answering, spelling, information extraction, sentiment), the four families of approaches and the levels of linguistic knowledge they must capture, and why ambiguity and the messiness of real language make the problem hard.ما هي معالجة اللغات الطبيعية (NLP) وأين تقع بين اللسانيات وعلوم الحاسب والذكاء الاصطناعي، والتطبيقات التي تعتمد عليها على نطاق واسع (الترجمة، والإجابة عن الأسئلة، والتدقيق الإملائي، واستخراج المعلومات، وتحليل المشاعر)، والعائلات الأربع من المناهج ومستويات المعرفة اللغوية التي يجب أن تلتقطها، ولماذا يجعل الغموض وفوضى اللغة الحقيقية المشكلة صعبة.

    4 parts4 أجزاء16 concepts16 مفهومًا25 slides25 شريحة

  • 02

    Week 2الأسبوع 27 Sept 20267 سبتمبر 2026

    Words and tokensالكلمات والرموز (Tokens)

    From what counts as a word to the algorithms that carve text into units: types and tokens, Zipf and Heaps laws, morphology in English and Arabic, Unicode and UTF-8, byte-pair encoding, regular expressions, and minimum edit distance with dynamic programming.من تحديد ما يُعد كلمة إلى الخوارزميات التي تقسم النص إلى وحدات: الأنواع والرموز (types وtokens)، وقانونا Zipf وHeaps، والصرف في الإنجليزية والعربية، وUnicode وUTF-8، وترميز أزواج البايتات (BPE)، والتعابير النمطية (regular expressions)، ومسافة التحرير الدنيا بالبرمجة الديناميكية.

    11 parts11 جزءًا46 concepts46 مفهومًا94 slides94 شريحة

  • 03

    Week 3الأسبوع 314 Sept 202614 سبتمبر 2026

    N-gram language modelsنماذج اللغة N-gram

    How count-based n-gram language models assign probabilities to word sequences: the chain rule and Markov assumption, maximum likelihood estimation, evaluation with perplexity, sampling, and smoothing from add-one through interpolation, backoff, absolute discounting and Kneser-Ney.كيف تعطي نماذج اللغة N-gram القائمة على العد احتمالات لتسلسلات الكلمات: قاعدة السلسلة (chain rule) وافتراض ماركوف (Markov)، وتقدير الإمكان الأعظم (MLE)، والتقييم بالحيرة (perplexity)، والتوليد بالعينات، والتنعيم (smoothing) من إضافة واحد مرورا بالاستيفاء (interpolation) والتراجع (backoff) والخصم المطلق وصولا إلى Kneser-Ney.

    10 parts10 أجزاء54 concepts54 مفهومًا105 slides105 شرائح

  • 04

    Week 4الأسبوع 421 Sept 202621 سبتمبر 2026

    Word embeddingsتضمينات الكلمات (Word embeddings)

    How to represent word meaning as vectors: lexical semantics desiderata, the distributional hypothesis, sparse count vectors weighted by tf-idf and PPMI with cosine similarity, dense word2vec skip-gram embeddings trained with negative sampling, their variants (CBOW, GloVe, FastText), and the properties, biases and evaluation of embeddings.كيف نمثل معنى الكلمة بمتجهات: متطلبات علم الدلالة المعجمي، والفرضية التوزيعية (distributional hypothesis)، ومتجهات العد المتفرقة الموزونة بـ tf-idf وPPMI مع تشابه جيب التمام (cosine)، وتضمينات word2vec skip-gram الكثيفة المدربة بالعينات السلبية (negative sampling)، ومتغيراتها (CBOW وGloVe وFastText)، وخصائص التضمينات وتحيزاتها وتقييمها.

    10 parts10 أجزاء59 concepts59 مفهومًا111 slides111 شريحة

  • 05

    Week 6الأسبوع 65 Oct 20265 أكتوبر 2026

    Spelling correctionالتصحيح الإملائي

    How a spell checker decides what you meant. Non-word and real-word errors, the noisy channel model (argmax of P(x|w)P(w)), candidate generation by edit distance, the Kernighan, Church and Gale confusion-matrix channel model, the acress and thew worked examples, the one-error-per-sentence lattice for real-word errors, and what modern systems add on top: weighting with lambda, phonetic models, richer edits, keyboard features and classifiers.كيف يقرر المدقق الإملائي ما قصدته. أخطاء الكلمات غير الموجودة وأخطاء الكلمات الحقيقية، ونموذج القناة المشوشة (noisy channel) أي argmax لـ P(x|w)P(w)، وتوليد المرشحين بمسافة التحرير، ونموذج القناة بمصفوفات الالتباس لـ Kernighan وChurch وGale، ومثالا acress وthew المحلولان، وشبكة المرشحين بافتراض خطأ واحد في الجملة لأخطاء الكلمات الحقيقية، وما تضيفه الأنظمة الحديثة: الترجيح بـ lambda، والنماذج الصوتية، والتعديلات الأغنى، وخصائص لوحة المفاتيح، والمصنِّفات.

    8 parts8 أجزاء30 concepts30 مفهومًا48 slides48 شريحة

  • 06

    Week 7الأسبوع 712 Oct 202612 أكتوبر 2026

    Neural Language Modelsنماذج اللغة العصبية

    From recurrence to attention: RNN and LSTM sequence models, encoder-decoder RNNs, RNN language models trained with cross-entropy and teacher forcing, the transformer block (self-attention, multi-head, positional encoding, cross and causal attention), and transformer language models with the language modeling head and weight tying.من التكرار (recurrence) إلى الانتباه (attention): نماذج التسلسل RNN وLSTM، وشبكات RNN بنمط المشفر-المفكك (encoder-decoder)، ونماذج اللغة RNN المدربة بالإنتروبيا المتقاطعة والتغذية القسرية (teacher forcing)، وكتلة المحوِّل (transformer) (الانتباه الذاتي، والرؤوس المتعددة، والترميز الموضعي، والانتباه المتقاطع والسببي)، ونماذج اللغة بالمحوِّلات مع رأس نمذجة اللغة وربط الأوزان (weight tying).

    8 parts8 أجزاء32 concepts32 مفهومًا43 slides43 شريحة

Gradingتوزيع الدرجات

Weights to be confirmedالأوزان لم تُؤكد بعد

TotalالمجموعTBC

Study materialمواد المذاكرة