Why "a word is a string" is not good enough

لماذا لا يكفي القول إن "الكلمة سلسلة حروف"

Slide 2 is the setup for the whole lecture. It gives two bad answers to "what does a word mean?" and knocks both down.

الشريحة 2 هي المقدمة للمحاضرة كلها. تطرح جوابين سيئين عن سؤال "what does a word mean?" ثم تهدمهما.

Desiderata

المتطلبات المرغوبة (Desiderata)

Slide 3 asks: what should a theory of word meaning do for us? The answer comes from lexical semantics, the linguistic study of word meaning. The rest of this page is that wish list. Each relation below is something a good model of meaning must be able to represent.

تسأل الشريحة 3: ما الذي ينبغي أن يقدمه لنا تمثيل معنى الكلمة؟ الجواب يأتي من lexical semantics، أي الدراسة اللغوية لمعاني الكلمات. بقية الصفحة هي قائمة المطلوب، وكل علاقة أدناه شيء يجب أن يقدر نموذج المعنى الجيد على تمثيله.

Lemmas and senses

الـ Lemmas والمعاني (senses)

Slide 4, taken from WordNet.

الشريحة 4، مأخوذة من WordNet.

mouse (N)              <- the LEMMA
  1. any of numerous small rodents...        <- sense 1
  2. a hand-operated device that
     controls a cursor...                    <- sense 2

يوضح المقطع مدخل WordNet لكلمة mouse: السطر الأول هو الـ LEMMA أي الشكل المعجمي، والرقمان بعده هما sense 1 (الفأر الحيوان) وsense 2 (فأرة الحاسوب). اقرأه من الأعلى للأسفل: مدخل واحد ومعنيان تحته.

• A lemma is the citation form, the headword you look up. mouse is the lemma for mice; sing is the lemma for sang and sung.

  الـ lemma هو الشكل المعجمي الذي تبحث عنه في القاموس. mouse هو lemma لـ mice، وsing هو lemma لـ sang وsung.

• A sense (or "concept") is the meaning component of a word. One numbered entry in the dictionary.

  الـ sense (ويسميه المحاضر "concept") هو مكوّن المعنى في الكلمة، أي مدخل مرقّم واحد في القاموس.

• Lemmas can be polysemous: they have multiple senses. mouse is polysemous because it has the rodent sense and the cursor-device sense.

  الـ lemmas يمكن أن تكون polysemous، أي متعددة المعاني. mouse كذلك لأن لها معنى الحيوان ومعنى أداة المؤشر.

So the map from words to concepts is many-to-many. One word can carry several senses (polysemy), and several words can carry one sense (synonymy). Everything below is a relation between senses.

إذن العلاقة بين الكلمات والمفاهيم many-to-many: كلمة واحدة تحمل عدة معانٍ (polysemy)، وعدة كلمات تحمل معنى واحداً (synonymy). وكل ما يأتي بعد ذلك علاقة بين الـ senses لا بين الكلمات.

The six relations, on one map

العلاقات الست على خريطة واحدة

يجمع الرسم العلاقات الست المتفرعة من word sense واحد في المنتصف، مع مثال لكل علاقة: SYNONYMY (couch / sofa)، SIMILARITY (cow / horse)، RELATEDNESS (coffee / cup)، ANTONYMY (hot / cold)، SEMANTIC FIELD (surgeon, scalpel, nurse)، CONNOTATION (replica مقابل knockoff). والملاحظة على اليمين تحذّر: similarity وrelatedness ليسا المحور نفسه.

1. Synonymy

1. الترادف (Synonymy)

Synonyms have the same meaning in some or all contexts. Slide 5's list:

الـ synonyms لها المعنى نفسه في بعض السياقات أو كلها. قائمة الشريحة 5:

The formal test: two words are synonymous if you can substitute one for the other in any sentence without changing the truth conditions.

الاختبار الرسمي: الكلمتان synonyms إذا استبدلت إحداهما بالأخرى في أي جملة دون أن تتغير truth conditions، أي شروط صدق الجملة.

But there is probably no perfect synonymy

لكن على الأرجح لا يوجد ترادف تام

Slide 6 is blunt: "there are probably no examples of perfect synonymy." Even if many aspects of meaning are identical, words still differ in politeness, slang, register, and genre. Slide 7 gives the two counterexamples:

الشريحة 6 صريحة: "there are probably no examples of perfect synonymy." فحتى لو تطابقت جوانب كثيرة من المعنى، تبقى الكلمات مختلفة في politeness وslang وregister وgenre. والشريحة 7 تعطي المثالين المضادين:

2. Similarity

2. التشابه (Similarity)

Slide 9. Words with similar meanings. Not synonyms, but sharing some element of meaning. The slide's two pairs:

الشريحة 9: كلمات متقاربة المعنى. ليست synonyms، لكنها تتشارك عنصراً من المعنى. زوجا الشريحة:

A car is not a bicycle. But both are vehicles with wheels that carry a person from A to B. They overlap on features without being substitutable.

الـ car ليست bicycle، لكن كلتيهما مركبة بعجلات تنقل شخصاً من A إلى B. تتقاطعان في الصفات (features) دون أن تكونا قابلتين للاستبدال.

How do you measure it? Ask humans.

كيف نقيسه؟ نسأل البشر.

Slide 10. The SimLex-999 dataset (Hill et al., 2015) is human similarity ratings on a 0 to 10 scale. Learn the shape of this table, not every number: near-synonyms score near 10, unrelated pairs score near 0.

الشريحة 10: مجموعة SimLex-999 dataset (Hill et al., 2015) هي تقييمات تشابه من البشر على مقياس من 0 إلى 10. احفظ شكل الجدول لا أرقامه: شبه المترادفات تقترب من 10، وغير المترابطة تقترب من 0.

يرتب الجدول أزواج SimLex-999 من الأعلى تشابهاً إلى الأدنى: vanish / disappear عند 9.8 لأنهما شبه مترادفين، وتنزل القيم حتى hole / agreement عند 0.3 لانعدام أي صلة. اقرأ العمود الثالث كدرجة تشابه بشرية، والمهم فيه الترتيب لا الأرقام.

Notice muscle / bone at 3.65. They are strongly related (both body parts, both in the same anatomical scene) yet only moderately similar. That gap is the next section.

لاحظ muscle / bone عند 3.65: هما related بقوة (كلاهما جزء من الجسم وفي المشهد التشريحي نفسه) لكنهما similar بدرجة متوسطة فقط. هذه الفجوة هي موضوع القسم التالي.

3. Relatedness

3. الارتباط (Relatedness)

Slide 11. Also called word association, the older term from psychology. Words can be related in any way, often through a semantic frame or field. The slide's one decisive example:

الشريحة 11: تُسمى أيضاً word association، وهو المصطلح الأقدم من علم النفس. الكلمات قد تترابط بأي طريقة، وغالباً عبر semantic frame أو field. ومثال الشريحة الحاسم:

Similar versus related, side by side

المتشابه مقابل المرتبط، جنباً إلى جنب

This is the comparison the exam wants.

هذه هي المقارنة التي يريدها الامتحان.

يضع الجدول SIMILAR في عمود وRELATED (associated) في عمود ويقارنهما في ستة صفوف. الخلاصة: SIMILAR تشترك في صفات المعنى وتجيب عن سؤال "هل هما الشيء نفسه نوعاً؟" ومثالها coffee / tea، وتُقاس بتقييمات مثل SimLex-999، والاستبدال فيها ممكن تقريبياً. أما RELATED فتشترك في موقف أو مشهد وتجيب عن "هل يظهران معاً؟" ومثالها coffee / cup، وتُقاس بـ free-association norms وsemantic fields، والاستبدال فيها مستحيل.

4. Semantic field

4. الحقل الدلالي (Semantic field)

Slide 12. A set of words that

الشريحة 12: مجموعة من الكلمات:

• cover a particular semantic domain, and

  تغطي semantic domain معيناً، و

• bear structured relations with each other.

  تحمل structured relations فيما بينها.

Both halves of that definition matter. It is not just a bag of topic words; the members have roles that fit together.

شطرا التعريف مهمان كلاهما. ليست مجرد كومة كلمات في موضوع واحد، بل لأعضائها أدوار متكاملة.

Semantic fields are the clearest case of relatedness without similarity: a surgeon is nothing like a scalpel, but they belong to the same scene.

الـ semantic fields هي أوضح حالة لـ relatedness بلا similarity: الـ surgeon لا يشبه الـ scalpel إطلاقاً، لكنهما ينتميان إلى المشهد نفسه.

5. Antonymy

5. التضاد (Antonymy)

Slide 13. Senses that are opposites with respect to only one feature of meaning. The slide then adds, in its own words: "Otherwise, they are very similar!"

الشريحة 13: معانٍ متعاكسة في صفة واحدة فقط من المعنى. وتضيف الشريحة بنصها: "Otherwise, they are very similar!"

More formally, antonyms come in two flavours:

وبصيغة أدق، الـ antonyms نوعان:

1. Binary opposition or opposite ends of a scale. Examples on the slide: long / short, fast / slow. There is a continuum and the two words sit at its two ends.

   Binary opposition أو طرفان متقابلان على مقياس. أمثلة الشريحة: long / short وfast / slow. هناك تدرج متصل والكلمتان تقعان على طرفيه.

2. Reversives. Examples on the slide: rise / fall, up / down. One undoes or reverses the direction of the other.

   Reversives. أمثلة الشريحة: rise / fall وup / down. كل واحدة تُلغي اتجاه الأخرى أو تعكسه.

6. Connotation and sentiment

6. الإيحاء (Connotation) والمشاعر (sentiment)

Slide 14. Words have affective meanings: positive connotations (happy) or negative connotations (sad). The slide stresses that connotations can be subtle, and gives the pair of triples that is easy to quiz:

الشريحة 14: للكلمات معانٍ affective أي وجدانية: connotation إيجابية (happy) أو سلبية (sad). وتؤكد الشريحة أن هذه الدلالات قد تكون خفية، وتعطي ثلاثيتين يسهل السؤال عنهما:

All six describe roughly the same object. The denotation is near identical; only the attitude differs. Positive or negative evaluation language is called sentiment (great, love versus terrible, hate).

الكلمات الست تصف الشيء نفسه تقريباً، فالـ denotation شبه متطابقة ولا يختلف إلا الموقف. ولغة التقييم الإيجابي أو السلبي تُسمى sentiment (great, love مقابل terrible, hate).

Osgood et al. (1957): the three affective dimensions

Osgood et al. (1957): الأبعاد العاطفية الثلاثة

Slide 15, and this is the single most quotable fact on the page because it is the bridge to the next lecture section. Words vary along three dimensions:

الشريحة 15، وهي أكثر معلومة تستحق الحفظ في هذه الصفحة لأنها الجسر إلى القسم التالي من المحاضرة. الكلمات تتغير على ثلاثة أبعاد:

يعطي الجدول أبعاد Osgood الثلاثة، ولكل بعد تعريفه من الشريحة ومثال مرتفع ومثال منخفض مع الدرجتين: valence أي درجة اللطف (love = 1.000 مقابل toxic = 0.008)، وarousal أي شدة الانفعال (elated = 0.960 مقابل mellow = 0.069)، وdominance أي درجة السيطرة (powerful = 0.991 مقابل weak = 0.045). اقرأ كل صفين كبعد واحد: الأول مثاله الرئيسي والثاني مثال إضافي.

Values are from the NRC VAD Lexicon (Mohammad 2018), normalised to 0 to 1.

القيم مأخوذة من NRC VAD Lexicon (Mohammad 2018)، وهي مُعيَّرة بين 0 و1.

So far (slide 16)

حتى الآن (الشريحة 16)

The lecture's own recap. Word senses:

خلاصة المحاضرة بنفسها. الـ word senses:

• have a complex many-to-many association with words (homonymy, multiple senses), and

  لها ارتباط many-to-many معقد بالكلمات (homonymy وتعدد المعاني)، و

• have relations with each other: synonymy, antonymy, similarity, relatedness, connotation.

  لها relations بينها: synonymy، antonymy، similarity، relatedness، connotation.

Hold that list. The next page asks: can we build one computational representation that captures all of it at once? The answer is vector semantics.

ثبّت هذه القائمة. الصفحة التالية تسأل: هل نستطيع بناء تمثيل حاسوبي واحد يلتقط كل هذا معاً؟ الجواب هو vector semantics.