احتمالات (نظريه)

Probability theory - Théorie des probabilités

الاحتمالات(نظرية)

محيي الدين و إيناخ 

أهم التوزيعات الاحتمالية	الأحداث العشوائية
العمليات العشوائية	النظريات الرئيسية
تطبيقات نظرية الاحتمالات	المتحولات العشوائي

 

 

نظرية الاحتمالات  Probability Theory هي أحد فروع العلوم الرياضية التي تدرس نمذجة الظواهر العشوائية. والعشوائية هي الظاهرة التي تعطي نتائج مختلفة عند تكرار حدوثها، مع الأخذ بالحسبان شروط ظهورها (شروط التجربة). ويرد هذا الاختلاف في النتائج إلى تأثير عوامل كثيرة لا يمكن التحكم بها خلال فترة حدوث الظاهرة.

تحمل الظواهر العشوائية الصفة الجماعية، أي تكرار الحدوث في ظروف غير متغيرة أو شبه غير متغيرة. لذلك يمكن القول: إن نظرية الاحتمالات هي العلم الذي يُنمذِج الظواهر الجماعية  mass phenomena. فعلى سبيل المثال عند رمي قطعة النقود لا يمكن سلفاً التنبؤ بالنتيجة (صورة/كتابة) في هذه التجربة المحدودة، ولكن عند تكرار التجربة عدداً كبيراً من المرات؛ يبدأ تردد ظهور أحد الوجهين بالاستقرار والاقتراب من النصف، وهذه نظرة موضوعية   objective. ويمكن النظر إلى المسألة نظرة غير موضوعية   subjective أو ذاتية بمعرفة التناظر في قطعة النقود، وبذلك يمكن القول إن التردد في ظهور أحد الوجهين هو النصف.

المفهوم المركزي في نظرية الاحتمالات هو مفهوم الاحتمال، فاحتمال حدث ما يمكن تقديره بناءً على نتائج سلسلة طويلة من المحاولات trials (أو المشاهدات). وتسمح نظرية الاحتمالات بتحديد قيمة احتمال حدث ما بمعرفة قيمة احتمال حدث آخر له علاقة ما بالحدث الأول.

الأحداث العشوائية

تعتمد نظرية الاحتمالات على فرضية أن كل اختبار S ينتهي بحدث واحد( وواحد فقط) من الأحداث  والتي تُسمى بالأحداث الأولية

ء elementary events ( أو النتائج outcomeء) للاختبار. تسمى مجموعة كل الأحداث الأولية بفضاء الأحداث الأولية . ويرافق الحدث الأولي  عدد موجب يُسمى احتمال وقوع الحدث؛ ومن البديهي أن ، وأن كل حدث A مرتبط باختبار S. يمكن القول إن الحدث  يقع إذا وقع أحد الأحداث التالية  

(أي وقوع الحدث w_i1 أو w_i2... أو ) حيث:  هي بعض الأحداث الأولية (وتكتب عادة )

ويُقال إن نتائج توافق الحدث A. وهكذا تماثل مجموعة كل الأحداث المرتبطة بالاختبار S ، مجموعة كل المجموعات الجزئية في فضاء الأحداث الأولية ، وبوجه خاص تسمى  حدثاً أكيداً (حيث يقع نتيجة أي حدث). في حين تسمى المجموعة الجزئية الفارغة  في الفضاء   الحدث غير الممكن (لا يحدث نتيجة أي حدث). إن احتمال الحدث  A بحسب التعريف هو مجموعة احتمالات كل الأحداث الأولية الموافقة لـ A، أي المعطى بالعلاقة (1) :

(1)

يستنتج من هذا التعريف أن

، ،   في الحالة الخاصة عندما يكون (جميع النتائج متساوية الحدوث) يُحصل على ما يُسمى التعريف التقليدي للاحتمال، أي المعطى بالعلاقة ( 2) :

 

(2)

حيث (N(A هو عدد مرات وقوع الحدث N، Aعدد كل التجارب الحاصلة.

فمثلاً عند رمي حجري نرد يكون عدد النتائج الممكنة 36. وبفرض أن النتائج هي ( i , j ) ، حيث  i هي نتيجة رمي حجر النرد الأول، و j نتيجة رمي حجر النرد الثاني، فإن لكل النتائج احتمالات ظهور متساوية بسبب تناظر حجر النرد. وبفرض الحدث الآتي: ، فإن النتائج التي توافق هذا الحدث هي  ومن ثم يكون احتمال الحدث A هو .

يقع موضوع اختيار (تحديد) احتمال الحدث p_k في كل مسألة مُحددة خارج نظرية الاحتمالات بوصفها علماً من العلوم الرياضية، حيث يمكن تحديد الاحتمال على أساس مشاهدات كثيرة للنتائج (أي بعد إجراء عدد كبير من الاختبارات) ومن جهة أخرى يمكن تحديد الاحتمال على أساس تناظر حجر النرد.

يُسمى اجتماع (أو الجمع) الحدث A₁ والحدث A₂ بالحدث A، ويقع هذا الحدث (الحدث A) إذا وقع أحد الحدثين A₁ أو A₂على الأقل،

يرمز له  .   أما تقاطع (أو جداء) الحدثين A₁ و A₂ فيُسمى بالحدث A، ويقع إذا وقع الحدثان A₁و A₂ معاً ويُرمز له 

(أو ^{) .}

يمكن تعميم اجتماع الأحداث بـ وتقاطعها بـ . ويُقال إن الحدثين A₁ و A₂ متنافيان (يستحيل وقوعهما معاً في الوقت نفسه) إذا وفقط إذا كان  (f مجموعة خالية). ويحوي الحدث المتمم للحدث A كل الأحداث الأولية من فضاء الأحداث باستثناء A، ويرمز له بـ . ولما كان الحدثان Aو حدثين متنافيين فهما يحققان.

النظريات الرئيسية:

من أهم النظريات في الأحداث العشوائية هي نظريات الجمع والضرب والاحتمال الكلي.

 نظرية جمع الاحتمالات: إذا كانت الأحداثمتنافية مثنى مثنى فإن احتمال اجتماعها يساوي مجموع احتمالات وقوعها والمبين في العلاقة (3) :

 

(3)

نظرية ضرب الاحتمالات:

إذا أجري N اختباراً لكل من الحوادث التالية: A و B و ، وكان عدد مرات وقوعها هو(N(A و (N(B و ، يُعرف تكرار وقوع الحدث A بشرط وقوع الحدث  بالعلاقة (4) :

(4)

وعند زيادة عدد التجارب فإن النسبة السابقة تقترب من النسبة التي تسمى الاحتمال الشرطي لوقوع الحدث Aء علماً أن B قد وقع، ويرمز له ، ويعطى بالعلاقة (5) :

 

(5)

ومع الأخذ في الحسبان التعريف التقليدي للاحتمال فإن العلاقة (5) تصبح العلاقة (6) :

 

(6)

حيث (N (B عدد النتائج الموافقة للحدث B و  () Nعدد النتائج الموافقة لوقوع الحدثين A و B معاً. وبملاحظة العلاقة (2) تحدِّد العلاقة (6) احتمال الحدث  في ظروف جديدة، أي بعد وقوع الحدث  B.  في حين تُعبّر العلاقة  (5) عن نظرية ضرب الاحتمالات. في حال حدثين A و B تكون العلاقة  (7) محققة:

(J7)

 

ويمكن تعميم العلاقة السابقة في حالة عدد من الأحداث كما هو مبين في العلاقة (8):

 

 

(8)

 

نظرية الاحتمال الكلي: إذا كانت الأحداث المتنافية:  التي تكوّن تجزئة لفضاء الأحداث ، وكان الحدث B من (ضمن ) فإن احتماله يعطى بالعلاقة (9) :

 

(9)

 

قاعدة بَايِزBayes Rule: إذا كانت الأحداث المتنافية التي تكوّن تجزئة لفضاء الأحداث و لكل i فإن وتكون العلاقة (10) محققة

	(10)

وذلك لأي حدثB

غالباً ما تستخدم قاعدة بَايِز  للاستدلال (الاستنتاج). وذلك عندما يكون هناك عدد من الحالات (الحوادث ) التي يمكن أن تسبب أثراً ما

(الحدث  B)، وبعد مراقبة الأثر يجب الاستدلال على الحالة.

الاستقلالية Independence: يحوي الاحتمال الشرطي معلومات جزئية عن الحدث A مقدمة بوقوع الحدث B. إن لم يُقدّم وقوع الحدث B أي معلومة عن الحدث A، أي لا يتغير بنتيجة الحدث، فإن . عند ذلك يمكن القول إن الحدث A مُستقل عن الحدث B وباستخدام نظرية الضرب تكون العلافة  . كذلك يمكن القول إن الحدثين A و B مستقلان شرطياً بحدوث الحدث Cإذا تحقق  . وتكون الأحداث مستقلة بعضها عن بعض إذا تحققت العلاقة (11) :

(11)

المتحولات العشوائية

المتحول العشوائي Xهو عدد حقيقي (أو تابع عددي) x_k= X(w_K)x يُحدد بالنتيجة x_k من فضاء العينة (الحدث) لتجربة ما. قد يكون المتحول العشوائي مستمراً (مجموعة قيمه الممكنة مجموعة لانهائية- مثل قياس مقادير فيزيائية)، وقد يكون متقطعاً (مجموعة قيمه الممكنة مجموعة منتهية أو قابلة للعد؛ أي ثمة تقابل بينها وبين مجموعة الأعداد الطبيعية N)

المتحولات العشوائية المتقطعة:

يتحقق أفضل توصيف للمتحول العشوائي المتقطع بوساطة احتمالات كل القيم الممكنة، حيث يرمز (تعرف) لهذه الاحتمالات بتوابع الكتلة الاحتمالية probability mass function (PMF) ء؛ مع مراعاة أن  (بالرجوع إلى بديهيات الاحتمال وهي :  وقانون االجمع، و ). ومن أهم المتحولات العشوائية المتٍقطعة:

أ- المتحول العشوائي البرنولي: يعطى تابع الكتلة الاحتمالية له بالعلاقة (12) :

 

(12)

ب- المتحول العشوائي الحدَّاني: يعطى تابع الكتلة الاحتمالية له بالعلاقة (13) :

	(13)

ج- المتحول العشوائي البواسوني: يعطى تابع الكتلة الاحتمالية له بالعلاقة (14) :

(14)

حيث l المعامل المميز لتابع الكتلة الاحتمالية.

د- التوقع والتباين: من أكثر المعاملات استخداماً لتوصيف المتحولات العشوائية: التوقع والتباين، فالتوقع هو متوسط كل القيم الممكنة المثقّلة بالاحتمالات الموافقة أي  . أما التباين فهو التوقع للمتحول العشوائي أي  ، وهو قياس التشتت (التبدد) للمتحول العشوائي X حول المتوسط (التوقع). وهناك قياس آخر للتشتت (التبدد) هو الانحراف المعياري للمتحول العشوائي، ويُعرف بالعلاقة (15) :

(15)

المتحولات العشوائية المستمرة: المتحول العشوائي المستمر له عدد لانهائي من القيم مهما صغر المجال المختار (مجال مستمر)، ومن ثم لا يمكن تخصيص احتمالات لكل القيم الممكنة (قيم لا نهائية)، لذلك يُوصف المتحول العشوائي عن طريق التابع غير السالب f_X الذي يُسمى بتابع الكثافة الاحتمالية

 probability density   function (PDF) و يعطى بالعلاقة (16) :

(16)

وذلك لأي مجال مختار. إن احتمال وقوع المتحول العشوائيضمن مجال ما يعطى بالعلاقة (17) :

 

(17)

وتكون العلاقة (18) محققة:

(18)

 إذا كان هناك متحولان عشوائيان X و Y فإن تابع الكثافة الاحتمالية المشترك  joint probability density function  يُرمز له بـ  ويحقق العلاقة (19):

(19)

التوقع والتباين للمتحول العشوائي المستمر ويُعرَّف بالعلاقتين (20) و (21) على الترتيب:

 

	(20)
	(21)

يوصف المتحول العشوائي المتقطع باستخدام تابع الكتلة الاحتمالية، وأما المتحول العشوائي المستمر فيوصف باستخدام تابع الكثافة الاحتمالية. ويفضل عملياً أن توصف كل أنواع المتحولات العشوائية باستخدام مفهوم رياضي واحد، ولهذا يُعرف تابع التوزيع التراكمي (CDF)  cumulative distribution function ، بالعلاقة (22):

(22)

حيث:

أهم التوزيعات الاحتمالية: يذكر من التوزيعات الاحتمالية الرئيسية:

التوزيع المنتظم: في هذا التوزيع يأخذ المتحول العشوائي X أي قيمة في المجال  ويُعطى تابع التوزيع بالعلاقة (23):

(23)

 

ويعطى تابع الكثافة الاحتمالية لهذا التوزيع بالعلاقة (24):

 

(24)

لهذا التوزيع تطبيقات كثيرة منها توليد أرقام عشوائية ذات توزيعات متخلفة.

ب- التوزيع الأُسِّي: يمكن القول إن المتحول العشوائي X ذو توزيع أسِّي بمعامل  إذا كان توزيعه معطى بالعلاقة (25):

(25)

ويعطى تابع الكثافة الاحتمالية لهذا التوزيع بالعلاقة (26):

 

(26)

عملياً يُستخدم هذا التوزيع نموذجاً لتقدير (لقياس) الزمن الفاصل بين أحداث عشوائية مستقلة غير متراكمة، مثال: لحظة وصول القطار إلى المحطة.

ج- التوزيع الطبيعي: يمكن القول إن المتحول العشوائي المستمرذو توزيع طبيعي أو غاوص إذا كان تابع الكثافة الاحتمالية معطى بالعلاقة (27):

 

(27)

حيث  معاملان سُلَّميان و   لها قيمة موجبة. يُرمز لهذا التوزيع بـ   عندما يكون يمكن القول إن المتحول العشوائي طبيعي وقياسي، عند ذلك تأخذ العلاقة (27) الصيغة المبينة في العلاقة (28):

 

(28)

ويكون لتابع التوزيع التراكمي الصيغة:

 

(29)

 

يؤدي المتحول العشوائي الطبيعي دوراً مهماً في طيف واسع من النماذج الاحتمالية. السبب الرئيسي في ذلك هو أنه يُنمذج جيداً الأثر الجمعي لعوامل مستقلة كثيرة في مختلف المجالات الهندسية والفيزيائية والإحصائية. ومن وجهة النظر الرياضية فإن مجموع عدد كبير من المتحولات العشوائية المستقلة والمتماثلة التوزيع يؤول إلى توزيع طبيعي تقريباً (نظرية النهاية المركزية)

العمليات العشوائية

العملية العشوائية هي تجمُع كل توابع العينة التي تُحدد بالنتائج من فضاء العينة  (الحدث) لتجربة ما. حيث:

   --1

 مجموعة من التوابع التابعة للزمن.

J-  2-2    تابع عنصر element function أو تابع مُحدد للزمن.

J3 -   

مجموعة من القيم العددية لتوابع العناصر عند ، ومن ثم فهي متحول عشوائي.

J     -4قيمة عددية لعنصر التابع عند الزمن .  

 J   -5 تابع التوزيع (تابع التوزيع التراكمي(CDF ء ) المعطى بالعلاقة (30):

 

(30)

هو تابع للزمن t ويساوي احتمال الحدث  الذي يتألف من كل النتائج w_kحيث إن عينات العملية العشوائية لن تتجاوز العدد x(القيمة x) عند زمن محدد t. يُسمى التابع تابع التوزيع من المرتبة الأولى first-order distribution للعملية العشوائية ومشتقه ( X(tبالنسبة إلى x المعطى بالعلاقة (31)

 

(31)

هو الكثافة من المرتبة الأولى     first-order density   لـ  .

أما التوزيع من المرتبة الثانية   second-order distribution للعملية العشوائية   فهو التوزيع المشترك المعرف بالعلاقة (32):

(32)

وذلك للمتحولين العشوائين ، وتكون الكثافة الموافقةمعطاة بالعلاقة (33):

(33)

يعرف تابع التوزيع من المرتبة  nء  nth-order distribution  للعملية العشوائيةبالعلاقة (34):

(34)

وذلك للمتحولات العشوائية. 

لتحديد الخواص الإحصائية للعملية العشوائية ثمة حاجة إلى تابع التوزيع، ولكن في كثير من التطبيقات العملية تكون الحاجة إلى القيم الوسطى

 لـ  و  وعلى سبيل المثال:

تعطى القيمة الوسطى بالعلاقة (35):

(35)

ويعطى تابع الترابط الذاتي بالعلاقة (36):

	(36)

ويعطى تابع التغاير الذاتي بالعلاقة (37):

(37)

يمكن أن تكون العملية العشوائية مستقرة بالمعنى التام strict، أو مستقرة بالمعنى الواسع wide؛ فيقال إن العملية      مستقرة بالمعنى التام إذا لم تتغير خواصها الاحصائية بالإزاحة، أي و لهما الخواص الاحصائية نفسها مهما تكن c، ويقال إن العملية العشوائية مستقرة بالمعنى الواسع إذا تحقق الشرطان المبينان في العلاقة (38):

(38)

وإذا كانت العملية العشوائية مستقرة بالمعنى الواسع فإن الكثافة الطيفية للاستطاعة تعطى بتحويل فورييه لتابع الترابط الذاتي، أي بالعلاقة (39):

 

(39)

تطبيقات نظرية الاحتمالات

يستفاد من نظرية الاحتمالات في طيف واسع من المجالات مثل: الاتصالات الرقمية (تصميم المستقبل الأمثل)، ومعالجة الإشارة العشوائية، والشبكات (نظرية الطوابير)، ونظرية المعلومات (في كل فصولها)، وترميز القناة (في تصميم الترميز وحساب الأداء)، والنمذجة والمحاكاة (طريقة مونتيكارلو)، والكشف (كشف وجود إشارة)، والتقدير (تقدير معاملات الإشارة)، واتخاذ القرار (قرار صلد أو مرن)، واختيار الفرضيات (تحديد أصح الفرضيات) والذكاء الصنعي.

 

مراجع للاستزادة: -Albert N., Sheryaev, Probability, Nauka,1980, (Russian Language). -Athanasios Papoulis and S.Pillai, Probability, Random Variables, and Stochastic Processes, Mcgraw Hill, Boston, 2002. -Dimitri P. Bertsekes and John N.tsitsikis, Introduction To Probability, Athena Scientific, Belmont, 2002. -Ronald E.walpole, Raymond H.myers and Sharon L.myers, Probability And Statistics For Engineers and Scientists, Prentice Hall 1998. -Roy D.yates, Probability And Stochastic Processes, John Wiley, Nj, 2005. -Sheldon Ross, Introduction of Probability Models, Academic Press, New York 2003.

---

- التصنيف : الاحتمال والإحصاء والنظرية التوافقية - النوع : الاحتمال والإحصاء والنظرية التوافقية - المجلد : المجلد الأول - رقم الصفحة ضمن المجلد : 322 مشاركة :