अधिकतम संभावना आकलन उदाहरण

मान लीजिए कि हमारे पास ए यादृच्छिक नमूना ब्याज की आबादी से। हमारे पास उस तरीके के लिए एक सैद्धांतिक मॉडल हो सकता है आबादी वितरित किया गया है। हालांकि, कई आबादी हो सकती है मापदंडों जिनमें से हम मूल्यों को नहीं जानते हैं। अधिकतम संभावना अनुमान इन अज्ञात मापदंडों को निर्धारित करने का एक तरीका है।

अधिकतम संभावना अनुमान के पीछे मूल विचार यह है कि हम इन अज्ञात मापदंडों के मूल्यों को निर्धारित करते हैं। हम एक संबद्ध संयुक्त संभाव्यता घनत्व फ़ंक्शन को अधिकतम करने के लिए इस तरह से करते हैं या जन समारोह की संभावना. हम इसे और अधिक विस्तार से देखेंगे जो निम्न प्रकार है। फिर हम अधिकतम संभावना अनुमान के कुछ उदाहरणों की गणना करेंगे।

उपरोक्त चर्चा को निम्नलिखित चरणों द्वारा संक्षेपित किया जा सकता है:

1. स्वतंत्र यादृच्छिक चर X के नमूने के साथ शुरू करें₁, एक्स₂,... एक्स_n एक सामान्य वितरण से प्रायिकता घनत्व फ़ंक्शन f (x); θ₁,.. .θ_क). Thetas अज्ञात पैरामीटर हैं।
2. चूंकि हमारा नमूना स्वतंत्र है, इसलिए हमारे द्वारा देखे जाने वाले विशिष्ट नमूने को प्राप्त करने की संभावना हमारी संभावनाओं को एक साथ गुणा करके पाई जाती है। यह हमें एक संभावना फ़ंक्शन एल (eli) देता है
   instagram viewer
   ₁,.. .θ_क) = एफ (एक्स₁ ;θ₁,.. .θ_क) च (x)₂ ;θ₁,.. .θ_क)... च (x)_n ;θ₁,.. .θ_क) = Π एफ (एक्स_मैं ;θ₁,.. .θ_क).
3. अगला, हम उपयोग करते हैं गणना थीटा के मूल्यों को खोजने के लिए जो हमारे संभावना फ़ंक्शन एल को अधिकतम करते हैं।
4. अधिक विशेष रूप से, हम एक एकल पैरामीटर होने पर θ के संबंध में एल फ़ंक्शन की संभावना को अलग करते हैं। यदि कई पैरामीटर हैं, तो हम थेटा मापदंडों में से प्रत्येक के संबंध में एल के आंशिक डेरिवेटिव की गणना करते हैं।
5. अधिकतमकरण की प्रक्रिया को जारी रखने के लिए, शून्य के बराबर एल (या आंशिक डेरिवेटिव) के व्युत्पन्न को सेट करें और थीटा के लिए हल करें।
6. फिर हम यह सत्यापित करने के लिए अन्य तकनीकों (जैसे एक दूसरी व्युत्पन्न परीक्षा) का उपयोग कर सकते हैं कि हमने अपनी संभावना फ़ंक्शन के लिए अधिकतम पाया है।

मान लीजिए हमारे पास बीजों का एक पैकेज है, जिनमें से प्रत्येक में एक निरंतर संभावना है पी अंकुरण की सफलता। हम पौधे लगाते हैं n इनमें से और अंकुरित होने वालों की संख्या गिनें। मान लें कि प्रत्येक बीज दूसरों के स्वतंत्र रूप से अंकुरित होता है। हम पैरामीटर के अधिकतम संभावना अनुमानक का निर्धारण कैसे करते हैं पी?

हम यह देखते हुए शुरू करते हैं कि प्रत्येक बीज एक बर्नौली वितरण द्वारा तैयार किया गया है जिसकी सफलता है पी। हम जाने एक्स या तो 0 या 1 हो, और एक एकल बीज के लिए संभाव्यता द्रव्यमान कार्य है च( एक्स; पी ) = पी^एक्स(1 - पी)^{1 - एक्स}.

हमारे नमूने के होते हैं n विभिन्न एक्स_मैंप्रत्येक के साथ एक बर्नौली वितरण है। अंकुरित होने वाले बीज एक्स_मैं = 1 और अंकुरित होने वाले बीज होते हैं एक्स_मैं = 0.

संभावना समारोह द्वारा दिया जाता है:

एल ( पी ) = Π पी^एक्स_मैं(1 - पी)^{1 - एक्स}_मैं

हम देखते हैं कि प्रतिपादकों के कानूनों का उपयोग करके संभावना समारोह को फिर से लिखना संभव है।

एल ( पी ) = पी^{Σ x}_मैं(1 - पी)^{n - Σ x}_मैं

इसके बाद हम इस फ़ंक्शन को सम्मान के साथ अलग करते हैं पी. हम मानते हैं कि सभी के लिए मूल्य एक्स_मैं ज्ञात हैं, और इसलिए स्थिर हैं। संभावना फ़ंक्शन को अलग करने के लिए हमें इसका उपयोग करने की आवश्यकता है बिजली नियम के साथ उत्पाद नियम:

एल '( पी ) = Σ x_मैंपी^{-1 + Σ x}_मैं (1 - पी)^{n - Σ x}_मैं- (n - Σ x_मैं ) पी^{Σ x}_मैं(1 - पी)^{n-1 - Σ x}_मैं

हम कुछ नकारात्मक घातांक को फिर से लिखते हैं और हैं:

एल '( पी ) = (1/पी) Σ x_मैंपी^{Σ x}_मैं (1 - पी)^{n - Σ x}_मैं- 1/(1 - पी) (n - Σ x_मैं ) पी^{Σ x}_मैं(1 - पी)^{n - Σ x}_मैं

= [(1/पी) Σ x_मैं - 1/(1 - पी) (n - Σ x_मैं)]_मैंपी^{Σ x}_मैं (1 - पी)^{n - Σ x}_मैं

अब, अधिकतमकरण की प्रक्रिया को जारी रखने के लिए, हम इस व्युत्पन्न को शून्य के बराबर सेट करते हैं और इसके लिए हल करते हैं p:

0 = [(1/पी) Σ x_मैं - 1/(1 - पी) (n - Σ x_मैं)]_मैंपी^{Σ x}_मैं (1 - पी)^{n - Σ x}_मैं

जबसे पी और 1- पी) नोनज़रो हमारे पास है

0 = (1/पी) Σ x_मैं - 1/(1 - पी) (n - Σ x_मैं).

समीकरण के दोनों पक्षों को गुणा करके पी(1- पी) हमें देता है:

0 = (1 - पी) Σ x_मैं - पी (n - Σ x_मैं).

हम दाहिने हाथ की ओर का विस्तार करते हैं और देखते हैं:

0 = Σ x_मैं - पी Σ x_मैं - पीn + p x_मैं = Σ x_मैं - पीn.

इस प्रकार Σ x_मैं = पीn और (1 / n)) x_मैं = पी। इसका मतलब है कि अधिकतम संभावना अनुमानक पी एक नमूना मतलब है। अधिक विशेष रूप से यह अंकुरित बीजों का नमूना अनुपात है। यह पूरी तरह से हमारे अंतर्ज्ञान के अनुरूप है। अंकुरित होने वाले बीजों के अनुपात को निर्धारित करने के लिए, पहले ब्याज की आबादी से एक नमूने पर विचार करें।

चरणों की उपरोक्त सूची में कुछ संशोधन हैं। उदाहरण के लिए, जैसा कि हमने ऊपर देखा है, आम तौर पर कुछ समान बीजगणित का उपयोग करने के लिए कुछ समय बिताने के लिए सार्थक है, जिससे कि समरूपता फ़ंक्शन की अभिव्यक्ति को सरल बनाया जा सके। इसका कारण भेदभाव को आसान बनाना है।

चरणों की उपरोक्त सूची में एक और बदलाव प्राकृतिक लघुगणक पर विचार करना है। फ़ंक्शन L के लिए अधिकतम उसी बिंदु पर होगा जो L के प्राकृतिक लघुगणक के लिए होगा। इस प्रकार अधिकतम ln L, फ़ंक्शन L को अधिकतम करने के बराबर है।

कई बार, एल में घातीय कार्यों की उपस्थिति के कारण, एल के प्राकृतिक लघुगणक को लेने से हमारे कुछ काम सरल हो जाएंगे।

हम देखते हैं कि ऊपर से उदाहरण को फिर से देखकर प्राकृतिक लघुगणक का उपयोग कैसे करें। हम संभावना समारोह के साथ शुरू करते हैं:

एल ( पी ) = पी^{Σ x}_मैं(1 - पी)^{n - Σ x}_मैं .

फिर हम अपने लघुगणक कानूनों का उपयोग करते हैं और देखते हैं कि:

आर ( पी ) = एलएन एल ( पी ) = Σ x_मैं ln पी + (n - Σ x_मैं) ln (1 - पी).

हम पहले से ही देखते हैं कि व्युत्पन्न की गणना करना बहुत आसान है:

आर '( पी ) = (1/पी) Σ x_मैं - 1/(1 - पी)(n - Σ x_मैं) .

अब, पहले की तरह, हम इस व्युत्पन्न को शून्य के बराबर सेट करते हैं और दोनों तरफ से गुणा करते हैं पी (1 - पी):

0 = (1- पी ) Σ x_मैं - पी(n - Σ x_मैं) .

हम हल करते हैं पी और पहले जैसा ही परिणाम खोजें।

एल (पी) के प्राकृतिक लघुगणक का उपयोग दूसरे तरीके से सहायक है। यह सत्यापित करने के लिए आर (पी) की दूसरी व्युत्पन्न गणना करना बहुत आसान है कि हम वास्तव में बिंदु पर अधिकतम है (1 / n) calculate x_मैं = पी।

एक और उदाहरण के लिए, मान लीजिए कि हमारे पास एक यादृच्छिक नमूना X है₁, एक्स₂,... एक्स_n एक जनसंख्या से कि हम एक घातांक वितरण के साथ मॉडलिंग कर रहे हैं। एक यादृच्छिक चर के लिए प्रायिकता घनत्व फ़ंक्शन रूप का है च( एक्स ) = θ^-1इ ^{-एक्स/θ}

संभावना संभावना संयुक्त संभावना घनत्व फ़ंक्शन द्वारा दी गई है। यह इन घनत्व कार्यों में से कई का एक उत्पाद है:

एल (θ) = = =^-1इ ^{-एक्स}_मैं^/θ = θ^-nइ ^{-Σएक्स}_मैं^/θ

एक बार फिर यह संभावना फ़ंक्शन के प्राकृतिक लघुगणक पर विचार करने के लिए सहायक है। इसे विभेदित करने से संभावना कार्य को अलग करने की तुलना में कम काम की आवश्यकता होगी:

R (θ) = ln L (θ) = ln [=^-nइ ^{-Σएक्स}_मैं^/θ]

हम लघुगणक के अपने कानूनों का उपयोग करते हैं और प्राप्त करते हैं:

R (θ) = ln L (θ) = - n ln θ + -Σएक्स_मैं/θ

हम θ और के संबंध में अंतर करते हैं:

आर '(θ) = - n / θ + Σएक्स_मैं/θ²

इस व्युत्पन्न को शून्य के बराबर सेट करें और हम देखते हैं कि:

0 = - n / θ + Σएक्स_मैं/θ².

दोनों तरफ से गुणा करें θ² और परिणाम है:

0 = - n θ + Σएक्स_मैं.

अब θ को हल करने के लिए बीजगणित का उपयोग करें:

/ = (1 / n) /एक्स_मैं.

हम इस से देखते हैं कि नमूना का मतलब है कि संभावना फ़ंक्शन को अधिकतम करता है। हमारे मॉडल को फिट करने के लिए पैरामीटर be बस हमारी सभी टिप्पणियों का मतलब होना चाहिए।

सम्बन्ध

अन्य प्रकार के अनुमानक हैं। एक वैकल्पिक प्रकार के आकलन को कहा जाता है निष्पक्ष आकलनकर्ता. इस प्रकार के लिए, हमें अपने सांख्यिकीय के अपेक्षित मूल्य की गणना करनी चाहिए और यह निर्धारित करना चाहिए कि क्या यह एक संबंधित पैरामीटर से मेल खाता है।