Metoda maximă de probabilitate este una dintre cele mai universale metode de estimare a parametrilor de distribuție necunoscuți.
Să fie o probă dintr-o populație generală care are o funcție de distribuție. care depinde de un parametru scalar necunoscut (se specifică un model parametric de observații).
Dacă legea distribuției variabilei aleatorii observate este continuă, adică există o densitate de probabilitate. apoi funcția
luată în considerare pentru o probă fixă în funcție de parametru. se numește o funcție de probabilitate.
Dacă variabila aleatoare observată are o lege de distribuție discret dată de probabilități. atunci funcția de probabilitate este definită de egalitate:
Probabilitatea maximă estimată pentru un parametru este valoarea parametrului. la care funcția de probabilitate pentru o probă dată atinge un maxim:
Pentru o funcție de probabilitate fixă, este dată legea distribuției unui vector aleator. ale căror coordonate sunt copii ale variabilei aleatorii observate:
în cazul continuității;
în cazul discretului.
Prin urmare, sensul metodei probabilității maxime este că valoarea parametrului este aleasă ca o estimare. la care probabilitatea de obținere a datelor din valorile eșantionate. ca realizarea unui vector aleator. este maximă.
Dacă funcția de probabilitate este diferențiată în raport cu. atunci estimarea maximă a probabilității poate fi găsită prin rezolvarea ecuației de probabilitate
în mod firesc, asigurându-se că soluția oferă funcția de probabilitate maximă.
Este adesea mai convenabil să investighezi pentru o extremum nu funcția de probabilitate. dar logaritmul său. Deoarece funcțiile și au un maxim de unul și același punct ca urmare a creșterii monotonă a funcției logaritmice, estimarea probabilității maxime pot fi găsite prin rezolvarea ecuației este echivalentă în raport cu probabilitatea
Dacă parametrul este vector, atunci pentru a găsi estimarea maximă a probabilității, este necesar să se rezolve sistemul de ecuații de probabilitate
sau un sistem echivalent de ecuații
Toate rezultatele de mai sus rămân valide chiar și atunci când nu se evaluează parametrul propriu-zis. ci a unei anumite funcții parametrice.
Valoarea estimărilor maxime de probabilitate se datorează următoarelor proprietăți, care sunt valabile în ipoteze foarte generale (fără dovadă):
- estimarea probabilității maxime este o estimare consecventă a parametrului necunoscut. ;
- estimarea probabilității maxime este o estimare asimptotic eficientă a parametrului necunoscut. . unde
- evaluarea eficientă a parametrului;
- estimarea probabilității maxime este o estimare asimptotică normală a parametrului necunoscut. și anume cu o normalizare adecvată, distribuția estimatorului maxim al probabilității este normală: Această proprietate este foarte importantă pentru a găsi probabilitățile deviației estimării de la valoarea reală a parametrului.
Cu toate acestea, metoda probabilității maxime nu duce întotdeauna la estimări imparțiale, iar ecuațiile (sistemul de ecuații) pentru a găsi estimări de probabilitate maximă pot fi rezolvate destul de dificil.
Exemplul 1. Variabila aleatoare observată are o lege de distribuție normală cu așteptări matematice necunoscute și variantă cunoscută. adică, are o probabilitate de densitate a formei :. Găsiți, prin eșantion, estimarea probabilității maxime a parametrului.
Soluția. Să găsim funcția de probabilitate:
Să găsim logaritmul funcției de probabilitate:
Să construim ecuația de probabilitate:
Soluția ecuației de probabilitate:
Astfel, în modelul normal, estimarea probabilității maxime este o estimare imparțială, consecventă și eficientă a așteptărilor matematice necunoscute.
Observăm că metoda de momente conduce, de asemenea, la același rezultat în acest model, însă este mult mai simplă:
Exemplul 2. Variabila aleatoare observată are o lege de distribuție normală cu așteptări matematice cunoscute și variante necunoscute. adică, are o probabilitate de densitate a formei :. Găsiți, prin eșantion, estimarea probabilității maxime a parametrului.
Soluția. Să găsim funcția de probabilitate:
Să găsim logaritmul funcției de probabilitate:
Să construim ecuația de probabilitate:
Soluția ecuației de probabilitate:
Astfel, în modelul normal, estimarea maximă a probabilității este o estimare imparțială, consecventă și eficientă a varianței necunoscute (arătați-vă!).
Observăm că metoda de momente conduce, de asemenea, la același rezultat în acest model, însă este mult mai simplă:
Exemplul 3. Variabila aleatoare observată are o lege de distribuție normală cu așteptări matematice necunoscute și variante necunoscute. adică, are o probabilitate de densitate a formei :. Găsiți, prin eșantion, estimarea probabilității maxime a parametrului.
Soluția. Să găsim funcția de probabilitate:
Să găsim logaritmul funcției de probabilitate:
Pentru a găsi estimarea maximă a probabilității pentru un parametru bidimensional, formăm un sistem de ecuații de probabilitate:
Soluția sistemului de ecuații de probabilitate:
Astfel, în modelul general normal, estimarea probabilității maxime. În acest caz, media eșantionului este o estimare imparțială, consecventă și eficientă a așteptărilor matematice necunoscute. iar variația eșantionului este o estimare asimptotic imparțială, consecventă și asimptotic eficientă a varianței necunoscute.
Observăm că metoda de momente conduce, de asemenea, la același rezultat în acest model, însă este mult mai simplă:
Exemplul 4. Variabila aleatoare observată are legea distribuției Poisson cu un parametru necunoscut:
Găsiți, prin eșantion, estimarea probabilității maxime a parametrului.
Soluția. Să găsim funcția de probabilitate:
Să găsim logaritmul funcției de probabilitate:
Să construim ecuația de probabilitate:
Soluția ecuației de probabilitate:
Observăm că metoda de momente conduce la același rezultat în acest model.
Articole similare
Trimiteți-le prietenilor: