Skøn over maksimal sandsynlighed

Indholdsfortegnelse:

Anonim

Det maksimale sandsynlighedsestimat (VLE) er en generel model til estimering af parametre for en sandsynlighedsfordeling, der afhænger af observationerne i prøven.

Med andre ord maksimerer EMV sandsynligheden for parametrene for densitetsfunktionerne, der afhænger af sandsynlighedsfordelingen og observationerne i prøven.

Når vi taler om estimering af maksimal sandsynlighed, skal vi tale om fungere maksimal sandsynlighed. Matematisk givet en prøve x = (x1,…, Xn) og parametre, θ = (θ1,…, Θn) derefter,

Ikke panikke! Dette symbol betyder det samme som summen. I dette tilfælde er det multiplikationen af ​​alle densitetsfunktioner, der afhænger af prøveobservationerne (xjeg) og parametrene θ.

Jo større værdien af ​​L (θ | x), dvs. værdien af ​​den maksimale sandsynlighedsfunktion, jo mere sandsynligt vil de prøvebaserede parametre være.

Logaritmisk funktion af EMV

For at finde de maksimale sandsynlighedsestimater er vi nødt til at differentiere (udlede) produkterne af densitetsfunktioner, og dette er ikke den mest behagelige måde at gøre det på.

Når vi støder på komplicerede funktioner, kan vi gøre en monoton transformation. Med andre ord ville det være som at ønske at tegne Europa i reel målestok. Vi skal skalere det ned, så det kan passe på et ark papir.

I dette tilfælde udfører vi den monotone transformation ved hjælp af naturlige logaritmer, da de er monotone og stigende funktioner. Matematisk,

Logaritmernes egenskaber tillader os at udtrykke ovenstående multiplikation som summen af ​​naturlige logaritmer anvendt på densitetsfunktionerne.

Så den monotone transformation ved logaritmer er simpelthen en "skalaændring" til mindre antal.

Den anslåede værdi af de parametre, der maksimerer sandsynligheden for parametrene for den maksimale sandsynlighedsfunktion med logaritmer, svarer til den anslåede værdi af de parametre, der maksimerer sandsynligheden for parametrene for den oprindelige maksimale sandsynlighedsfunktion.

Så vi vil altid beskæftige os med den monotone ændring af den maksimale sandsynlighedsfunktion i betragtning af dens større lethed ved beregninger.

Nysgerrighed

Så kompliceret og mærkeligt som EMV kan virke, anvender vi det hele tiden uden at vide det.

Hvornår?

I alle skøn over parametrene for en lineær regression under klassiske antagelser. Mere almindeligt kendt som Almindelige mindste firkanter (OLS).

Med andre ord, når vi anvender OLS, anvender vi EMV implicit, da begge er ækvivalente med hensyn til konsistens.

App

Ligesom andre metoder er EMV baseret på iteration. Det vil sige at gentage en bestemt operation så mange gange som nødvendigt for at finde den maksimale eller minimale værdi af en funktion. Denne proces kan være underlagt begrænsninger for de endelige værdier af parametrene. For eksempel at resultatet er større end eller lig med nul, eller at summen af ​​to parametre skal være mindre end en.

Den symmetriske GARCH-model og dens forskellige udvidelser anvender EMV for at finde den estimerede værdi af parametrene, der maksimerer sandsynligheden for parametrene for densitetsfunktionerne.