Poglavlje 12
TEORIJA PROCJENA

Teorija procjene sastoji se u konstrukciji metoda za ocjenu vrijednosti jednog ili više parametara poznate distribucije slučajne varijable.

U prethodnom poglavlju smo za slučajnu varijablu X (statističko obilježje) promatrali n vrijednosti x1,x2,...,xn kao uzorak veličina n.
U ovom poglavlju ćemo vrijednosti x1,x2,...,xn promatrati kao pojedinačne vrijednosti niza od n nezavisnih slučajnih varijabli X1,X2,...,Xn koje imaju istu distribuciju kao i slučajna varijable X.

Definicija 12.1  (SLUČAJNI UZORAK veličine n)

Neka je X slučajna varijabla (statističko obilježje populacije) s funkcijom distribucije F(x). Slučajni uzorak veličine n za slučajnu varijablu X je slučajni vektor (X1,X2,...,Xn), gdje su sve slučajne varijable Xi, i=1,...,n, nezavisne sa zajedničkom funkcijom distribucije vjerojatnosti F(x).
Vrijednost slučajnog uzorka je uredena n-torka (x1,x2,...,xn) ako je izmjerena vrijednost slučajnih varijabli Xi jednaka xi R(X), i=1,...,n.
Ako je X diskretna slučajna varijabla (R(X) je konačan ili prebrojiv), onda je (X1,X2,...,Xn) diskretni slučajni uzorak , a ako je X kontinuirana slučajna varijabla (R(X) R), onda je (X1,X2,...,Xn) kontinuirani slučajni uzorak.

Definicija 12.2 (STATISTIKA)

Ako je Y = h(X1,X2,...,Xn), gdje je h funkcija od n varijabli, onda se slučajna varijabla Y naziva statistika.

NAPOMENA 12.1 Odabrani elementi uzorka veličine n iz populacije trebaju biti izabrani slučajno. Trebamo koristiti tablicu slučajnih brojeva za izbor n slučajnih brojeva ili program za generiranje slučajnih brojeva.

PRIMJER 12.1

Zadana je diskretna slučajna varijabla X s funkcijom vjerojatnosti

|---|--|---|--|
|x  |0 | 1 |2 |
|-i-|1-|-1-|1-|
-pi--2---3--6--

Što je uzorak veličine 2 za ovu slučajnu varijablu?
Odredi sve moguće vrijednosti slučajnog uzorka veličine 2 za X.

Rješenje:
Slučajni uzorak veličine 2 za slučajnu varijablu X je slučajni vektor (X1,X2), gdje su sve slučajne varijable X1 i X2 nezavisne i jednake funkcije distribucije kao i X.
Slika slučajne varijable X je R(X) = {0,1,2}. Slučajne varijable X1 i X2 mogu poprimiti iste vrijednosti kao i X. Vrijednost slučajnog uzorka je uredena dvojka (x1,x2) elemenata iz R(X), tj. to je varijacija s ponavljanjem r = 2-og razreda od n = 3 elemenata. Broj svih takvih varijacija je V 3(2) = 32 = 9.
Sve moguće vrijednosti slučajnog uzorka veličine 2 za slučajnu varijablu X:
(0,0), (0,1), (0,2),

(1,0), (1,1), (1,2),

(2,0), (2,1), (2,2).

12.1 TOČKASTE PROCJENE PARAMETARA

MOTIV 12.1

Koliki uzorak iz normalne razdiobe s varijancom 81 treba biti da bi s vjerojatnošću 0.9544 apsolutna razlika uzoračke aritmetičke sredine i očekivanja bila manja od 5.5?

Slučajna varijabla je odredena svojom funkcijom distribucije. Mnoga statistička obilježja imaju zajedničku teorijsku funkciju distribucije pa govorimo o poznatim  distribucijama (razdiobama): binomna, uniformna, normalna, Poissonova,....
Svaka razdioba karakterizirana je svojim parametrima n,p,a,b,μ,σ2,λ,...:

X ~ B(n,p),

X ~ U(a,b),

X ~ N(μ,σ2),

X ~ Po(λ),....

Ako želimo odrediti vezu izmedu teorijske i statističke razdiobe postavljaju se dva zadatka:
1. parametarske procjene, kada pretpostavimo teorijsku razdiobu i moramo odrediti (procijeniti) parametre te razdiobe.
2. neparametaske procjene, kada moramo odabrati razdiobu.

Definicija 12.3  (PROCJENITELJ ILI ESTIMATOR)

Procjenitelj nepznatog parametra t je funkcija slučajnog uzorka
T^ = h(X1,X2,...,Xn).
Procjenitelj je statistika.

Zadatak je odrediti procjenitelj ^T za parametar t koji će ”najbolje” procijeniti t.
Za procjenu jednog parametra možemo izabirati razne procjenitelje (funkcije h).

Definicija 12.4 (NEPRISTRANI PROCJENITELJ)

Procjenitelj ^T je nepristran za parametar t ako je očekivanje od T^ jednako vrijednosti parametra t: E(^
T) = t.

Definicija 12.5  (ASIMPTOTSKI NORMALAN PROCJENITELJ)

Procjenitelj ^T je asimptotski normalan za parametar t ako slučajnoj varijabli    ^
∘--T---t--
   Var(T^) asimptotski, kad n→ ∞, pripada standardna normalna razdioba (distribucija) N(0,1).

Definicija 12.6  (UZORAČKA ARITMETIČKA SREDINA)

Statistika X = h(X1,X2,...,Xn) = 1
n i=1nXi zove se uzoračka aritmetička sredina.
Vrijednost uzoračke aritmetičke sredine računa pomoću
x = h(x1,x2,...,xn) = 1
n i=1nxi,  x = -1
n k=1rxk*fk.

TEOREM 12.1 (Svojstva uzoračke aritmetičke sredine)

Dokaz:tko želi znati više
(i) E(X) = E(1
n i=1nXi) = 1
n i=1nE(Xi) = 1
n i=1nμ = μ.
(ii)

     --             ∑n              ∑n               ∑n
V ar(X )  =  V ar(1-   Xi ) =-1-Var (   Xi) = -1V ar(   Xi )
                  n i=1      n2      i=1       n2     i=1
                ∑n
          =  -1-    Var(Xi) = -1-n⋅V ar(Xi) = 1-σ2.
             n2 i=1           n2              n
(iii) prema (i) i (ii).
(iv) Prisjetimo se centralnog graničnog teorema:

Neka je Sn = X1 + X2 + ... + Xn,tada slučajna varijabla Sn-√-nμ-
σ  n konvergira

k N(0,1).

        --
--*   --X---μ---   Snn---μ-  Sn---nμ-
X   = ∘ --------=  ∘ 1--- =   σ√n--   konvergira  (n → ∞ ) k N (0,1).
        V ar(X )     n σ2

PRIMJER 12.2

Izračunati P(69 < X < 75), ako je X uzoračka aritmetička sredina uzorka veličine n=36 iz normalne razdiobe X ~ N(70,144).

Rješenje:
Ako je X ~ N(70,144) i n = 36, onda je X ~ N(70,4),
X* = √ --
  nX--μ
 σ = X--70-
  2 ~ N(0,1).

P (69 < X-< 75)  =   F*(√n-75---μ) - F*(√n-59---μ)
                              σ               σ
                      * 75---70     * 69---70     *         *
                 =   F (   2   )-  F (   2   ) = F (2.5)- F  (- 0.5) = 0.68.

PRIMJER 12.3 motiv

Koliki uzorak iz normalne razdiobe s varijancom 81 treba biti da bi s vjerojatnošću 0.9544 apsolutna razlika uzoračke aritmetičke sredine i očekivanja bila manja od 5.5?

Rješenje:
Neka je X ~ N(μ,81) i P(|X - μ| < 5.5) 0.9544.
Trebamo odrediti veličinu uzorka n.
Znamo da je X ~ N(μ,8n1), a X* = √ --
  n--
X-σμ- = √ --
  n--
X-9μ- ~ N(0,1).

   --                   √ -X-- μ    √ --5.5       --    √ -5.5
P(|X - μ | < 5.5) =  P(|  n------| <  n --) = P (|X *| ≤  n---)
                             σ          σ                  σ
                 =   2F*(√n-5.5) - 1.
                             σ

Iz zadane vjerojatnosti dobivamo: 2F*(√ --
  n5.5
 σ) - 1 0.9544,

  * √--5.5-               √ -5.5
F  ( n σ  ) ≥ 0.9772 ⇒     n σ  ≥ 2  ⇒   n ≥ 11.

Definicija 12.7  (UZORAČKA VARIJANCA)

Statistika ^
Σ2 = 1
n i=1n(Xi -X)2 zove se uzoračka varijanca.

        n
^2   1-∑    2   --2
Σ  = n    X i - X
       i=1

Vrijednost uzoračke varijance računa se formulom

 2   1 ∑n      --2   1 ∑n   2  -2
^σ  = n-   (xi - x ) = n    xi - x .
       i=1             i=1
 2   1-∑r   *  --2     1-∑r   * 2    --2
^σ  = n    (xk - x )fk = n   (xk) fk - x .
       k=1               k=1

TEOREM 12.2 (Svojstva uzoračke varijance)

Neka je X slučajna varijabla s teorijskim očekivanjem μ i varijancom σ2, koju ispitujemo pomoću slučajnog uzorka (X1,X2,...,Xn). Uzoračka varijanca ^Σ2 nije pouzdan procjenitelj za σ2: E(^Σ2) = n-n1-σ2.

Dokaz:tko želi znati više
Prisjetimo se da je V ar(X)=E(X2) - E(X)2 i V ar(X) = 1nσ2.

              1 ∑n      --     1 ∑n            --
E (^Σ2)  =  E (--   X2i - X2 ) =--   E (X2i ) - E(X2 )
              n i=1             n i=1
           1 ∑n                           --      --
        =  --   [Var (Xi )+ E (Xi)2]- [V ar(X )+ E (X )2]
           n i=1
        =  [Var (X  )+ E (X )2]- [V ar(X-)+ E (X-)2]
                  i       i
        =  [σ2 + μ2 ]- [1σ2 + μ2] = n--1-σ2.
                       n            n

Definicija 12.8 (KORIGIRANA UZORAČKA VARIJANCA)

Statistika ^S 2 = n1-1- i=1n(Xi -X)2 zove se korigirana uzoračka varijanca.

       n          1   ∑n        --2
^S2 = ----- ^Σ2 = -----(   X2i - nX  ).
     n - 1      n - 1 i=1

Vrijednost korigirane uzoračke varijance računa se formulom

           ∑n                  ∑n
s^2 = --1--    (xi - x)2 =--1--(   x2 - nx2).
     n - 1 i=1           n - 1 i=1 i
            r                     r
^s2 = --1-- ∑  (x *- x)2f  = --1--(∑  (x*)2f - nx2).
     n - 1      k      k   n - 1      k   k
           k=1                    k=1

TEOREM 12.3 (Svojstva korigirane uzoračke varijance)

Neka je X slučajna varijabla s teorijskim očekivanjem μ i varijancom σ2, koju ispitujemo pomoću slučajnog uzorka (X1,X2,...,Xn).
Korigirana uzoračka varijanca ^S 2 je pouzdan procjenitelj za σ2: E(S^ 2) = σ2.

Dokaz: Prisjetimo se da je E(^
Σ2) = n--1
 nσ2.

             n          n             n    n - 1
E (^S2) = E (----^Σ2 ) =----- E(^Σ2) = ----- ⋅-----σ2 = σ2.
           n - 1      n - 1         n - 1    n

TEOREM 12.4 (O VEZI ^
S 2,^
Σ2 I DISTRIBUCIJA χ2(n - 1),t(n - 1))

Neka su X,^S 2,Σ^2 statistike slučajnog uzorka (X1,X2,...,Xn) iz normalne razdiobe X ~ N(μ,σ2).
Tada vrijedi:
(i) Statistika n-21-
σ^S 2 = -n2
σΣ^2 ~ χ2(n - 1),
(ii) Statistika √ --
  nX--μ
  ^S = √ -----
  n - 1X--μ
 ^Σ ~ t(n - 1).

Dokaz: tko želi znati više
(i) Dokaz je složen i koristi svojstvo χ2(n) distribucije: Y ~ χ2(n) ako je

Y = Y 12 + Y 22 + ... + Y n2, Y i ~ N(0,1).
(ii) Koristimo svojstvo Studentove distribucije s n stupnjeva slobode t(n) :

Z ~ t(n) ako je Z = Y ∘ -n-
   U, za Y ~ N(0,1), U ~ χ2(n).
Računamo za X ~ N(μ,σ2), X ~ N(μ, 2
σn-), X* = √ --
  nX-μ
-σ-- ~ N(0,1) :

√--X-- μ      √ -X- - μ  σ√n----1    1    √ --X-- μ  √n----1   1
 n ------  =    n------ ⋅-√------ ⋅∘----=   n ------⋅-∘-----⋅ ∘----
     ^S              σ      n - 1     ^S2         σ       n-σ12-    ^S2
                 --       √ -----
           =  √n-X----μ ⋅∘--n---1--.
                    σ      n--1⋅ ^S2
                            σ2

Prema tvrdnji (i) zaključujemo √ --
  n--
X-^Sμ- ~ t(n - 1).
Koristeći  ^
S 2 = -n--
n-1^
Σ2 možemo dobiti i tvrdnju √ -----
  n - 1X--μ
 ^Σ ~ t(n - 1).

PRIMJER 12.4

Izračunati uzoračku aritmetičku sredinu, uzoračku varijancu i korigiranu uzoračku varijancu u primjeru ”težina studenata”.

|-----|-------|
|xksr-|--fk---|
|-61--|--5----|
| 64  |  18   |
|-----|-------|
|-67--|--42---|
| 70  |  27   |
|-----|-------|
|-73--|--8----|
-------n=100---

Rješenje: x = 1
n k=1rxk*fk.

--     1∑ r  *       1
x  =   n-   xksrfk = 100-(61* 5+ 64 *18 + 67 *42 + 70* 27+ 73 *8)
        k=1
       1349-
   =    20  = 67,45
^s2 = -1--
n-1( k=1r(xk*)2fk - nx2)
 2   --1-- ∑r   *  2      -2    379-
^s =  n - 1(   (xksr) fk - nx ) = 44  = 8,6136
           k=1

^σ2 = n1 k=1r(xk*)2fk -x2.

  2   1∑r   *   2    -2   3411
^σ  =  n-  (xksr) fk - x = -400-= 8,5275
       k=1

12.2 REGRESIJSKA ANALIZA

MOTIV 12.2 Deformacije x [mm] i Brinellova tvrdoća y [mkmg2-] za neki tip čelika dani su tablicom



x06 09 11 11 13 22 26 28 33 35


y 68 67 65 53 44 40 37 28 34 32


Odredite pravce regresije, uzorački koeficijent regresije i uzorački koeficijent korelacoje. Jesu li deformacija i Brinellova tvrdoća jako korelirane?

Definicija 12.9 (UZORAČKA KOVARIJANCA. UZORAČKI KOEFICIJENT KORELACIJE) Neka je za zadani slučajni 2-dim vektor (X,Y ) dobiven slučajni uzorak (x1,y1),(x2,y2),...,(xn,yn). Statistika

       1 ∑n       --      --
^μXY  = --   (Xi - X )(Yi - Y)
       n i=1
zove se uzoračka kovarijanca. Vrijednost korigirane uzoračke kovarijance računa se formulom
       1∑n       --     --
μ^xy =  --  (xi - x)(yi - y)
       n i=1

Neka su ^σ1 i ^σ2 uzoračke standardne devijacije od X i Y . Uzorački koeficijent korelacije komponenti X i Y slučajnog vektora je definiran s

       ^μxy
^ρxy = ------.
      ^σ1 ⋅ ^σ2

              ∑         ∑     ∑
      ∘-----n---x-⋅y---(∘-x)-⋅(--y)-------
^ρxy =   n∑  x2 - (∑  x)2 ⋅  n∑  y2 - (∑ y)2.

NAPOMENA 12.2 (regresijska analiza)

Regresijska analiza (engl. regression analysis) je statistička metoda za odedivanje veze medu slučajnim varijablama. Promatramo u slučajnom vektoru (X,Y ) jednu slučajnu varijablu (npr. X) kao nezavisnu-kontroliranu (njene vrijednosti zadajemo). Druga varijabla Y je slučajna varijabla i zanima nas kako ona ovisi o X.
Prema Napomeni 9.4 u poglavlju Dvodimenzionalni slučajni vektor računamo uzoračke pravce regresije.
Ako je X nezavisna varijabla i Y = aX + b, parametre a i b možemo odrediti metodom najmanjih kvadrata tako da E((Y -(aX+b))2) ima minimalnu vrijednost.
a = ^ρ xy ^σ2-
^σ1 = ^μXY--
 ^σ21 je uzorački koeficijent regresije Y po X.
b = y -^ρ xy ^σ2-
^σ1x = y -μ^xy-
 ^σ21 x
y -y = ^μxy-
σ^21(x -x),
y -y = ρXY σ
--2
σ1(x -x) je pravac regresije Y po X.
Analogno, ako je X=aY+b
a = ^ρ xy ^σ1-
^σ2 = ^μXY--
 ^σ22 je uzorački koeficijent regresije X po Y
x -x = ^μxy-
 ^σ22(Y -y)
x -x = ^ρ xy ^σ1-
^σ2(y -y) je pravac regresije X po Y.

PRIMJER 12.5 U tablici su zapisani uzorci visina x i y od 12 mama i njihovih kćeri.



x165 160 170 163 173 158 178 168 173 170 175 180


y 173 168 173 165 175 168 173 165 180 170 173 178


Oderedite uzorački pravac regresije Y u odnosu na X i uzorački pravac regresije X u odnosu na Y . Odredite uzorački koeficijent korelacije i uzorački koeficijent regresije Y po X. Jesu li visine mama i kćeri jako korelirane?

Rješenje: Trebamo odrediti a i b u jednadžbi y = ax + b :

            ∑         ∑      ∑
a = μ^xy-=  n---x∑⋅y --(-∑x)⋅(---y)
     ^σ21        n   x2 - (  x)2

                  ∑      ∑  2    ∑      ∑
b = y-- ^μxy-⋅x-= (--y)-⋅(-∑x-)---(∑-x)⋅(---x⋅y-)
        ^σ21              n   x2 - (  x)2

Računamo: x = 2033, y = 2061, x2 = 344.95, x y = 349.42, y2 = 354.22.
Uzorački koeficijent regresije Y po X je a = 0.48, b = 90.9 pa je pravac regresije Y po X y = 0.48x + 90.9.

Trebamo odrediti ai bu jednadžbi x = ay + b:

     ^μ     n ∑ x ⋅y - (∑  x)⋅(∑  y)
a′ = -x2y-= ------∑--2---∑----2----
     ^σ2        n   y  - (  y)

 ′  --  ^μxy  --  (∑  x)⋅(∑ y2) - (∑ y) ⋅(∑  x ⋅y)
b = x - -^σ2-⋅y = --------n-∑-y2---(∑-y)2--------
          1

Uzorački koeficijent regresije X po Y je a= 1.02, b= -5.12 pa je pravac regresije X po Y x = 1.02x - 5.12.

Uzorački koeficijent korelacije je

       ^μ
^ρxy = --xy--.
      ^σ1 ⋅ ^σ2

                ∑         ∑     ∑
^ρxy = ∘----∑--n---x∑⋅y---(∘-x)-⋅(∑--y)---∑-----=  0.69
        n-    x2 - (  x)2 ⋅  n-    y2 - (  y)2

PRIMJER 12.6 motiv

Deformacije x [mm] i Brinellova tvrdoća y [-kg2-
mm] za neki tip čelika dani su tablicom



x06 09 11 11 13 22 26 28 33 35


y 68 67 65 53 44 40 37 28 34 32


Odredite pravce regresije , uzorački koeficijent korelacije i uzorački koeficijent regresije. Jesu li deformacije i Brienellova tvrdoća jako korelirane ?

Rješenje: Trebamo odrediti a i b u jednadžbi y = ax + b :

    μ^xy    n∑  x ⋅y - (∑ x)⋅(∑  y)
a = --2-=  -----∑---2---∑----2----
     ^σ1        n   x - (   x)

    --  ^μxy  --  (∑ y) ⋅(∑ x2)-  (∑  x)⋅(∑  x⋅y )
b = y - ^σ2--⋅x = --------n∑--x2 --(∑-x)2--------
          1

Računamo: x = 183, y = 440, x2 = 4665, x y = 7701, y2 = 23232.
Uzorački koeficijent regresije Y po X je a = -1.32, b = 75.72 pa je pravac regresije Y po X y = -1.32x + 75.72.

Trebamo odrediti ai bu jednadžbi x = ay + b:

             ∑        ∑      ∑
a′ = ^μxy-= n---x-⋅∑y --(-∑x)⋅(---y)
     ^σ22        n   y2 - (  y)2

                  ∑      ∑        ∑     ∑
 ′  --  ^μxy- --  (---x)⋅(--y2)---(--y)-⋅(--x-⋅y)
b = x -  ^σ2 ⋅y =         n ∑ y2 - (∑ y)2
          1

Uzorački koeficijent regresije X po Y je a= -0.72, b= 55.72 pa je pravac regresije X po Y x = -0.72x + 55.72.

Uzorački koeficijent korelacije je

                ∑         ∑      ∑
      --------n----x⋅y---(--x-)⋅(--y)----------
^ρxy = ∘n----∑-x2---(∑-x)2-⋅∘n----∑-y2---(∑--y)2-= - 0.97

Budući je ^ρ xy ≈-1 slučajne varijable su linearnoj vezi, jako korelirane.

12.3 METODA NAJVEĆE VJEROJATNOSTI (ML)
tko želi znati više

U ovom poglavlju istaknuli smo primjere s oznakom važno u kojima su dani procjenitelji za parametre osnovnih distribucija u smislu najveće vjerojatnosti.

MOTIV 12.3

U četiri mjerenja Rockwellove tvrdoće jedne ploče radnici du dobili sljedeće vrijednosti:
64.9,64.1,63.8,64.0.
(a) Izračunajte vrijednost procjenitelja (u smislu najveće vjerojatnosti) za očekivanje i varijancu tvrdoće ako pretpostavimo normalnu distribuciju.
(b) Izračunajte vrijednost nepristranih procjenitelja za očekivanje i varijancu tvrdoće ako pretpostavimo normalnu distribuciju.

Definicija 12.10 (FUNKCIJA VJERODOSTOJNOSTI) Neka je X slučajna varijabla (statističko obilježje) sa teorijskom funkcijom distribucije F(x,t) s nepoznatim parametrom t i sa funkcijom vjerojatnosti za diskretnu razdiobu i funkcijom gustoće vjerojatnosti za kontinuiranu f(x,t). Neka je (x1,x2,...,xn) vrijednost slučajnog uzorka (X1,X2,...,Xn) za promatranu varijablu.
Za diskretnu razdiobu funkcija vjerodostojnosti L(t) definira se kao funkcija vjerojatnosti slučajnog uzorka (slučajnog vektora):

L(t) = P (X1 = x1,t)⋅P (X1 = x2,t)⋅...⋅P (X1 = xn,t).

Za kontinuiranu razdiobu funkcija vjerodostojnosti L(t) definira se kao funkcija gustoće vjerojatnosti slučajnog uzorka (slučajnog vektora):

L (t) = f(x1,t)⋅f(x2,t)⋅...⋅f (xn, t).

Metoda najveće vjerojatnosti (ML = maximum likelihood method), za odredivanje procjenitelja T^ = h(X1,X2,...,Xn) za nepoznati parametar t sastoji se u izboru one funkcije h takve da funkcija vjerodostojnosti L(t) (ili lnL(t)) dostiže najveću vrijednost za t = h(x1,x2,...,xn).

-dL (t) = 0  ⇒   t = h(x ,x ,...,x  ) ⇒   T^ = h(X ,X  ,...,X ).
dt                     1  2     n               1  2     n

PRIMJER 12.7 važno

Metodom najveće vjerojatnosti pokažite da je procjenitelj  za parametar λ  u populaciji s Poisonovom razdiobom Po(λ) jednak ^T = X.

Rješenje: Neka je X ~ Po(λ).
Teorijska funkcija vjerojatnosti je f(x,λ)=P(X = x,λ) = λx
x!eλ.
Trebamo naći ML-procjenitelj za λ.
Funkcija vjerodostojnosti je

L(λ)  =  P (X1 = x1,λ) ⋅P(X1 =  x2,λ)⋅...⋅P (X1 = xn,λ )
           x1     x2        xn         ∑ xi
      =  λ---eλ ⋅ λ-eλ ⋅...⋅ λ-eλ = ---λ------e- nλ.
          x1!    x2!       xn!     x1!x2!...xn!

Tražimo maksimum funkcije vjerodostojnosti lnL(λ):

               ∑           ∑
ln L(λ) = - n λ+    xiln λ -    ln(xi!),
 d                1 ∑
---lnL (λ) = - n +--   xi.
d λ               λ
                          n
d--                    1-∑       --
dλ ln L(λ) = 0  ⇒   λ = n    xi = x.
                         i=1
                    -1∑n          ^                     1-∑n
λ = h(x1,x2,...,xn ) = n    xi ⇒   T  = h(X1,X2, ...,Xn) = n    Xi.
                      i=1                                 i=1

ML-procjenitelj za λ u Poisonovoj razdiobi je T^ = X.
Možemo pokazati da je  ^
T nepristrani procjenitelj E( ^
T) = λ.
Prisjetimo se da je E(X)=λ  i da je X nepristrani procjenitelj za očekivanje.
E(^T) = E(X) = E(X) = λ.

PRIMJER 12.8 važno

Metodom najveće vjerojatnosti pokažite da je procjenitelj
(a) za parametar μ  u populaciji s Normalnom razdiobom N(μ,σ2) ako je σ2 poznato jednak T^ = X
(b) za parametar σ2 u populaciji s Normalnom razdiobom N(μ,σ2) ako je μ poznato jednak ^T = ^Σ2.

Rješenje: Neka je X ~ N(μ,σ2).
Teorijska funkcija gustoće vjerojatnosti je f(x,μ,σ2) = -√1--
σ  2πe-(x-μ)2
-2σ2- .
Trebamo naći ML-procjenitelje za μ i σ2.
Funkcija vjerodostojnosti je:

                                          1        -1-∑      2
L(μ,σ2) = f(x1,t)⋅f(x2,t)⋅...⋅f (xn, t) = (-√---)n ⋅e-2σ2  (xi-μ) .
                                        σ  2π
               1  ∑                        √ ---
lnL (μ,σ2) = ----2   (xi - μ )2 - nln σ - n ln 2π.
              2σ

(a) d-
dμ lnL(μ,σ2) = --1
σ2 i=1n(xi - μ) = 0,

                            ∑n
-d-lnL(μ,σ2 ) = 0 ⇒   μ =  1-   xi = x,
dμ                         n i=1

ML-procjenitelj za očekivanje u normalnoj razdiobi je T^ = X. To je nepristrani procjenitelj za μ jer je E(^
T)=μ.
(b) ddσ lnL(μ,σ2) = -σ13 i=1n(xi - μ)2 -nσ = 0,

                              n
-d-        2            2   1∑          2
dσ lnL (μ, σ ) = 0 ⇒   σ  =  n   (xi - μ) = ^σ,  uzoraˇcka varijanca.
                              i=1

ML-procjenitelj za varijancu u normalnoj razdiobi je ^T = ^Σ2. To nije nepristrani procjenitelj za σ2 jer je E(^
T)=n-1-
 nσ2.

PRIMJER 12.9 motiv

U četiri mjerenja Rockwellove tvrdoće jedne ploče radnici du dobili sljedeće vrijednosti:
64.9,64.1,63.8,64.0. (a) Izračunajte vrijednost procjenitelja (u smislu najveće vjerojatnosti- ML-procjenitelj ) za očekivanje i varijancu tvrdoće ako pretpostavimo normalnu distribuciju.
(b) Izračunajte vrijednost nepristranih procjenitelja za očekivanje i varijancu tvrdoće ako pretpostavimo normalnu distribuciju.

Rješenje: (a) ML-procjenitelj za očekivanje μ je uzoračka aritmetička sredina X.
x = n1 i=1nxi = 64.2

ML-procjenitelj za varijancu σ2 je uzoračka varijanca ^
Σ2.
^σ2 = n1 i=1n(xi -x)2 = 0.175
(b)Nepristrani procjenitelj za očekivanje μ je uzoračka aritmetička sredina X.
x = n1 i=1nxi = 64.2

Nepristrani procjenitelj za varijancu σ2 je korigirana uzoračka varijanca S^2.
^s2 = n1-1- i=1n-1(xi -x)2 = 0.233.

PRIMJER 12.10 važno

Metodom najveće vjerojatnosti pokažite da je procjenitelj za parametar p  u populaciji s Binomnom razdiobom B(m,p) uz pretpostavku da je m poznato jednak T^ = --
X-
m

Rješenje: Neka je X ~ B(m,p). Teorijska funkcija vjerojatnosti je
f(x,m,p)=P(X = x,m,p) = (m)
 x(1 - p)m-xpx. Trebamo naći ML-procjenitelj za p. Funkcija vjerodostojnosti je

L(p)  =  P (X1 = x1,m, p)⋅P (X1 = x2,m, p)⋅...⋅ P(X1 = xn, m,p)
         ∏n (   )
      =       m   (1- p)m -xipxi
         i=1  xi
Tražimo maksimum funkcije vjerodostojnosti lnL(p):
               (   )
lnL (p) = ∑  [ln  m    + (m  - x )ln (1 - p)+ x  ln p],
                xi           i             i
                   ∑              ∑
-d-lnL (p) = ---1--   (m - xi) + 1-   xi
dp            1 - p              p
                             n
d--ln L(λ) = 0  ⇒   p = 1-⋅ 1∑   x =  1-x.
dλ                     m   n     i   m
                             i=1
p = h(x1,x2,...,xn) = 1m- 1n i=1nxi = 1m-x
T^ = h(X1,X2,...,Xn) = -1
m 1
n i=1nXi = -1
mX.

ML-procjenitelj za p u Binomnoj razdiobi B(m,p) s poznatim m je T^ = 1
m-X.
Možemo pokazati da je T^ nepristrani procjenitelj E(T^) = p.
Prisjetimo se da je E(X)=mp  i da je X nepristrani procjenitelj za očekivanje.

   ^      -1--    1-   --   -1         1-
E (T) = E(m X ) = m E (X) = m E (X ) = m mp = p.

12.4 Ponovimo

PROCJENITELJI PARAMETARA ZADANE DISTRIBUCIJE s očekivanjem μ i varijancom σ2



slučajni uzorak (X1,X2,...,Xn) : Ω n


statistika T = h(X1,X2,...,Xn) , T : Ω


procjenitelj ^T = h(X1,X2,...,Xn)


nepristrani procjenitelj za parametar tE(T^) = t


uzoračka aritm. sredina X = 1
n(X1 + X2 + ... + Xn)


E(X) = μ,


V ar(X) = σ2
 n


n →∞ --
X√-σμ
  n ~ N(0,1)


uzoračka varijanca ^ 2
Σ = -1
n i(Xi -X)2


E(Σ^2) = n-n1-σ2


korigirana uzoračka varijanca ^S2 = -1--
n- 1 i(Xi -X)2


E( ^2
S) = σ2


PROCJENITELJI PARAMETARA ZADANE DISTRIBUCIJE (ML)



distribucija ; parametarprocjenitelj


Po(λ); λ T^ = X


N(μ,σ2); μ T^ = X


N(μ,σ2); σ2 T^ = ^Σ2


(B(m,p); p T^ = 1-
mX


STATISTIKE PARAMETARA NORMALNE DISTRIBUCIJE N(μ,σ2)



slučajni uzorak za X (X1,X2,...,Xn) : Ω n


statistika T = h(X1,X2,...,Xn)distribucija


X ~ N(μ,σ√--
 n)


√ --
  n--
X-σ-μ ~ N(0,1)


√n----
X--μ
 S^ ~ t(n - 1)


n-1-
 σ2 ^
S 2 ~ χ2(n - 1)


REGRESIJSKA ANALIZA



slučajni uzorak za (X,Y )(x1,y1),(x2,y2),...,(xn,yn)


uzoračka kovarijanca ^μ xy = 1
n i(xi -x)(yi -y)


uzorački koef. korelacije ^ρ xy = -^μxy-
^σ1⋅^σ2


      n∑ x⋅y-(∑ x)⋅(∑ y)
√n-∑-x2-(∑-x)2⋅√n-∑-y2-(∑-y)2


Y = aX + b a- uzorački koef. regresije


a ^μxy
 ^σ21


=   ∑     ∑   ∑
n--nx∑⋅y-x(2-(∑x)⋅x()2y)


b y -^μxy
^σ21 x


=  ∑    ∑  2  ∑   ∑
(--y)⋅(n-∑x)x2--((∑-xx)⋅)(2-x⋅y)


pravac regresije Y po X y -y = ^μxy
^σ2--
 1(x -x)


pravac regresije X po Y x -x = ^μxy
--2-
^σ 2(y -y)