Appunti della lezione Taylor – capitolo 5.5

Dati N valori misurati x1, . . . , xN , che si suppongono distribuiti secondo unagaussiana, la migliore stima dei parametri X e σ di tale gaussiana sono queivalori che rendono massima la probabilita di aver ottenuto il set di misurex1, . . . , xN , ovvero la probabilita

PX,σ(x1, x2, . . . , xN ) = PX,σ(x1) · PX,σ(x2) · . . . · PX,σ(xn) (1)

∝ 1

σN

(−

N∑i=1

(xi −X)2

2σ2

)(2)

(ovviamente con

PX,σ(x) =1

σ√

2πexp

(−(x−X)2

2σ2

)probabilita gaussiana).

Utilizzando il principio di massima verosimiglianza, si cercano i valoridi X e σ che rendono massima la probabilita (2); per fare cio, la si riscrivecome funzione di X e σ

F(X,σ) =1

σN

(−

N∑i=1

(xi −X)2

2σ2

)= σ−N

(−

N∑i=1

(xi −X)2

2σ2

)Quindi, per trovarne i massimi, se ne calcolano le derivate parziali, ovvero∂ F∂X e ∂ F

∂σ , e si impone la condizione che siano uguali a zero.

Il valor medio x =(∑N

i=1 xi

)/N come miglior valore di X

Calcolo la derivata parziale rispetto a X:

∂ F

∂X= σ−N exp

(−

N∑i=1

(xi −X)2

2σ2

)· ∂∂X

(−∑i=1

N(xi −X)2

2σ2

)

= σ−N exp

(−

N∑i=1

(xi −X)2

2σ2

)·

(−2∑i=1

Nxi −X

2σ2

)Ponendola a zero si ottiene

N∑i=1

(xi −X) = 0 →N∑i=1

xi = NX → Xbest =1

N

N∑i=1

xi = x

Il miglior valore di X e quindi, secondo il principio di massima verosi-miglianza, la media

x =

N∑i=1

xiN

(3)

1

La deviazione standard σx =

√(∑Ni=1(xi − x)

)/(N − 1) come

miglior valore di σ

Calcolo la derivata parziale rispetto a σ:

∂ F

∂σ= −Nσ−N−1 exp

(−

N∑i=1

(xi −X)2

2σ2

)+ σ−N exp

(−

N∑i=1

(xi −X)2

2σ2

)

· ∂∂σ

(−

N∑i=1

(xi −X)2

2σ2

)

= σ−N exp

(−

N∑i=1

(xi −X)2

2σ2

)(−Nσ−1 − ∂

∂σ

(σ−2

2

) N∑i=1

(xi −X)2

)

= σ−N exp

(−

N∑i=1

(xi −X)2

2σ2

)(−Nσ−1 −

(−2

σ−3

2

) N∑i=1

(xi −X)2

)

= σ−N exp

(−

N∑i=1

(xi −X)2

2σ2

)(−Nσ−1 + σ−3

N∑i=1

(xi −X)2

)Ponendola uguale a zero si ottiene

−Nσ−1 + σ−3N∑i=1

(xi −X)2 = 0 → Nσ−1 = σ−3N∑i=1

(xi −X)2

Nσ2 =N∑i=1

(xi −X)2

da cui

σ2best =1

N

N∑i=1

(xi −X)2 → σbest =

√√√√ 1

N

N∑i=1

(xi −X)2 (4)

Si dimostra che, se al parametro X si sostituisce il suo miglior valoreXbest = x, si ha

σbest =

√√√√ 1

N

N∑i=1

(xi −X)2 =

√√√√ 1

N − 1

N∑i=1

(xi − x)2 = σx (5)

Infatti:

σ2best =1

N

N∑i=1

(xi −X)2 =1

N

N∑i=1

((xi − x) + (x−X))2

=1

N

(N∑i=1

(xi − x)2 +N(x−X)2 + 2

N∑i=1

(xi − x)(x−X)

)

2

Dal momento che∑N

i=1(xi − x) = 0 per la definizione stessa di media,

l’ultimo termine sparisce; inoltre, poiche x = (∑N

i=1 xi)/N (3),

σ2best =1

N

N∑i=1

(xi − x)2 +1

N2

(N∑i=1

xi −NX

)2

=1

N

N∑i=1

(xi − x)2 +1

N2

(N∑i=1

xi −N∑i=1

X

)2

=1

N

N∑i=1

(xi − x)2 +1

N2

(N∑i=1

(xi −X)

)2

L’ultimo termine si puo riscrivere, trasformando il quadrato in un pro-dotto: (

N∑i=1

(xi −X)

)2

=

(N∑i=1

(xi −X)

)·

N∑j=1

(xj −X)

Si possono inoltre raggruppare i termini con i = j e i 6= j, ottenendo

cosı:

σ2best =1

N

N∑i=1

(xi−x)2+1

N2

N∑i=1

(xi−X)2+1

N2

N∑i=1

(xi −X)N∑j=1j 6=i

(xj −X)

Gli addendi dell’ultimo termine (termine non diagonale), se le misu-

re sono casuali, sono positivi e negativi in numero approssimativamenteuguale, quindi complessivamente esso sara vicino a zero, mentre il termi-ne 1

N2

∑Ni=1(xi −X)2 ha segno positivo. Per N grandi si puo trascurare il

termine non diagonale rispetto a quello diagonale, e si ottiene cosı:

σ2best =1

N

N∑i=1

(xi − x)2 +1

N2

N∑i=1

(xi −X)2

Ricordando (4) e riordinando l’equazione otteniamo:

1

N

N∑i=1

(xi − x)2 =1

N

(N∑i=1

(xi −X)2 − 1

N

N∑i=1

(xi −X)2

)N e sicuramente diverso da zero, per cui possiamo rimuovere senza

problemi il coefficiente 1N :

N∑i=1

(xi − x)2 =N∑i=1

(xi −X)2 − 1

N

N∑i=1

(xi −X)2 =

(1− 1

N

) N∑i=1

(xi −X)2

=N − 1

N

N∑i=1

(xi −X)2

3

ossia

1

N

N∑i=1

(xi −X)2 =1

N − 1

N∑i=1

(xi − x)2

da cui, ricordando (4), si ricava la tesi (5):

σbest = σx =

√√√√ 1

N − 1

N∑i=1

(xi − x)2

Ovvero, il miglior valore del parametro σ della gaussiana delle misure ela deviazione standard σx.

4