本章教學目標2回顧概率統計的基本概念熟悉常用的統計分布熟悉常用統計分布之間的關系熟悉基本的參數估計方法和評價估計量好壞的幾個標準本章參考書《概率論與數理統計》盛驟等編高等教育，2008年版?！陡怕收撆c數理統計

》 等編

高等教育 ，

2008年版。3本章主要內容第一節第二節第三節隨機性與概率隨

量和概率分布參數估計和假設檢驗4第一節隨機性與概率隨機性：指事物的結果不能事先完全確定，既可能發生也可能不發生，既可以是這個水平也可以是那個水平。例1：在一個樣本中支持總統候選人（如）的百分比和另一個樣本的百分比就會不同。例2：下面的數字代表在每個由500個觀測值組成的10個樣本中贊同提高稅的人占的百分比：58；57.8；61；59.4；55.8；63.2；59；60.6；57.4；58.6；5第一節隨機性與概率(續)隨機性導致隨機事物難以和把握，但隨機性并不等同于完全無規律。大多數堆積事物都在表面偶然性的背后隱藏著必然性，就是隨機事物或其特定結果發生可能性的大小，通常稱為概率。一個概率是一個0到1之間的一個數，它告訴事件發生的經常程度。小概率（其值接近0）事件很少發生；大概率（其值接近1）經常發生（如一年里至少有一場颶風襲擊

的概率就很大，因為在大部分年份中都有大于一場颶風發生；每次上課大家都會來）。6那么

概率？概率的三種定義：1.概率的頻率定義2.概率的古典定義3.概率的公理化定義71.概率的頻率定義8P(A)為概率，Fn(A)為隨機事物A在n次重復試驗中的出現頻率，則P(A)

lim

Fn

(A)n2.概率的古典定義古典概型(1)在隨機試驗中的全部可能結果數量，也就是樣本空間元素的個數，是有限的，記為n；(2)所有結果，也就是樣本點，兩兩互不相容。(3)各個結果出現等可能，即每個樣本點發生的概率相同，都為1/n。對于古典概型中的任意事件A（含m個樣本點），其概率為：P(A)

m

A

包含的樣本點個數n

樣本點總數93.概率的公理化定義首先， 來定義事件域，事件域是由全體事件構成的集類，用F表示，F一般滿足三個要求：（1）樣本空間F；（22）2 若事件A

F，則A

F；（23）若事件

An

F，n=1，2，3，...，則

An

F。n1事件域F是定義在樣本空間的

域。103.概率的公理化定義(續)11對事件域F中的每個元素A，概率是定義在事件域F上，滿足如下三個條件的集合函數P(A)：（1）P(A)

0，對一切A

F；（2）P()

1；（3）若

Ai

F，i=1，2，3，...，且兩兩不相容，則

P(Ai

)

P(Ai

)。i1

i1三元總體（，F，P）構成一個概率空間?；仡?2概率的性質第二節隨量和概率分布1.隨

量2.概率分布3.分布的數字特征4.常見分布5.隨

量的收斂性和極限理論131.隨量隨 量(Random

Variable)：一般定義：數量化的隨機事件。公理化定義：從樣本空間擴張而成的σ-域到實數集的函數。注意：(1)一個隨

量具有下列特性：可以取許多不同的數值，取這些數值的概率為p，p滿足：0<=p<=1。(2)隨

量以一定的概率取到各種可能值，按其取值量可分為兩類：離散型隨

量和連續型量。離散型隨量的取值最多可列多個；連情況隨隨續型隨量的取值充滿整個數軸或者某個區間。142.概率分布定義：若X是一個隨量(可以是離散的，也可以是非離散的)，對任何實數x，令F(x)=P(X<=x)，稱F(x)為隨量X的分布函數。F(x)即事件“X<=x”的概率，是一個實函數。對任意實數x1<x2，有P(x1<X<x2)=P(X<=x2)-P(X<=x1)=F(x2)-F(x1)由此可知，若已知X的分布函數，就知道X在任何區間上取值的概率。所以，分布函數完整的描述了隨量的變化情況。15分布函數F(x)的性質16（1）對一切x

,，0

F

x

1（2）F

limF

x

0,

F

limF

x

1x

x（3）F

x為非遞減函數。（4）F

x至多有可列多個間斷點,且在間斷點上右連續。分布函數F(x)的形式kxf

(t)dtdx離散型隨量：F

(x)

pii1連續型隨

量：F

(x)

且如果f(x)滿足：（1）

f

(x)

d

F

(x)

0;（2）

f

(x)dx

1;（3）對實數軸上的任一測度D,

有P(

D)

D

f

(x)dx

。則稱f

(x)是連續型隨量的密度函數。17有關分布函數的其他知識隨

量函數的（概率）分布；多元分布；聯合分布邊際分布條件分布隨

量的獨立性183.分布的數字特征19(1)期望(2)方差(3)高階矩(4)協方差與相關系數(1)期望(也稱數學期望)定義：為隨

量的可能取值以相應概率為權重加權的概率均值，衡量了隨

量取值的平均水平。隨

量，在離散的情況下，其數學期望E

xi

pii在連續的情況下，其數學期望E

xf

(x)dx20(2)方差定義：為隨量與其數學期望偏差平方的概率加權和，衡量了隨量取值的發散程度。22ii

)

f

(x)dxVar(

)

(x

E

)

pVar(

)

(x

Ei隨 量，在離散的情況下，其方差在連續的情況下，其方差21數學期望與方差的圖示量的集中程度，方差描述隨機數學期望描述隨變量的分散程度。1方差同、期望變大2期望同、方差變小5510522期望和方差的性質量，則1

如果a、b為常數，則E(aX+b)=aE(X)+b2

如果X、Y為兩個隨E(X+Y)=E(X)+E(Y)3

如果g(x)和f(x)分別為X的兩個函數，則E[g(X)+f(X)]=E[g(X)]+E[f(X)]4

如果X、Y是兩個獨立的隨

量，則E(X·Y)=E(X)

·E(Y)23期望和方差的性質(續)量，5

Var(c

)=06

Var(a+bx)=b2Var(x)7a,b為常數，x,y為兩個相互獨立的隨則:Var

(ax+by)=a2Var(x)+b2Var(y)8

Var(x)=E(x2)-(E(x))224期望和方差的性質

(續)不等式：

0,

P

x

E(25(3)高階矩rurx f

(x)dxur

E(隨 量，(vr

為r階原點矩，ur

為r階中心矩)在離散的情況下在連續的情況下，vr

E

r

r

)

f

(

E(

E(

))r

(x

E26(3)高階矩(續)E(

3

)27(Var(

))3/

2E(

4

)(Var(

))2用高階矩可以構造一些特定的統計量：三階矩可以構造偏度指標(如：)，四階矩可以構造峰度指標(如：)。正態分布的偏度(4)協方差與相關系數1

,2Cov(1

,2

)Var(

)Var(

)

描述兩個變量或多個隨

量的關系。設隨

量1和2的期望和方差都存在，則Cov(1

,2

)

E[(1

E(1

))(2

E(2

))]稱為1和2的協方差；1

1稱為1和2的相關系數。284.常見分布29(1)正態分布(2)Х2分布(3)t分布(4)F分布(1)正態分布12e

x

22

2f

x

若連續型隨量的概率密度為μ、σ為常數，σ

0則稱服從正態分布，簡記為

~N

μ,

2

。正態分布的數學期望E

，,方差Var

230(1)正態分布(續)131x22e

2當

0,

2

1

的正態分布，稱為標準正態分布，記作

~

N

0,1,其密度函數為f

x

。如果

~

N

,

2

,且

，那么

~

N

0,1。因此可以將任何一個正態分布，化為標準正態分布，即將其標準化。(1)正態分布(續)量的任意線性組合正態分布的性質：1獨立、同分布正態隨仍服從正態分布；2正態分布的偏度為0，峰度為3，在判斷隨機變量的概率分布方面有重要作用。（演示）32-5-4-3-2-10123450.40.350.30.250.20.150.10.050normal

distribution

pdf33N(0,3)(2)Х2分布2i2kZ

~

X

i1令Z1

,Z2

,,Zk

為k個獨立的服從標準正態分布的隨 量，則它們的平方和服從k34(2)Х2分布(續)2k

2分布的性質：1與正態分布不同，

2分布只取正值，并且是偏斜分布。其偏度取決于增大，

2分布逐漸對稱，接近正態分布;2

分布的期望為k，方差為2k。（演示）35-50510150.40.350.30.250.20.150.10.050chi-square

distribution

pdf36Χ2(5)、Χ2(10)分布(3)t分布XkZXkt

Z

~

N（0,1），X

~

2

(k)，且Z和X

相互獨立，則隨

量t

服從自由度為k的t分布，記為~（t

k）37(3)t分布(續)38t分布的性質：1是期望為0的對稱分布，它的密度函數類似標準正態分布;2

t分布的方差為

k

(當k

>2)，因此,一般來k

2講其分布比標準正態分布平坦一些。（演示）-5-4-3-2-10123450.40.350.30.250.20.150.10.05039t

distribution

pdft(5)分布(4)F分布2211221221

2X1k2k1X

2k2X

~

(k

)F

，，X

~

(k

)，且X

和X

相互獨立，則隨

量F

X服從自由度為（k1,k2）的F分布，記為X1~

F（k

,k

）40(4)F分布(續)kF分布的性質：1與

2分布類似，只取非負值，并且是偏斜分布。隨度增大，F分布逐漸對稱，接近正態分布;22

t

=F（1,k）;3通常用來檢驗兩個樣本方差是否同方差。（演示）41-5-4-3-2-10123450.70.60.50.40.30.20.1042F

distribution

pdfF(5,10)分布常用分布之間的關系431

正態分布與標準正態分布2標準正態分布與Х2分布3

t分布與標準正態分布、Х2分布4

F分布與Х2分布5

F分布與t分布5.隨量的收斂性和極限理論(1)隨 量的收斂性(2)大數法則(3)中心極限定理44(1)隨

量的收斂性A

依分布收斂首先,定義分布函數收斂：對于分布函數序列{Fn(x)},如果存在函數F(x)使得lim

Fn(x)=F(x)n在F(x)的每個連續點上都成立，則稱Fn(x)弱收斂于F(x)。定義依分布收斂：隨的分布函數為F(x),如果Fn(x)弱收斂于F(x)，則稱n依分布收斂于。45(1)隨量的收斂性(續)nnB

依概率收斂定義：對于隨lim

P{n

}=0對任意

0成立,稱n依概率收斂于，記為：P

lim

n

=46(2)大數法則Ann大數定理隨機事件A在n次獨立重復試驗中的頻率依概率收斂于事件A的概率p，即對任意

0,有lim

P(

v

p

)=147(2)大數法則(續)1nlim

P(nn

k

1kB

獨立同分布場合的大數定理互相獨立的隨量1，2，...，如果(i)存在相同的期望和方差，記E(k

)=,Var(k

)=2(k

1,

2,...);或者(ii)具有相同的分布，且有有限的期望E(k

)=那么，對任意的

0,有

)=148(2)大數法則(續)21nilim

P[(nn

k

1n

i1

)

2

kn

1

互相獨立的隨量1，2，...，有相同的期望和方差，記E(k

)=,Var(k

)=

(k

1,

2,...)。2那么，對任意的

0,有

]=149(3)中心極限定理knnk

1

n1

A

獨立同分布場合的中心極限定理如果獨立同分布的隨量1，2，...，的期望和方差存在，記E(k

)=,Var(k

)=

(k

1,

2,...);2那么，隨 量＝漸近服從標準正態分布N

(0,1)。50(3)中心極限定理(續)2kkkkn2k

)=k

knk

1B

非獨立同分布場合的中心極限定理隨 量1，2，...，如果滿足條件：(i)相互獨立(ii)都有有限的期望E(和方差Var(

)=

(k

1,

2,...)(iii)各加項均勻的小那么，隨 量＝k

1漸近服從標準正態分布N

(0,1)。51第三節參數估計和假設檢驗521.隨機抽樣和抽樣分布2.參數估計3.估計量的性質4.統計檢驗1.隨機抽樣和抽樣分布(1)隨機抽樣和樣本統計量樣本：即隨量分布總體的部分樣本點構成的子集。簡單隨機抽樣：即每個樣本點被抽到的機會相互獨立、任意樣本點組合都有均等機會的隨機抽樣。簡單隨機抽樣得來的樣本是獨立同分布隨量的集合。計量經濟學的數據一般都是簡單隨機抽樣的樣本。常見的樣本統計量：nvviv1nni1i1B

i1樣本均值x

n樣本原點矩A

x

,樣本中心矩531.隨機抽樣和抽樣分布(續)(2)抽樣分布即樣本統計量的概率分布。25411111

nnninnniinnniii1n1n1n1nnn2n2nsi1i1i1

i1i1i1i1n

1x

x

2

2

2

i1設x

,...,x

為正態分布總體N(,

)的一個樣本，統計量樣本均值x

x

,樣本方差2，則x

服從正態分布，E(x

)=E(x

)=E(x

)==Var(x

)

Var(

x

)Var(x

)=1.隨機抽樣和抽樣分布(續)

22221111nniinnEiiEnnEEisxxx

2i1i1i1i12

2

E

En

1n

1

1

n

1n

112

2

n

n

1n

1n

1n

1

n

i1x

x

2

n

x

對S

2來講，

2(n

1)S

2且統計量服從

2(n-1)分布。552.參數估計56(1)最大似然估計(2)矩估計(3)最小二乘估計(1)最大似然估計不同的總體會產生不同的樣本，對于某一特定的樣本，在不了解產生它的

究竟為何物的觀察者眼的可能性要比來自另一些更容易產生出

所觀察中，它來自一些的可能性大，即一些到的樣本。最大似然估計的原理是將樣本最容易來自的總體當作產生樣本的總體?，F在要根據從總體中抽取得到的樣本(x1,……,xn)對總體中的未知參數θ進行估計。最大似然法是選擇這樣的估計量θ

作為θ

的估計值，以便使觀察結果(x1,……,xn)出現的可能性（概率）最大。57似然函數niinL

i1i1設為連續型隨度函數是f

x;

，其中是未知參數。由于樣本的獨立性，則樣本由于每一取定的樣本值成參數的函數，稱L為樣本的似然函數。設為離散型隨則似然函數L

58(1)最大似然估計(續)，如果L

則稱θ?是θ的最大似然估計。59例子：已知~N(,2)，以一組樣本觀察值估計的參數。

60

22212222222422211

1

nn2nnnnniinxien

1

nininiexxxxix2

222

22

12

2

xi

i1i1i1i1i1i1i1

1

2

2

ln

L

ln

ln2

2

2

2

ln

L

1

ln

L

n

2

2

x

0?

n

n

04

nn1

解

L

i1

2nixn

i1解得2

1?x(2)矩估計61矩法是求估計量最古老的方法。具體作法是：將樣本矩作為相應總體矩的估計量；將樣本

矩的函數作為相應的總體矩同樣函數的估計

量。矩法比較直觀，求估計量時有時也比較直接，但它求出的估計量往往不夠理想。例子：例1：某燈泡廠某天生產了一大批燈泡，從中抽取了10個進行獲得數據如下（單位：小時），問該天生產的燈泡的平均試驗，是多少？抽樣序號12345678910（小時）1050110010801120120012501040113013001200計算得樣本算術平均數=1147，作為總體數學期望的估計值

20011nx1

1

2

0

2

x,

0

x

x,

dx

x dx

xdx

例2：若樣本x1,

1x

取自均勻分布問在矩法下是多少？0

x

其它又

在矩法下?

62(3)最小二乘估計這是本課研究的重點問題，在以后各章中將詳盡地闡述它的原理、步驟、特性和優越處，這里暫時不加以

。633.估計量的性質64(1)線性性(2)無偏性(3)有效性(4)一致性(1)線性性定義：指參數估計量可以表示為隨量觀測值的線性組合。意義：參數估計量與隨量服從相同類型的概率分布，是參數估計量性質，進行統計推斷的基礎。65(2)無偏性66定義：參數估計量的數學期望等于參數的真實值。直觀意義：樣本估計量的數值在真值周圍擺動，即無系統誤差。圖示θ?的概率的真值有偏估計的真值67無偏估計θ?的概率(2)無偏性(續)68lim

E(

n

)

漸近無偏估計量：參數估計量

n在小樣本時不滿足無偏性，但當樣本容量n趨向無窮大時，有n稱

n是的漸近無偏估計量。(3)有效性的真值69的真值有效性：參數估計量具有最小的方差。(一般來講和無偏性相結合才有意義)的概率

的概率(3)有效性(續)一個無偏有效估計量的取值在可能范圍內最密集于附近。換言之，它以最大的概率保證估計量的取值在真值附近擺動。在很多情況下，被迫在偏差的大小與方差的大?。礋o偏與有效性）之間作出抉擇。有時，一個方差極小的有偏估計比一個方差極大的無偏估計可能更為均方誤(MSE)為所追求。在兩者之間的權衡提供了一個有效的尺度。70均方誤的定義與分解71

222?θ-θθ

E

2E

θ?

-

E

E

θ?-E(θ?)

E

E(θ?)-θ

定義5在θ的一切估計即θ具有最小均方誤性MSE（θ?）

E

2??E(θ)-θE

Var

θ

精確度

準確度這里，2E

θ?

-E(θ?)

E(θ?)-θ

2E

θ?

-E(θ?)

E

E(θ?)-θ

0運用MSE權衡偏差與方差72最小均方誤（有偏，方差極?。o偏，方差極大的概率(3)有效性(續)73漸近有效估計量：參數估計量

1在小樣本時不具有有效性，但當樣本容量n趨向無窮大時，如果對于所有其他