第七章 参数估计

参数估计

7.1.1 点估计

[TOC]

一、什么是参数估计？

参数估计是统计推断的一种，根据总体随机抽取的样本推断总体分布未知参数的过程。

估计形式：

点估计：是指总体X的分布函数已知，但它的一个或多个参数未知，需要借助总体的一个样本估计总体的未知参数。

矩法：

基本思想是用样本中心距替换总体矩，从而求出未知参数的估计量。因为根据大数定律，若已知总体K阶矩uk存在，则样本k阶矩Ak依概率收敛于总体k阶矩即 $$ A_k \overset{P}{\longrightarrow}u_k $$, 且样本矩的连续函数依概率收敛于总体矩的连续函数。

计算步骤：

设随机变量X是连续型随机变量，其概率密度为$$f(x;a_1,a_2,...a_k)$$或X为离散型随机变量，其分布律为$$P{X=x}=P(x;a_1,a_2,.....a_k)$$

其中 $$a_1,a_2,.....a_k $$是待估参数，$$ X_1，X_2，...，X_n $$，是来自总体的样本，假设总体分布的$ l (1\leq l \leq k) $阶矩uk存在，则总体分布X的L阶矩

$$ u_l = E(x^l) = \int_{a}^{b}x^lf(x;\theta_1,\theta_2,......, \theta_n) dx $$

或

$$ u_l= E(X^l) = \frac{1}{n} \Sigma_{x\in R(x)} x^lp(x;\theta_1, \theta_2,... \theta_k) $$

他是 $$ \theta = (\theta_1, \theta_2,... \theta_k) $$ 的函数,R(x) 是x可能的取值范围，对样本$$ X=(X_1, X_2,...X_n) $$的$l$阶矩为

$$ A_l= \sum_{i=1}^{n} (X_i)^l $$

现用样本距作为总体矩的估计即令

$$ \begin{cases} \mu_1(\theta_1, \theta_2,... \theta_k)=A_1, \\ \mu_2(\theta_1, \theta_2,... \theta_k)=A_2 \\ ...... \\ \mu_l(\theta_1, \theta_2,... \theta_k)=A_l \\ \mu_k(\theta_1, \theta_2,... \theta_k)=A_k \end{cases} $$

求出方程组的解$\hat{\theta_1}$, $\hat{\theta_2},$求出方程组的解$\hat{\theta_1}$, $\hat{\theta_2}$, ...... ,$\hat{\theta_k}$, 我们称$\theta_l=(X_1, X_2, ......, X_n)$为参数$\theta_l$的矩估计量,估计量的观察值$\hat{\theta_l}=\hat{\theta_l}(x_1, x_2, ......, x_n)$ 为参数估计量的估计值,这种求估计量的方法我们叫矩估计法。**

7.1.2 点估计例题

例7.1.1

设总体X的密度函数为

$$ f(x) = \begin{cases} (\alpha + 1)x^\alpha, \text{ } 0 \lt x \lt1, \alpha \gt-1, \\ \textbf 0, \text{ } 其他 \end{cases} $$

其中 $\alpha$ 是未知参数,样本为($X_1$, $X_2$, .......,$X_n$),求$\alpha$的矩估计量。

解：

令$A_1= \overline{X} = \mu = E(x) = \frac{1}{n}\Sigma_{i=1}^{n}X_i $ ，则

$$ \begin{align} \mu =E(x) \ = \int_{-\infty}^{+\infty} xf(x)dx \\ =\int_{0}^{1} x(\alpha + 1)x^\alpha dx \\ =\int_{0}^{1} (\alpha + 1)x^{\alpha+1}dx \\ = \int_{0}^{1} (\alpha*x^{\alpha + 1} + x^{\alpha + 1})dx \\ = \Big(\frac{\alpha}{\alpha+2} x ^{a+2} + \frac{1}{\alpha+2} x ^{a+2}\Big)\Big|^1_0 \\ = \frac{\alpha + 1}{\alpha +2} \end{align} $$

所以:

$$ \overline{X} = \frac{\alpha + 1}{\alpha +2} $$

$$ \alpha = \frac{1-2\overline{x}}{\overline{x} - 1} $$

例 7.1.2 设总体X在[a,b]上均匀分布，a,b未知，$X_1, X_2, X_3,...,X_n$均是来自总体的样本，试求a，b的矩估计量。

解：由矩估计法，令$ \mu_1=E(x) = A_1, \mu_2 = E(x^2) =A_2$ 所以

由均匀分布的数学期望知 $E(X) = \frac{a+b}{2},$

$E(x^2) = \frac{1}{b-a}\int_{a}^{b} x^2 dx =\frac{(b-a)^2}{12} + \frac{(a+b)^2}{4} $

即

$$ \begin{cases} a+b = 2\mu, \\ b-a = \sqrt{12(\mu_2-\mu_1^2)} \end{cases} $$

解方程组得

$$ a = \mu_1 - \sqrt{3(\mu_2 - \mu_1^2)}, b = \mu_1 + \sqrt{3(\mu_2 - \mu_1^2)} $$

令 $A_1 = \frac{1}{n}\Sigma_{i=1}^{n}X^1_i, A_2 = \frac{1}{n}\Sigma_{i=1}^{n}X^2_i,$

又$ (\frac{1}{n}\Sigma_{i=1}^{n}X^2_i - \overline{X^2}) = \frac{1}{n}\Sigma_{i=1}^{n}(X_i-\overline{X})^2$

得到a和b的矩估计值为

$$ a = A_1 -\sqrt{3(A_2-A_1^2)} = \overline{X} - \sqrt{3(\frac{1}{n}\Sigma_{i=1}^{n}(X_i - \overline{X})^2} = \overline{X}-\sqrt{3*\frac{n-1}{n}S^2} \\ b = A_1 + \sqrt{3(A_2-A_1^2)} = \overline{X} + \sqrt{3(\frac{1}{n}\Sigma_{i=1}^{n}(X_i - \overline{X})^2} = \overline{X}+ \sqrt{3*\frac{n-1}{n}S^2} $$