矩估计法的优点是简单易行，有些情况下不需要事先知道总体是 什么分布.缺点是，当总体类型已知时，没有充分利用分布提供的信 息.一般场合下，矩估计量不具有唯一性 投掷一枚硬币，为了解正面出现的概率，现独立重复的投掷n次， TExample 用X1,·,Xm表示投掷结果.显然此时总体X的分布为B(1,p),p 为感兴趣的量.而X1,…,Xn为样本，则求参数p的矩估计量。 ↓Example 解：由于EX=p,而样本均值收敛到总体均值EX,因此p的 一个矩估计量为=下. Previous Next First Last Back Forward
矩估计法的优点是简单易行, 有些情况下不需要事先知道总体是 什么分布. 缺点是，当总体类型已知时，没有充分利用分布提供的信 息. 一般场合下, 矩估计量不具有唯一性. ↑Example 投掷一枚硬币, 为了解正面出现的概率, 现独立重复的投掷 n 次, 用 X1, · · · , Xn 表示投掷结果. 显然此时总体 X 的分布为 B(1, p), p 为感兴趣的量. 而 X1, · · · , Xn 为样本, 则求参数 p 的矩估计量。 ↓Example 解: 由于 EX = p，而样本均值 X¯ 收敛到总体均值 EX, 因此 p 的 一个矩估计量为 pˆ = X. ¯ Previous Next First Last Back Forward 5
为考察某种考试成绩分布情况，使用正态分布N(a,σ)来作为总 TExample 体X的分布.现在从中随机调查n个人，即样本为X1,·,Xn.试 求参数a,g2的矩估计量。 ↓Example Previous Next First Last Back Forward 6
↑Example 为考察某种考试成绩分布情况, 使用正态分布 N(a, σ2 ) 来作为总 体 X 的分布. 现在从中随机调查 n 个人, 即样本为 X1, · · · , Xn. 试 求参数 a, σ2 的矩估计量。 ↓Example 解: 由于 EX = a, V ar(X) = σ 2 所以 a, σ2 的一个矩估计量为 aˆ = X, ¯ σˆ 2 = m2 = 1 n ∑n i=1 (Xi − X¯) 2 我们知道 ES2 = σ 2，因此，σ 2 的另一个矩估计量为 σˆ 2 = S 2 . Previous Next First Last Back Forward 6
6.1.2 最大似然估计方法 最大似然方法到目前为止应用最广的的点估计方法.这种方法是 基于如下的看法： 设样本X=(X1,,Xn)有概率函数 f(x;0)=f(x;0,…,0e) Definition 这里参数0=(0，…，0k)∈日，x=(x1,·,xn)为样本X 的观察值.当固定x时把(x:)看成为0的函数，称为 似然函数，常记为L(x;)或L() 当固定参数0时，f(x:)可以看成是得到样本观察值x的可能 性，这样，当把参数0看成变动时，也就得到“在不同的0值下能观 察到x的可能性大小，即L(:)”；由于我们已经观察到了x,所以 Previous Next First Last Back Forward
6.1.2 最大似然估计方法 最大似然方法到目前为止应用最广的的点估计方法. 这种方法是 基于如下的看法: 设样本 X = (X1, . . . , Xn) 有概率函数 f(x; θ) = f(x; θ1, · · · , θk) 这里参数 θ = (θ1, · · · , θk) ∈ Θ, x = (x1, . . . , xn) 为样本 X 的观察值. 当固定 x 时把 f(x; θ) 看成为 θ 的函数，称为 似然函数, 常记为 L(x; θ) 或 L(θ). Definition 当固定参数 θ 时，f(x; θ) 可以看成是得到样本观察值 x 的可能 性，这样，当把参数 θ 看成变动时，也就得到 “在不同的 θ 值下能观 察到 x 的可能性大小, 即 L(x; θ)”；由于我们已经观察到了 x，所以 Previous Next First Last Back Forward 7
使得能观察到x的可能性L(x:)最大的0值，看起来应该最像未知 的0。这个0的值即称为0最大似然估计值（看上去最有可能的）。我 们先看一个例子： 从鱼池里随机捕捞500条鱼，做好记号后重新放入鱼池中，待充 TExample 分混合后再捕捞1000条鱼，结果发现其中有72条带有记号.试问鱼 池中可能有多少条鱼 ↓Example Previous Next First Last Back Forward
使得能观察到 x 的可能性 L(x; θ) 最大的 θ 值, 看起来应该最像未知 的 θ。这个 θ 的值即称为 θ 最大似然估计值(看上去最有可能的)。我 们先看一个例子: ↑Example 从鱼池里随机捕捞 500 条鱼, 做好记号后重新放入鱼池中, 待充 分混合后再捕捞 1000 条鱼, 结果发现其中有 72 条带有记号. 试问鱼 池中可能有多少条鱼. ↓Example 解: 先将问题一般化. 设池中有 N 条鱼, 其中 r 条做好记号. 鱼在鱼 池里均匀. 随机捕捞 s 条, 发现 x 条有记号. 用上述信息来估计 N. 用 X 表示捕捞的 s 条鱼中带记号鱼的数目, 则 P(X = x) = C s−x N−rC x r Cs N . Previous Next First Last Back Forward 8
Previous Next First Last Back Forward 9
目前发现在捕捞的 s 条鱼中有记号的鱼 x 条, 要寻求 N 取何值时, 使得观察到这个事件 {X = x} 的可能性最大. 即 x 是固定的, N 是 变化的, 记 p(x; N) = P(X = x). 因为 g(N) := p(x; N) p(x; N − 1) = (N − s)(N − r) N(N − r − s + x) = N 2 − N(s + r) + rs N2 − N(r + s) + Nx, 当 rs > Nx 时, g(N) > 1; rs < Nx 时, g(N) < 1. 所以 P(X = x) 在 N = rs x 附近达到最大, 注意到 N 只能取正整数, 故 N 的最可能 的估计即最大似然估计为 Nˆ = ⌈ rs x ⌉ . 其中 ⌈ ⌉ 表示下取整, 即小于该值的最大整数. 将题目中的数字代入, Nˆ = ⌈ 500 × 1000 72 ⌉ = 6944. 即鱼池中的总的鱼数为 6694 条. Previous Next First Last Back Forward 9