|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
b |
|
2 |
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
Следовательно, |
|
|
|
|
n |
|
1 |
|
|
|
|
|
. |
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
3). Осталось доказать, что n n Inf . |
|
|
|
|
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n ln p xi, n |
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
p xi |
, dx |
|
|||||
|
|
|
|
|
|
|
|
|
|
|
... |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i 1 |
|
|
|
|
i 1 |
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
lnp xi |
|
|
2 |
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
, |
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i 1 |
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Так как по второму условию регулярности |
|
|
|
|
|
|
||||||||||||||||||||||||||||||
|
|
ln p xi, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
ln p xi, |
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
p xi |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
, dxi E |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
1 |
|
|
p xi, |
p xi, dxi |
|
|
|
|
p xi, |
|
|
0. |
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
dxi |
|
|
|
|||||||||||||||
|
|
, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
p xi |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
Тогда |
|
ln p xi, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
0 . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
i 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Следовательно,
n n
i 1
ln p xi |
|
2 |
|
|
n |
ln p xi |
|
2 |
|
|
|||||
, |
|
|
|
|
, |
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
i 1 |
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
2 |
|
|
|
n |
|
|
|
|
ln p |
x |
, |
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
i |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
D |
|
|
||||
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i 1 |
|
|
|
|
|
|
|
|
|
i |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
ln p xi, .
Так как элементы выборки xi независимы, то независимы и функции от них
p xi, .
Учитывая одинаковую распределенность случайных величин xi , получаем,
что верно равенство
|
n |
|
ln p xi, |
|
|
lnp x1, |
|
||
|
n D |
|
|
|
n D |
|
. |
||
|
|
|
|||||||
|
i 1 |
|
|
|
|
||||
Из 5 и 2 условий регулярности следует, что |
|
|
|||||||
|
D |
ln p x1, |
|
Inf . |
|
||||
|
|
|
Теорема доказана. |
||||||
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
||
Следствие. Если |
- несмещенная оценка, то в условиях регулярной модели |
||||||||
|
|
|
|
1 |
. |
|
|
||
|
|
|
D |
|
|
|
|||
|
|
|
n Inf |
|
|
||||
16
Вслучае если мы оцениваем не параметр , а параметрическую функцию
, то с некоторыми изменениями на условия регулярности неравенство Рао-
Крамера примет вид
2 ' b 2 .
n Inf
Определение. Эффективностью регулярной оценки параметрической функции называется величина
|
|
|
|
|
' b 2 |
|
|
. |
|
|
|
|
|||
|
|
eff |
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
2 |
|
|
|||||
|
|
|
|
n Inf |
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Очевидно, что у любой оценки |
эффективность ограничена: 0 eff 1. |
|
|||||||||||||
Определение. |
|
Регулярная |
оценка |
|
параметрической |
функции |
|
||||||||
|
|
||||||||||||||
|
|
|
|
|
|
|
|
неравенство Рао-Крамера для нее |
|||||||
называется эффективной, если eff 1, т.е. |
|||||||||||||||
обращается в равенство. |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Определение. |
|
Регулярная |
оценка |
параметрической |
функции |
||||||||||
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
называется асимптотически эффективной, если eff 1 |
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
||
Примером эффективной оценки в модели N , 2 является |
|
. |
|
|
|||||||||||
x |
|
|
|||||||||||||
|
|
статистика |
S2 - асимптотически эффективная оценка. |
|
|||||||||||
В модели N a, |
|
|
|||||||||||||
17
Тема № 13 Интервальное оценивание параметров распределения
В предыдущей теме мы рассматривали точечные оценки для параметров статистической модели. Любая точечная оценка представляет собой функцию выборки, т. е. является случайной величиной, и при каждой реализации выборки эта функция определяет единственное число, которое мы принимаем за приближенное значение оцениваемой характеристики. При этом нужно принимать во внимание, что в каждом конкретном случае значение оценки может отличаться от значения параметра. Следовательно, полезно знать и возможную погрешность, возникающую при использовании предлагаемой оценки. К примеру, можно указать такой интервал, или область, внутри которого с высокой вероятностью находится точное значение оцениваемого параметра. В этом случае говорят об интервальном, или доверительном,
оценивании. |
|
|
|
|
|
|
|
|
|||
|
Теперь сформулируем основное определение. |
|
|
|
|||||||
|
Определение. |
|
Рассмотрим |
выборку |
x1,...,xn и |
две |
статистики |
||||
|
|
|
|
|
|
|
|
|
|
выполняется |
|
1 |
1 x1,...,xn и |
2 |
2 x1,...,xn . Если для некоторого 0;1 |
||||||||
|
P 1 x1,...,xn 2 x1,...,xn , |
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
параметр |
то говорят, что случайный интервал ( 1, 2) накрывает неизвестный |
|||||||||||
|
с вероятностью не меньшей, чем . |
|
|
|
|
||||||
|
Если |
|
|
|
величину |
|
называют |
доверительной |
|||
|
P 1 2 , то |
||||||||||
вероятностью или коэффициентом надежности. |
|
|
|
||||||||
|
|
|
|
|
|
называют |
доверительным |
интервалом для |
|||
|
Случайный интервал 1, 2 |
||||||||||
неизвестного параметра с коэффициентом надежности . |
|
||||||||||
|
Опишем способ, с помощью которого в ряде случаев можно построить |
||||||||||
доверительный интервал. |
|
|
|
|
|
|
|||||
|
Определение. |
Пусть статистическая модель |
F абсолютно непрерывна, и |
||||||||
существует случайная величина G x1,...,xn, , |
зависящая от , такая, что: |
||||||||||
|
1) |
распределение G x1,...,xn, |
не зависит от ; |
|
|
|
|||||
|
2) |
для |
любой |
фиксированной |
реализации |
выборки |
x1,...,xn |
функция |
|||
G x1,...,xn, непрерывна и строго монотонна по . |
|
|
|
||||||||
Тогда |
такую случайную величину |
G называют центральной статистикой |
|||||||||
параметра .
Обратим внимание, что в силу определения центральная статистика не является статистикой в точном определении этого понятия.
Итак, пусть для модели F построена центральная статистика G x1,...,xn, , и fG t – плотность распределения этой центральной статистики.
18
По первому условию из определения, fG t |
|
не зависит от , поэтому для |
||||||||||||
любого значения 0;1 можно |
выбрать |
величины t1 t2 (какими |
угодно |
|||||||||||
способами) так, чтобы: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
t2 |
|
t dt . |
|
|
P t |
G |
x |
,...,x |
, |
t |
|
|
f |
|
||||
|
1 |
|
1 |
|
n |
|
|
|
G |
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
t1 |
|
|
|
Далее для определенности будем считать, что G - строго возрастающая по |
||||||||||||||
функция. |
Определим теперь для любой реализации выборки x1,...,xn |
числа |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 x1,...,xn |
и 2 x1,...,xn , где |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 x1,...,xn |
2 x1,...,xn , |
|
||||||||||
как решение относительно совокупности уравнений
G x1,...,xn, t1 .G x1,...,xn, t2
Однозначность определения обоих этих чисел обеспечивается вторым условием, наложенным по определению на функцию G x1,...,xn, . Тогда
неравенство
t1 G x1,...,xn, t2
эквивалентно неравенству
1 x1,...,xn 2 x1,...,xn
и выполняется равенство
P t1 G x1,...,xn, t2
|
|
|
|
|
|
|
P 1 |
x1,...,xn 2 x1,...,xn . |
|
||||
Таким образом, построенный интервал |
|
x |
|
x1,...,xn является |
- |
|
1 |
1,...,xn , 2 |
|||||
доверительным интервалом для неизвестного параметра .
В каждой конкретной задаче при построении центральной статистики для оцениваемого параметра обычно приходится учитывать специфику рассматриваемой модели.
Это мы разберем на примере оценки параметров нормального распределения. Но сначала сформулируем полезную теорему.
Теорема |
(Фишера – без |
доказательства). |
Если |
x1,...,xn - выборка из |
|||||||||
N a, 2 |
(случайной величины, |
имеющей нормальное распределение с двумя |
|||||||||||
параметрами a и 2 ), то |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
n |
|
|
n |
|
|
2 |
|
|
1. случайные величины |
|
|
1 |
i 1 |
xi и S2 |
1 |
i 1 xi |
x |
независимы, |
||||
x |
|||||||||||||
n |
n |
||||||||||||
2.имеют место следующие распределения:
xN a, n2 ,
19
|
nS2 |
2 |
, |
|
|
|
2 |
n 1 |
|
|
|
где n2 |
1 – случайная величина, имеющая хи-квадрат |
распределение с n 1 |
|||
степенью свободы. |
|
|
|
|
|
Определение. Пусть случайная |
величина |
|
обладает функцией |
||
распределения F x , и дано вещественное число: |
0 p 1. Тогда решения xp |
||||
уравнения |
|
|
|
|
|
F x p |
|
|
|
|
|
называются квантилями распределения F x уровня p .
Примеры.
1). Рассмотрим случай выборки из нормального распределения с неизвестным математическим ожиданием и известной дисперсией: N 2 .
По теореме Фишера x N , n2 ,
следовательно, функция
G x1,...,xn, |
|
|
|
n |
|
|
x |
||||||
|
|
|||||
|
|
|
|
|||
является центральной |
статистикой, имеющей стандартное нормальное |
|||||
|
|
|
|
|
||
распределение N 0;1 . |
|
|
||||
P t1 G x1,...,xn, t2
t2
t1
|
1 |
|
t2 |
|
|
e 2 dt . |
|
|
|
|
|
|
2 |
||
|
|
|
Рассмотрим график плотности нормального распределения:
Пусть площадь закрашенной области на графике равна , тогда сумма
площадей S1 S2 |
равна 1 . Удобно считать, что S1 S2 |
|
1 |
. |
|
2 |
|||||
|
|
|
|
20