Материал: Панков Пособие по ТВиМС часть 2

Внимание! Если размещение файла нарушает Ваши авторские права, то обязательно сообщите нам

Тема № 14 Проверка статистических гипотез по выборкам фиксированного объема (параметрическая статистика)

Будем предполагать, что точный вид закона распределения случайной величины , из которой произведена выборка x1,...,xn , неизвестен. В то же

время, исходя из некоторых общих предпосылок, можно сделать те или иные предположения относительно этого закона. К примеру, если производятся измерения некоторой величины прибором, то естественно предполагать, что результаты этих измерений можно рассматривать как выборку из нормальной случайной величины с неизвестными, вообще говоря, значениями ее параметров.

Определение. Всякое предположение относительно закона распределения, из которого производится выборка, будем называть статистической гипотезой или просто гипотезой.

Определение. Если гипотеза однозначно определяет закон распределения, будем называть ее простой гипотезой, в противном случае будем называть гипотезу сложной.

Так как любая сложная гипотеза фиксирует некоторое множество распределений, то она может рассматриваться как множество простых гипотез, каждая из которых состоит в том, что выборка получена из определенного распределения, принадлежащего к фиксированному множеству.

Определение. Если закон распределения, из которого производится

выборка, известен с точностью до некоторого параметра

(

может быть и

вектором), значение которого принадлежит множеству

,

то

всякое

предположение о значении будем называть параметрической гипотезой:

F (x).

Очевидно, что всякая параметрическая гипотеза фиксирует некоторое подмножество ' . Если параметрическая гипотеза простая, то ' содержит один единственный элемент ': ' { '}. Иногда говорят, что параметрической гипотезой называется любое подмножество H0 множества : H0 .

Например, предположение о том, что выборка получена из нормальной случайной величины N(a, 2) (значения параметров которой a и 2 при этом не фиксируются), представляет собой сложную гипотезу, а предположение о том, что выборка получена из стандартной нормальной случайной величины N(0,1) – простую гипотезу.

Определение. Критерий для

проверки гипотезы

H0 – это правило,

с

помощью которого по

выборке

x1,...,xn

делается

заключение о том, что

неизвестный параметр

принадлежит

множеству

H0 , либо

не

принадлежит H0 , т. е. \ H0

Такое правило можно однозначно определить с помощью подмножества V множества всевозможных выборок, которое можно рассматривать как

26

подмножество

n -мерного

векторного пространства

n . Если вектор

x1,...,xn V ,

то

гипотезу H0

отвергают, т. е. считают,

что неизвестный

параметр

принадлежит множеству \ H0 . Если вектор x1,...,xn n \V , то

гипотезу H0 принимают, т. е. считают что H0 .

 

 

Определение.

Множество

V называют критическим

множеством

(или

критической

областью) критерия. Множество H1 \ H0 является

также

гипотезой и называется альтернативной гипотезой или альтернативой.

Гипотезу H0 в этом случае называют основной.

Определение. Будем говорить, что произошла ошибка первого рода, если мы отвергаем гипотезу H0 при условии, что она верна. Будем также говорить,

что произошла ошибка второго рода, если мы принимаем гипотезу H0 при условии, что верна альтернативная гипотеза H1 .

Обозначим:

P H1 | H0 – вероятность ошибки первого рода,

P H1 | H0 P x1,...,xn V | H0 ;

P H0 | H1 – вероятность ошибки второго рода,

P H0 | H1 P x1,...,xn \V | H1 .

Иными

словами,

α

–

вероятность

того,

что выборка

x1,...,xn V ,

если

F (x),

где 0 H

0 ,

а

–

вероятность того, что выборка

x1,...,xn V

если

0

 

 

 

 

 

 

 

 

 

 

 

 

 

F (x),

где 1 H1 .

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

P x1,...,xn V

 

 

 

Определение.

Назовем

функцией мощности

статистического критерия.

 

 

 

 

 

 

 

 

 

Для параметрических гипотез , ,

.

 

 

 

 

 

 

 

 

 

 

 

 

0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

, H

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1 , H1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Как сравнивают статистические критерии?

Рассмотрим те статистические критерии, у которых 0 при всех .

Число 0 называется уровнем значимости.

Критерий однозначно определяется своими критическими областями. Определение. Пусть V1 и V2 – два критерия (две критические области) с

уровнем значимости 0 . Говорят, что критерий V1 лучше, чем критерий V2 , если

он имеет меньшую ошибку второго рода:

V1 V2

для любого H1 .

27

Рассмотрим теперь случай, когда H0 является простой гипотезой, т. е.

H0 0 ,

и

альтернативная

гипотеза H1 \ H0

также является

простой

гипотезой,

H1

1 . В этом случае 0, 1 .

 

 

 

 

Пример.

 

Пусть выборка

производится из

 

распределения

Бернулли

 

 

0

 

 

 

 

 

 

 

 

1

 

с неизвестной вероятностью успеха

p . Пусть основная гипотеза

 

 

 

 

 

 

 

 

p

1 p

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

H0 состоит в том, что p 0,5, а альтернативная H1

в том, что p 0,4 .

 

 

Рассмотрим статистику отношения правдоподобия

 

 

 

 

 

T x1,...,xn

L1 x1,...,xn

,

 

 

 

 

 

L0 x1,...,xn

 

где Lk x1,...,xn – функция правдоподобия выборки x1,...,xn при условии того,

что верна гипотеза Hk , где k 0,1.

Сформулируем критерий следующим образом: фиксируем некоторую константу C 0;

- если T x1,...,xn C , то выбираем гипотезу H1 ; - если T x1,...,xn C , то выбираем гипотезу H0 .

Константу C выбираем так, чтобы была обеспечена заранее заданная вероятность ошибки первого рода :

P H1 | H0 P T x1,...,xn C | H0

Этот критерий носит название критерия отношения правдоподобия.

Обозначим его критическое множество через W , а его ошибки первого и второго рода обозначим W и W соответственно.

Пусть S - произвольный статистический критерий для проверки простой гипотезы H0 против простой альтернативы H1 с ошибками первого и второго

рода S и S . Будем рассматривать такие критерии S , что S W .

Лемма (Неймана-Пирсона). В сформулированных выше предположениях для критерия S верно, что если S W , то S W .

Доказательство. Проведем его для случая, когда выборка x1,...,xn является выборкой из абсолютно непрерывного закона распределения, т. е. xi имеет

плотность p x , если верна гипотеза H

0 ,

или p

x , если верна H1 . По

0

 

 

 

 

1

 

 

определению статистики отношения правдоподобия:

 

 

 

L1 x1,...,xn

p

x1 ...p (xn )

T x1,...,xn L0 x1,...,xn p

x1 ...p (xn )

 

 

 

 

1

 

1

 

 

 

 

 

0

 

0

 

Критическая область W критерия отношения правдоподобия состоит из тех

 

n

p

xi

C

при значении C 0.

значений выборки x1,...,xn , для которых i 1

p

xi

 

 

1

 

 

 

 

 

 

0

 

 

 

 

28

Для критерия W получаем:

 

W

P x1,...,xn W |H0 ... p 0 y1 ...p 0 yn dy1...dyn ,

 

 

 

W

 

W

P x1,...,xn W |H1 1 P x1,...,xn W |H1

 

 

1 ... p 1

y1 ...p 1 yn dy1...dyn ,

 

 

W

 

где соответствующие интегралы являются n -мерными.

Пусть S

и S - вероятности ошибок первого и второго рода критерия S :

 

 

S ... p 0

y1 ...p 0 yn dy1...dyn ,

 

 

S

 

 

 

S 1 ... p 1 y1 ...p 1 yn dy1...dyn .

 

 

S

 

Из условия леммы S W получаем, что

 

... p 0 y1 ...p 0 yn dy1...dyn

... p 0 y1 ...p 0 yn dy1...dyn .

 

S

 

W

Вычитая из

 

... p 0

y1 ...p 0

 

W S

 

C , получаем:

 

...

C p 0

 

 

 

 

S\W S

 

левой

и правой части этого равенства величину

yn dy1...dyn

и умножая полученное неравенство на постоянную

y1 ...p 0 yn dy1...dyn

 

 

...

 

C p 0

y1 ...p 0 yn dy1...dyn .

 

 

 

 

 

 

 

 

 

 

 

 

 

 

W\W S

 

 

 

 

 

Если y1,...,yn S \(W S),

то y1,...,yn W и верно неравенство

 

 

p

y1 ...p

yn C p

y1 ...p yn .

 

 

1

 

 

 

1

 

0

0

Поэтому

 

 

 

 

 

 

 

 

...

 

p 1 y1 ...p 1 yn dy1...dyn

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

S\W S

 

 

 

 

 

 

 

 

 

 

 

 

...

 

C p 0

y1 ...p 0 yn dy1...dyn .

 

 

 

 

 

 

 

 

 

 

 

 

 

S\W S

 

 

 

 

 

 

Если y1,...,yn W \(W S),

то y1,...,yn W и верно неравенство

 

 

C p

y1 ...p yn p

y1 ...p yn .

Следовательно,

0

 

 

 

 

0

1

1

 

 

 

 

 

 

 

 

...

 

C p 0 y1 ...p 0 yn dy1...dyn

 

 

 

 

 

 

 

 

 

 

 

 

 

W\W S

 

 

 

 

 

 

 

 

 

 

 

...

 

 

p 1 y1 ...p 1

yn dy1...dyn .

 

 

 

W

 

S

 

 

 

 

 

 

\W

 

 

 

 

В итоге получаем, что

29

x1,...,xn

...

p 1 y1 ...p 1 yn dy1...dyn

.

 

 

 

 

 

 

 

 

 

 

 

S\W S

 

 

 

 

 

 

 

 

 

...

 

p 1 y1 ...p 1 yn dy1...dyn .

 

 

 

 

S

 

 

 

 

W\W

 

 

 

Прибавляя к левой и правой части полученного неравенства величину

 

 

...

p 1 y1 ...p 1 yn dy1...dyn ,

 

 

W S

 

 

 

 

 

получаем неравенство:

 

 

 

 

 

 

 

... p1 y1 ...p1

yn dy1...dyn ... p1 y1 ...p1

yn dy1...dyn .

 

S

 

 

 

 

W

 

Левая

часть неравенства

равна

1 S , а правая

равна 1 W , т. е. мы

получили, что

S W .

Лемма доказана.

Из леммы следует, что для любых H1 и любого критерия S с уровнем значимости W функция мощности критерия W наибольшая:

W 1 W 1 S S .

Поэтому критерий отношения правдоподобия называют наиболее мощным критерием при фиксированном уровне значимости W , а статистику T x1,...,xn

называют статистикой наиболее мощного критерия.

Приведем примеры использования леммы Неймана-Пирсона.

Примеры. 1. Пусть – выборка из нормального распределения с неизвестным математическим ожиданием и известной дисперсией: N a 2 ,

где a - неизвестно, 2 - известно.

 

 

Относительно неизвестного параметра a имеются два предположения:

либо

a a0 , либо

a a1 , при этом

a0 a1 . В данном случае гипотезы H0

и H1

являются простыми:

H0 a0 , H1 a1 .

Построим наиболее мощный критерий проверки

 

гипотезы H0 при

альтернативе H1 .

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

1

 

e

xj ak 2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Lk x1,...,xn

 

 

 

2 2 ,

k 0,1.

Следовательно,

 

 

для статистики

 

 

 

 

 

j 1

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

T x1,...,xn наиболее мощного критерия имеет место равенство

 

 

 

 

 

 

 

 

1 1

n

 

 

 

 

 

j

 

1

2

 

j 0

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

x

a

 

 

x a

 

 

 

 

 

 

 

 

 

 

L x ,...,x

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

T x ,...,x

 

 

 

 

 

exp

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

2

 

 

 

1

n

 

 

L0 x1,...,xn

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

j 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

30

Источник: https://studfile.net/preview/16534730/