Практическое занятие №7
Расчет коэффициента линейной регрессии
Цель работы: освоить метод расчета коэффициентов линейной регрессии.
1.Общие сведения
Линейная регрессия – модель зависимости переменной x от одной или нескольких других переменных (факторов, регрессоров, независимых переменных) с линейной функцией зависимости. Линейная регрессия относится к задаче определения «линии наилучшего соответствия» через набор точек данных. Цель линейной регрессии – поиск линии, которая наилучшим образом соответствует этим точкам.
Математическое уравнение, которое оценивает линию простой (парной) линейной регрессии:
Y=a+bx, (1)
где x называется независимой переменной или предиктором.
Y – зависимая переменная или переменная отклика. a – свободный член (пересечение) линии оценки; это значение Y, когда x=0.
b – угловой коэффициент или градиент оценённой линии; она представляет собой величину, на которую Y увеличивается в среднем, если мы увеличиваем x на одну единицу.
a и b называют коэффициентами регрессии оценённой линии, хотя этот термин часто используют только для b.
Наиболее простым методом определения коэффициентов a и b является метод наименьших квадратов (МНК). В методе наименьших квадратов требуется, чтобы εi, разность между измеренными и вычисленными по уравнению значениям Yi, была минимальной. Следовательно, находим коэффициенты a и b так, чтобы сумма квадратов отклонений наблюдаемых значений от значений на прямой линии регрессии оказалась наименьшей:
(2)
n – количество пар-значений ( , ).
Функция (S) принимает минимальное значение, если коэффициенты a и b являются решениями системы:
1
(3)
Регрессия может быть прямой ( > 0) и обратной ( < 0). Прямая регрессия означает, что при росте одного параметра, значения другого параметра тоже увеличиваются. А обратная, что при росте одного параметра, значения другого параметра уменьшаются.
Коэффициент детерминации r показывает силу статистической зависимости между значениями и . Чем меньше эмпирические значения зависимой переменной отклоняются от прямой регрессии, тем лучше определена функция регрессии.
Коэффициент r находится в пределах от 0 до 1:
0 ≤ ≤ 1.
Если = 1, то все эмпирические значения лежат на регрессионной прямой. В этом случае говорят о строгом линейном соотношении между переменными x и y. Если близок к 0, то считается, что линейной статистической зависимости между значениями и нет.
Формула для расчета коэффициента детерминацииi:
|
|
[ ∙ |
∑ ( ∙ ) − ∑ ∙ ∑ ]2 |
|
|
|
||||||
= |
|
|
|
|
|
|
|
|
|
|
|
. (4) |
( ∙ ∑ 2 |
− ∑ |
∙ ∑ ) ∙ ( ∙ ∑ 2 |
− |
∑ |
∙ ∑ ) |
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
2.Порядок проведения работы
Задание: требуется рассчитать коэффициенты a и b и построить график зависимости.
1.Импортировать данные из текстового файла (при импорте в Excel установить разделитель целой и дробной части «.»ii, после этого изменить формат ячеек на «Числовой»). Исходные данные приведены в таблице 2.1, номер задания соответствует номеру бригады.
2.Решить систему уравнений (3) и определить коэффициенты a и b по исходным данным.
3.Построить совместный график исходных значений ( , ) и линию аппроксимации (уравнение 1).
4.Рассчитать коэффициент детерминации (уравнение 4).
2
Таблица 2.1 – Исходные данные для практического занятия
№ |
Имя файла с исходными данными |
|
|
1 |
file_1.txt |
2 |
file_2.txt |
3 |
file_3.txt |
4 |
file_4.txt |
5 |
file_5.txt |
6 |
file_6.txt |
7 |
file_7.txt |
8 |
file_8.txt |
9 |
file_9.txt |
10 |
file_10.txt |
3.Требования к оформлению результатов работы
Вотчет заносятся:
1.Общие сведения из теории.
2.Совместный график исходных значений ( , ). и линии аппроксимации.
3.Коэффициент детерминации .
iЭ. Фёрстер, Б. Рёнц Методы корреляционного и регрессионного анализа (стр. 103)
(http://edu.alnam.ru/book_mkor.php?id=23)
iiИзменение типа разделителя:
3