Материал: Методы статистического и интеллектуального анализа данных. Минаева Ю.В

получить математическое описание такой зависимости. Для этого используются методы регрессионного анализа.

Регрессионный анализ – это метод статистического анализа данных, позволяющий выразить в аналитической форме зависимость среднего значения результативного признака от значений одной или нескольких факторных переменных.

Задачами регрессионного анализа являются:

–подбор класса функций, наилучшим образом аппроксимирующих искомую зависимость;

–поиск значений неизвестных параметров, входящих в уравнение искомой зависимости;

–установление адекватности полученного уравнения;

–выявление наиболее информативных факторных переменных.

Пусть в процессе предварительного анализа экспериментальных данных выделен результативный признак y

инекоторая совокупность объясняющих его факторных

признаков x x1, x2 ,..., xk , k – количество выделенных

признаков. Тогда искомая математическая модель, выражающая зависимость среднего значения результативной переменной y от влияющих на нее переменных x1, x2,...,xk , записывается следующим образом:

y f (x) .

Данное уравнение называется уравнением регрессии (или просто регрессией). В этом уравнении значения x1, x2,...,xk являются детерминированными (определенными,

не случайными), а в качестве y выступает среднее значение результативного случайного признака с нормальным распределением.

По количеству факторных переменных регрессия может быть парной (однофакторной) и множественной (многофакторной).

31

Парная регрессия характеризует связь между двумя признаками – факторным и результативным. Аналитическая зависимость между данными признаками может быть:

– линейная – выражается линейной функцией (уравнением прямой):

y a0 a1x ;

– нелинейная – выражается уравнениями вида:

Вуравнении регрессии параметр a0 показывает

усредненное влияние на результативный признак неучтенных в математической модели факторов, а параметры a1,a2,...

являются множителями, определяющими, насколько изменяется в среднем значение результативного признака при увеличении факторных на единицу измерения.

Выбор вида уравнения определяют путем визуального сравнения корреляционного поля и графиков уравнений.

Поскольку на практике на распределение результативной переменной y влияют как значения факторных переменных x, так и различные неучтенные факторы, в т.ч. помехи при измерении результатов наблюдений, то любая теоретическая кривая будет описывать ее только приблизительно. Для восстановления неизвестной функции регрессии по имеющимся экспериментальным данным коэффициенты уравнения регрессии a0,a1,... выбираются

таким образом, чтобы теоретическая кривая наилучшим образом аппроксимировала наблюдаемые значения переменной y.

Для определения неизвестных коэффициентов a0,a1,...

могут использоваться несколько методов, наиболее распространенным из которых является метод наименьших квадратов.

32

Суть метода заключается в нахождении таких параметров a0,a1,..., при которых сумма квадратов отклонений

фактических значений результативного признака от теоретических, полученных по уравнению регрессии, стремится к минимуму:

приравнять их нулю и решить полученную систему уравнений:

33

dS 0, da1

...

Пример. Составить уравнение регрессии по данным табл. 5.

Как видно из рис. 7, между данными существует линейная зависимость, следовательно, уравнение регрессии имеет вид

y a0 a1x .

Тогда целевая функция для метода наименьших квадратов запишется в виде

Найдем частные производные функции по неизвестным параметрам a0 и a1:

Преобразуем систему уравнений следующим образом:

Подставим числа, получим уравнения

5 a 0 275 a1 104,

275 a 0 15375 a1 5870.

34

y 12.2 0.6 x .

Множественная регрессия изучает связь между тремя и более признаками.

Задачей множественной регрессии является построение уравнения регрессии, связывающего среднее значение

Построение модели множественной регрессии включает два основных этапа:

–выбор вида уравнения регрессии;

–определение размерности модели связи – отбор наиболее значимых факторных признаков.

Для описания зависимостей между исследуемыми признаками чаще всего используются следующие модели:

–линейная:

В случае множественной регрессии, как правило, строят несколько моделей, затем каждая из них проверяется с помощью статистических критериев (например, с помощью t–

35