Дипломная работа: Разработка методики применения методов машинного обучения для решения маркетинговых задач в телекоммуникационном бизнесе

Сильными сторонами алгоритма являются полная интерпретируемость модели, а также наличие эффективного инструмента для оценки качества моделирования - ROC-анализа. Стоит добавить, что алгоритм логистической регрессии располагает возможностью динамического дообучения.

Среди слабых сторон выделяют проблему переобучения, а также возможность некорректного нахождения локальных минимумов с целью оптимизации (последнее утверждение верно при использовании в алгоритме метода стохастического градиентного спуска) [26, с. 120-122].

1.2.5 Случайный лес

Случайный лес - один из немногих универсальных алгоритмов машинного обучения. Универсальность заключается в том, что есть случайные леса для решения задач классификации, регрессии, кластеризации, поиска аномалий, селекции признаков и т.д.

Случайный лес (random forest, RF) -- это множество решающих деревьев. В задаче регрессии их ответы усредняются, в задаче классификации принимается решение «голосованием» по большинству. Все деревья строятся независимо.

Преимуществами алгоритма являются:

· Эффективная работа с большим числом предикторов.

· Отсутствие чувствительности к любым монотонным преобразованиям значений признаков.

· Универсальность.

Среди недостатков выделяют большой размер получающихся моделей, увеличенное время обучения, а также тот факт, что метод считает более важными категориальные признаки с большим числом уникальных значений [27, с. 151-157].

Итак, из описанных алгоритмов решения задачи бинарной классификации был выбран метод градиентного бустинга. Это обусловлено тем, что данный алгоритм довольно оперативно обучается, демонстрирует высокие показатели при оценке полученного результата, а также располагает дополнительными метриками для проверки качества построенной предиктивной модели. Есть еще один важный аспект: данный алгоритм интерпретируем, именно поэтому будет использоваться градиентный бустинг, а не нейронные сети.

После подбора алгоритма для решения задачи необходимо определить наиболее подходящий для достижения поставленной цели инструмент.

1.3 Обзор инструментов реализации алгоритма градиентного бустинга

Среди аналитических платформ, доступных для решения задачи бинарной классификации с использованием методов машинного обучения, можно выделить следующие:

· IBM SPSS Statistics;

· IBM SPSS Modeler;

· Loginom (бывш. Deductor Studio);

· Statistica;

· SAS Enterprise Intelligence Platform;

· Stata;

· KXEN Analytic Framework;

· Microsoft Excel [28].

Указанные продукты содержат готовые алгоритмы для разработки прогностических моделей.

Также на рынке представлены среды для мануального написания алгоритмов разработки моделей. Наиболее популярными и многофункциональными из них являются инструменты:

· Python;

· R [29].

Из перечня указанных инструментов некоторые не подходят из-за отсутствия в сборке алгоритма градиентного бустинга (например, MS Excel), другие - из-за большей направленности на работу со статистикой (такие как IBM SPSS Statistics). Из списка подходящих инструментов (IBM SPSS Modeler, Loginom, Statistica, Python, R) необходимо выбрать наиболее релевантный для решения поставленной задачи. Для этого воспользуемся экспертной системой поддержки принятия решений [30].

1.3.1 Описание исходных данных

Альтернативы

В задаче заявлены следующие альтернативы:

· R - язык программирования для статистической обработки данных и работы с графикой, а также свободная программная среда вычислений с открытым исходным кодом [31, с. 15];

· Python - высокоуровневый язык программирования общего назначения, ориентированный на повышение производительности разработчика и читаемости кода. Стандартные библиотеки включают большой объём полезных функций [32, с. 19];

· IBM SPSS Modeler - платформа прогнозной аналитики, которая помогает быстро разрабатывать высокоточные модели прогнозирования и применять прогнозную аналитику на уровне отдельных пользователей, групп, систем и предприятия [33, с. 14];

· Loginom (Deductor Studio) - аналитическая платформа от разработчика BaseGroup Labs [34, с. 10];

· Statistica - платформа с широким набором основных статистик и графических инструментов [35, с. 12].

Список исходных альтернатив представлен на Рисунке 4:

Рисунок 4 Список исходных альтернатив

Признаки

Используемые признаки сравнения:

1. Функциональность (количество алгоритмов и методов для использования, а также качество их реализации внутри платформы);

2. Стоимость эксплуатации (средняя стоимость подписки или единоразовой лицензии для использования программного обеспечения);

3. Простота использования (возможность использования программного обеспечения специалистами разных уровней, грейдов и специальностей);

4. Быстродействие (время отклика на запрос и реализации алгоритмов разной сложности);

5. Уровень интеграции (возможность взаимодействия (импорта/экспорта) с различными ресурсами и источниками данных).

Список признаков представлен на Рисунке 5:

Рисунок 5 Список исходных признаков

Ситуации

В Таблице 1 представлена совокупность ситуаций на основе группы условий. Из списка приведенных ситуаций были исключены наименее вероятные события.

Таблица 6

Состав ситуаций

В Таблице 7 приведен список принятых для данной задачи ситуаций.

Таблица 7

Выбранные варианты (совокупности ситуаций)

Эксперты

Список Экспертов представлен на Рисунке 6:

Рисунок 6 Эксперты

1.3.2 Коэффициенты и оценки

Коэффициенты компетентности экспертов

Коэффициенты компетентности экспертов представлены на Рисунке 7:

Рисунок 7 Коэффициенты компетентности экспертов

Вероятности появления проблемных ситуаций

Вероятности возникновения проблемных ситуаций представлены на Рисунке 8:

Рисунок 8 Вероятности появления проблемных ситуаций

Коэффициенты относительной значимости признаков

Коэффициенты относительной значимости признаков представлены на Рисунке 9:

Рисунок 9 Коэффициенты относительной значимости признаков

Экспертные оценки

На Рисунках 10 - 19 представлены экспертные оценки:

Рисунок 10 Экспертные оценки

Рисунок 11 Экспертные оценки

Рисунок 12 Экспертные оценки

Рисунок 13 Экспертные оценки

Рисунок 14 Экспертные оценки

Рисунок 15 Экспертные оценки

Рисунок 16 Экспертные оценки

Рисунок 17 Экспертные оценки

Рисунок 18 Экспертные оценки

Рисунок 19 Экспертные оценки

1.3.3 Решение задачи порядковыми методами

Метод PURr

Метод принятия решений с использованием принципа большинства для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев) в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале.

Решение представлено на Рисунке 20:

Рисунок 20 Решение методом PURr

Метод PRTr

Метод принятия решений с использованием принципа Парето для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев) в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале.

Решение представлено на Рисунке 21:

Рисунок 21 Решение методом PRTr

Это говорит о том, что ни одну из альтернатив нельзя отбросить.

Метод PURrWALDPOR

Метод принятия решений с использованием принципа большинства для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев), и принципа пессимизма для согласования оценок вариантов решения в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале.

Решение представлено на Рисунке 22:

Рисунок 22 Решение методом PURrWALDPOR

Метод PURrOPTIMPOR

Метод принятия решений с использованием принципа большинства для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев), и принципа оптимизма для согласования оценок вариантов решения в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале

Решение представлено на Рисунке 23:

Рисунок 23 Решение методом PURrOPTIMPOR

Метод PURrHURWPOR

Метод принятия решений с использованием принципа большинства для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев), и принципа Гурвица для согласования оценок вариантов решения в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале.

Коэффициент оптимизма-пессимизма Гурвица представлен на Рисунке 24, а решение - на Рисунке 25:

Рисунок 24 Коэффициент оптимизма-пессимизма Гурвица

Рисунок 25 Решение методом PURrHURWPOR

Метод PURrBRAUN

Метод принятия решений с использованием принципа большинства для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев), и принципа антагонистического игрока для согласования оценок вариантов решения в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале.

Точность итерационного процесса представлена на Рисунке 26, а решение - на Рисунке 27:

Рисунок 26 Точность итерационного процесса

Рисунок 27 Решение методом PURrBRAUN

Метод PURrSAVAGE

Метод принятия решений с использованием принципа большинства для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев), и принципа Сэвиджа для согласования оценок вариантов решения в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале.

Решение представлено на Рисунке 28:

Рисунок 28 Решение методом PURrSAVAGE

Метод PURrLAPLPOR

Метод принятия решений с использованием принципа большинства для согласования оценок вариантов решения, формируемых отдельными экспертами с позиций различных признаков (критериев), и принципа Лапласа для согласования оценок вариантов решения в различных проблемных ситуациях, с заданием предпочтений в порядковой шкале.

Решение представлено на Рисунке 29:

Рисунок 29 Решение методом PURrLAPLPOR

Метод PURrBAJPOR