Курсовая работа: Персептроны. Назначение, обобщенная схема, виды персептронов, принципы работы. Достоинства и недостатки персептронных систем

Введение

С текущим уровнем развития ускорение прогресса возможно благодаря тому, что компьютерные технологии способны принимать на себя часть работы. Искусственный интеллект является одним из способов обеспечения поддержкой в решении сложных задач, позволяющий рассчитывать не только на решение однотипных операций, но и способный обучаться. Одна из ветвей развития искусственного интеллекта - нейронные сети –позволяет создавать прогнозы, распознавать образы, оптимизировать, участвовать в управлении, чем приносит существенную помощь в поиске и нахождении решений. Искусственные нейронные сети смоделированы по принципу биологических нейронных систем – это система соединенных между собой простых процессоров (нейронов), они отличаются простотой, но способны решать сложные задачи, будучи объединенными в сеть, в которой они смогут взаимодействовать. Весь принцип их действия сводиться к получению информации, обработке и выдаче информации. Главное преимущество нейронных сетей в том, что они способны обучаться, или другим языком, способны находить зависимости между входными и выходными данными. После обучения сеть может предсказывать будущие значения на основе предыдущих значений. Однако только в том случае, когда предыдущие значения действительно могли предсказать некоторую закономерность будущих результатов.

Целью данной работы является рассмотрение персептронов, их принципов работы и применения.

Объектом работы являются персептроны.

Предметом работы являются принципы работы персептронов.

Работа является актуальной по той причине, что персептроны широко используются в различных областях науки.

Для достижения поставленной цели необходимо решить следующие задачи:

• Дать понятие персептрона;
• Рассмотреть виды персептронов;
• Рассмотреть алгоритмы их обучения;
• Описать принципы их работы;
• Дать основные достоинства и недостатки персептронов.

1. Общие сведения о персептронах

1.1.Понятие персептрона

Персептрон – этосеть, основанная на передаче информации, и состоящая из трех типов, генерирующих сигналы: реагирующих элементов, элементов ассоциативных и сенсорных. Существует зависимость производящих функций данных элементов, которые возникают в передающей сети, или же, для внешних элементов, получаемых из внешней среды. Сигналы, которые оказывают воздействие на производящую функцию элемента, называются входными сигналами для этого элемента. Эти элементы определены в достаточно общем виде и как частный случай включают в себя биологические нейроны.

Персептрон является компьютерной или математической моделью восприятия информации человеческим мозгом, предложенной Фрэнком Розенблаттом впервые в 1957 году, и воплощенной в виде электронной машины «Марк-1»уже в 1960 году. Таким образом, персептрон считается первой моделью нейронных сетей, а «Марк-1»занимает место первого в мире нейрокомпьютера. [1]

Три типа элементов составляют персептрон: датчики принимают поступающие сигналы, затем датчики передают полученные сигналы в сектор ассоциативных элементов, и после этого на реагирующие элементы. Таким образом, персептроны дают возможность создать некоторый набор «ассоциаций» между начальными стимулами и требуемой выходной реакцией. С точки зрения биологии это несколько сравнимо с преобразованием, к примеру, поступающих зрительных сигналов в физиологическую реакцию, создаваемую двигательными нейронами.Современная терминология относит персептроны к искусственным нейронным сетям, персептроны могут быть с:

1. Сигналом с принципом прямого распространения;
2. Передаточной пороговой функцией;
3. Одним скрытым слоем.

По причине повышения популярности нейросетей, Марвин Минский и Сеймур Паперт выпустили в 1969 году книгу, принципиально описывающую ограниченность персептронов, что имело свои последствия, исследование искусственного интеллекта учеными перешло в обратную от нейронных сетей сферу символьных вычислений. Помимо этого, сложность математического исследования персептронов вместе с отсутствующей общепринятой терминологией, привели к возникновению неточностей и заблуждений.[10]

В будущем возобновился интерес в нейронным сетям и к работам Розенблатта. К примеру, сейчас можно наблюдать стремительное развитие биокомпьютинга, вычисления которого в теоретической основе берут свое начало из нейронных сетей.

1.2.Общие сведения о персептронах

На рис.1.1. показана логическая схема элементарного персептрона, который состоит из элементов, разделенных на три типа: S-элементов, наиболее многочисленных, A-элементов, средней численности, и одного R-элемента. S-элементы — это слой сенсоров, принимающих сигналы, или же рецепторов. Что в физическом мире соответствует светочувствительным элементам на сетчатке глаза или фоторезисторам камеры. Для каждого из рецепторов характерно нахождение либо в состоянии покоя, либо в состоянии возбуждения. Только в состоянии возбуждения рецептор передаст единичный сигнал следующему слою ассоциативных элементов.

Рис. 1.1. Элементарный персептрон. Логическая схема.

A-элементы названы ассоциативными, так как каждому данному элементу, зачастую соответствует целый набор S-элементов. A-элемент приходит в состояние активности, когдасигналы от S-элементов на входе количеством превышают определенную величину θ. Следовательно, если набор необходимых S-элементов находиться на сенсорном поле в форме буквы «Д», то A-элемент переходит в состояние активности.При условии, чтонужное количество рецепторов передало информацию о появлении «пятна света» в наблюдаемой ими окрестности, то есть A-элемент будет ассоциирован с наличием или отсутствием буквы «Д» в определенной области. Наглядно это продемонстрированно на рисунке 1.2. [8]

Рис. 1.2. Физическое воплощение поступающего сигнала

Сигналы от возбужденных A-элементов передаются на сумматор R, а сигнал от i-го ассоциативного элемента передается с коэффициентом w_i. Этот коэффициент называется весом связи A-R.

R-элемент, так же, как A-элементы, подсчитывает сумму значений входных сигналов, умноженную на веса. R-элемент, а вместе с ним и элементарный персептрон, выдает "1", Если линейная форма превышает порог θ, иначе на выходе будет"-1". Математически функция, реализуемая R-элементом, может быть записана как:

(1.1)

Обучение элементарного персептрона состоит в изменении весовых коэффициентовw_i связей A-R. Веса связей S-A (которые могут принимать значения {-1; 0; +1}), и значения порогов A-элементов выбираются случайным образом в самом начале и остаются неизменными.

Готовность к режиму распознавания или обобщения становиться доступной для персептрона по окончании этапа обучения. Этот режим предъявляет персептрону неизвестные ему ранее объекты, и задача персептрона установить к какому классу они могут принадлежать. Работа персептрона состоит в следующем: при предъявлении объекта возбудившиеся A-элементы передают сигнал R-элементу, равный сумме соответствующих коэффициентов w_i. Принадлежность к первому классу будет являться результатом решения, которое опирается на положительность суммы, а если сумма отрицательна – объект будет принадлежать второму классу. [4]

1.3. Виды персептронов

Для более глубокого знакомства с теорией персептронов необходимо знание элементарных определений и теорем, которые представляют собой основу для последующих видов нейронных сетей. Для минимального уровня требуется понимание с позиции теории сигналов, которая является оригинальной, то есть описанной автором персептронов Ф. Розенблаттом.

Для начала необходимо дать определение составным элементам персептрона, являющимся частными случаями искусственных нейронов с пороговой передаточной функцией:

1. Простым сенсорным S-элементом называется чувствительный элемент (рис. 1.3), воздействие на который каким либо видом ( свет, звук, давление, тепло и т. п.) создает сигнал. Если входным сигналом превышен некоторый порог θ, на выходе элемента получается +1, в обратном случае - 0.
2. Простым ассоциативнымA-элементом является логический решающий элемент (рис. 1.3), дающий выходной сигнал +1, при превышении входных сигналов алгебраической суммы некоторую пороговую величину θ (тогда элемент активный), иначе выход определяется как равный нулю.
3. Простым реагирующим (действующим) R-элементом называется элемент (рис. 1.4), выдающий сигнал +1, когда сумма его входных сигналов является только положительной, и сигнал -1, если сумма его входных сигналов является только отрицательной. Когда сумма входных сигналов равна нулю, выход считается или равным нулю, или неопределённым. [5]

Рис. 1.3. Пороговая функция, реализуемая S- и A-элементами

Рис. 1.4. Пороговая функция, реализуемая R-элементом

Если на выходе любого элемента результатом является 1, то элемент возбужден или активен.

Рассмотренные элементы называются простыми, поскольку они реализуют скачкообразные функции. По утверждению Розенблатта, решение более сложных задач потребует другие функции, такие, к примеру, как линейная.

Как итог, Розенблаттом введены следующие определения:

1. Персептрон - это сеть, составляют которую S, A и R-элементы, с переменной матрицей взаимодействия W (элементами которой являются {\displaystyle w_{ij}}весовые коэффициенты), в определении которой играют роль прошлые состояния активности сети.
2. Персептрон с последовательными связями - это система, все связи которой начинаются от элементов с логическим расстоянием d от ближайшего S-элемента и оканчиваются на элементах с логическим расстоянием d+1 от ближайшего S-элемента.
3. Простым персептроном является система, удовлетворяющая нижеприведенным условиям:
   1. В системе имеется только один R-элемент (он связан всеми A-элементами);
   2. Система представляет собой персептрон с последовательными связями, идущими только от S-элементов к A-элементам и от A-элементов к R-элементам;
   3. Веса всех связей от S-элементов к A-элементам (S-A связей) неизменны;
   4. Время передачи каждой связи равно либо нулю, либо фиксированной постоянной {\displaystyle \tau };

Все активирующие функции S, A, R-элементов имеют вид:(1.2)

 {\displaystyle U_{i}(t)=f(a_{i}(t))}где {\displaystyle a_{i}(t)}a_i(t) — алгебраическая сумма всех сигналов, поступающих одновременно на вход элементаu_i;

1. Элементарным персептроном называется простой персептрон, у которого все элементы - простые. В этом случае его активизирующая функция имеет вид: [6]

(1.3)

В дополнение можно обратить внимание на концепции, которые Розенблатт предложил в книге, и которые позднее были развиты в рамках теории нейросетей:

1. Персептрон с перекрёстными связями - это система, в которой элементы одного типа имеют связи, которые находятся на одинаковом расстоянии от S-элементов, при этом все остальные связи являются связями последовательного типа.
2. Персептрон с обратной связью – система может быть названа данным образом, когда достаточно одной связи между логически более удаленным элементом и логически менее удаленным. Современная терминология называет эти сети рекуррентными.
3. Персептрон с переменными S-A связями - это система, в которойснимаются ограничения на фиксированные связи от S-элементов к A-элементам. Характеристики персептрона значительно улучшаются при оптимизации S—A связей.

Марвин Минский занимался изучением свойств параллельных вычислений, и персептрон на то время являлся их частным случаем. Он перевел теорию персептронов, для анализа свойств персептрона, на язык предикатов. Суть его подхода заключалась в следующем:

1. Переменная X была сопоставлена множеству сигналов от S-элементов;
2. предикат φ(X)был сопоставлен каждому A-элементу, и был назван частным предикатом;
3. предикат ψ (пси)был сопоставлен каждому R-элементу, и зависел от частных предикатов;
4. персептрон был определен как устройство, которое способно вычислить все предикаты типа ψ.

В «зрительном» персептроне, переменная X была образом какой-нибудь геометрической фигуры (стимулом). Частный предикат давал возможность «распознавать» каждому свою фигуру. Предикат ψ означал ситуацию, в которой линейная комбинация

(1.4){\displaystyle a_{1}\phi _{1}+\ldots +a_{n}\phi _{n}} 

где a_i– это {\displaystyle a_{i}}коэффициенты передачи, превышала некоторый порог θ. [3]

Существует 5 семейств персептронов, которые обладают интересными свойствами:

1. Персептроны, которые ограниченны по диаметру - каждая фигура X, распознанная частными предикатами, по диаметруне превосходит некоторую фиксированную величину.