Решение задачи распознавания образов с помощью нейронных сетей

Федеральное агентство по образованию Государственное образовательное учреждение высшего профессионального образования

Уфимский государственный авиационный технически)! университет

РЕШЕНИЕ ЗАДАЧИ РАСПОЗНАВАНИЯ ОБРАЗОК С ПОМОЩЬЮ НЕЙРОННЫХ СЕТЕЙ

МЕТОДИЧЕСКИЕ УКАЗАНИЯ к лабораторной работе по курсам «Системы искусственного интеллекта», «Интеллектуальные системы»

Федеральное агентство по образованию

'осударстнеипое образовательное учреждение высшего профессионального образования

Уфимским государственный авиационный технический университет

Кафедра вычислительной техники и защиты информации

1*1 11II 11 ИИ ЗАДАЧИ РАСПОЗНАВАНИЯ ОБРАЗОВ С 110 МОЩЬЮ НЕЙРОННЫХ СЕТЕЙ

    М m ОДИЧЕСКИЕ УКАЗАНИЯ к лабораторной работе мо курсам «Системы искусственного интеллекта», «Интеллектуальные системы»Составители: В.И. Васильев, Т.Р. Катаев, J1.A. Свечников, А.А. Шилоносов.

УДК 681.3.068 ББК 32.973.26-018.2

    Решение задачи распознавания образов с помощью нейронных сетей: методические указания к лабораторной работе по курсу «Основы искусственного интеллекта»/Уфимск. гос. авиац. техн. ун-т; Сост.: В.И. Васильев, Т.Р. Катаев, Л.А.Свечников, А.А. Шилоносов - Уфа, 2007. - 22 с.

    Рассмотрены вопросы использования нейронных сетей на примере решения прикладных задач распознавания образов.

    Главное внимание уделено описанию математического аппарата нейронных сетей, методов их обучения, а также прикладному пакету Trajan.

    Предназначены для студентов, изучающих дисциплины «Системы искусственного интеллекта», «Интеллектуальные системы».

    Табл. 8. Ил. 16. Библиогр.: 3 назв.

    Рецензенты: С.С. Валеев,

           О Уфимский государственный авиационный технический университет, 2007

з

Содержание

Цель работы 5

Краткие теоретические сведения 5

Работа с пакетом TRAJAN Neural Network Simulator v3.0 7

Создание набора данных для обучения 7

Создание сети 8

Редактирование сети 9

Обучение сети И

Условия останова обучения 13

Статистика 14

Запуск сети 15

Порядок выполнения работы 16

Проблема «Исключающего ИЛИ» 16

Распознавание букв 19

Распознавание образов 20

Содержание отчета 21

Контрольные вопросы 21

Список литературы 21ЛАБОРАТОРНАЯ РАБОТА №2 РЕШЕНИЕ ЗАДАЧИ РАСПОЗНАВАНИЯ ОЬРА iOlt < ПОМОЩЬЮ НЕЙРОННЫХ СЕТКИ

     Цель работы

     Целью работы является закрепление навыков применения математического аппарата нейронных сетей для решения задачи распознавания образов, ознакомление с пакетом нейросетевого моделирования Trajan 3.0.

     Краткие теоретические сведения

     Под èñêóññòâåííîé íåéðîííîé ñåòüþ (ПС) понимается математическая модель, представляющая собой систему из соединенных и взаимодействующих между собой простых процессором (искусственных нейронов).

     Èñêóññòâåííûé íåéðîí — узел нейронной сети, представляющий собой упрощенную модель естественного нейрона. С математической точки зрения, это сумматор всех входящих сигналов, приме няюхций к полученной сумме некоторую простую функцию.

     Структурная схема искусственного нейрона приведена на

рис. 1.

+ 1

 

     Входные сигналы х₇ (/' = 1, 2, ..., ï) суммируются с учетом соответствующих весов Wy в сумматоре, после чего полученная взвешенная сумма сравнивается с пороговым значением w,₀. Выходной сигнал нейронаy_t определяется следующей зависимостью (1):

5 

N

V/ = f('Zw_ljXj{t) + w_j0). (1)

7=1

     Аргументом функции выступает суммарный сигнал

     /I

1 X ^и „ '_; (П -I- . Функция Ды,-) называется ôóíêöèåé àêòèâàöèè.

     / I

(Kimiuii.k- виды (функций активации, используемых при построении ПС:

     линейная: /(»,■) =/с * и,-;

     логистическая (сигмоидальная):/(м•) =   ;

+ е~^ащ

     чкеиопенциальная: /(и,) = å~^àè‘;

ГО, если Ui < 0;

     пороговая /(//,) = ^

[1, если Uj > 0.

     Объединение нейронов в общую сеть можно осуществить разными способами. В зависимости от выбранной топологии выделяют следующие нпды нейронных сетей:

     íî÷íîñàí òûñ íåéðîííûå ñåòè — каждый нейрон сети соединен с каждым.

     ìíîãîñëîéíûå íåéðîííûå ñåòè (ïåðñåïòðîíû) - нейроны объединяются и слои, содержащие совокупность нейронов с едиными входными сигналами. Могут содержать входной, выходной и N промежуточных слоев.

     Перед началом работы с нейронной сетью необходимо произнести ее обучение. Существует ряд алгоритмов, позволяющих обучать сеть. Выбор конкретного алгоритма определяется архитектурой обучаемой сети, а также постановкой решаемой задачи. Одним из наиболее часто используемых алгоритмов обучения нейронной сети являе тся àëãîðèòì îáðàòíîãî ðàñïðîñòðàíåíèÿ îøèáêè {Back Propagation Algorilhm).

     Данный алгоритм обеспечивает способ настройки весов с учетом многослойной структуры нейронной сети. Ошибка обучения на выходе сети распространяется в обратном направлении к скрытым слоям. Для нейронов выходного слоя величина ошибки вычисляется просто как разность между ожидаемым и реальным выходным значением. Метод обратного распространения является обобщением äåëüòà-ïðàâèëà, согласно которому изменение веса Aw, г-го нейрона

б

для минимизации ошибки персептрона должно происходить в соответствии с формулой:

Awj = c(d, - O_i)f'(net_i)xj, (2)

где ñ - постоянный коэффициент скорости обучения; d_t и О, - ожидаемые и реальные значения выхода /-го нейрона; f - производная активационной функции г'-го нейрона; а õ_} - /-е входное значение г-го нейрона.

     Формулы для приращений весового коэффициента связи w_ki между к- м и г-м нейронами согласно методу обратного распространения ошибки, для сигмоидальной активационной функции имеют вид:

     для нейронов выходного слоя:

Aw_k. = -'kc{d_i - O_i )0_{ (1 - О, )х_к; (3)

     для нейронов скрытых слоев:

Aw_ki = ' °1 С¹ “ °i )Z {-deltaj ■ w_tj )х_к; (4)

j

где j - индекс нейрона следующего слоя, до которого распространяется сигнал от г-го нейрона предыдущего слоя;

delta j dj- Î/) ■ O_f ■ (1 - О,). (5)

     Работа с пакетом TRAJAN Neural Network Simulator v3.0

Запуск программы осуществляется с помощью ярлыка «TRAJAN» на рабочем столе, или через кнопку «Пуск —> Программы

> Trajan Neural Network Demonstrator». Для реализации нейронной сети в среде TRAJAN необходимо выполнить следующие шаги.

     Создание набора данных для обучения

     Используется меню: «File —>> New —» Data Set». В окне «Create Data Set» определяется число переменных для входа и выхода НС (см. рис. 2).

     Вводить данные или редактировать уже введенные, можно в окне редактора «Data Sets Editor» (см. рис. 3), который имеет следующие возможности:

     Data Set Datasheet - позволяет изменять любые существующие данные и имена переменных. Существует возможность добавлять новые и удалять существующие переменные, назначить «Вход» {Input), «Выход» (Output), «Вход-выход» (Input!Output) и «Игнорируемые» (Ignored) переменные; назначить «Обучение» (Training), «Проверку» (Verification), «Испытательные» (Test) и «Игнорируемые» (Ignored) выборки;

     Shuffle - средство для случайного перемешивания обучающих выборок.

     

Рис. 3. Диалоговое окно «Data Set Editor» 

     Создание сети

     Для создания сети используется меню: «File —* New —> Network» и окно: «Create Network» (см. рис. 4). Обычная последовательность действий для определения новой сети выглядит следующим образом:

     выберите желательный тип сети (если это уже выбрано, нажмите кнопку Advise). Network Advisor (Сетевой советчик) запускает- 

ся и автоматически обрабатывает сетевую информацию, шитую ич Data Set, и предлагает свой вариант сети;

<