Использование искусственных нейронных сетей в задачах классификации

Цель работы: Изучить работу ИНС – искусственных нейронных сетей – с целью классификации.

Задачи:

1. Получить задание в виде классифицированного набора данных (ПР 10).

2. Провести масштабирование данных (от 0 до 1).

3. Составить ИНС и обучить её на обучающей выборке.

4. Изучить влияние размера ИНС на эффективность обучения и наличие переобучения.

Ход работы

Заданием для практической работы служат наилучшие результаты, полученные в предыдущей работе.

Выполнение работы проводят в специализированном ПО, например, в свободно распространяемой программе, написанной одним из авторов пособия (https://sourceforge.net/projects/vvnnet/).

Данные, полученные в практической работе № 10 (кластерный анализ) вносят в таблицу ИНС, предварительно масштабируя до интервала от 0 до 1, после чего делят на две части: обучающую выборку (примерно 70 % данных) и контрольную выборку (оставшиеся 30 %). Особо следят, чтобы и в обучающей, и в контрольной выборке присутствовали все классы.

В задаче классификации рекомендуется не создавать один выход с номером класса, а создать число выходов по количеству классов; тому классу, к которому относится данный объект, присвоить единицу, а остальным – ноль. Результаты считать тем классом, значение выхода для которого больше.

После ввода данных запускают обучение ИНС. Следует отметить, что обучение методом случайного подбора может занимать очень много времени. Рекомендуется задать определённое количество итераций, после чего рассчитать выходы и повторить обучение.

Затем проводят обучение с контролем переобучения.

После этого повторяют процесс с более сложной сетью (сначала можно взять 3 слоя с 5 нейронами во 2 слое, затем – 3 слоя с 10 нейронами во 2 слое, затем – 4 слоя с 5 и 6 нейронами в промежуточных слоях).

По окончании работы делают вывод о том, какая сложность сети достаточна для её работы, а какая – избыточна и создаёт риск переобучения.

Инструкция по использованию программы

1. Необходимо установить требуемое число строк и столбцов таблицы (меню Таблица à Число строк/столбцов). Число столбцов желательно завысить. В любой момент можно увеличить число строк или столбцов без потери данных.

2. В таблицу нужно внести исходные данные – значения на входах и требуемые значения на выходах. На этом этапе обучающую и контрольную выборки можно не разделять.

3. Нужно создать сеть (меню Сеть à Создать сеть), указав число слоёв и число нейронов в каждом слое. При этом следует помнить, что в первом слое должно быть нейронов столько, сколько в ИНС входов, а в последнем – сколько выходов.

4. На текущем этапе желательно сохранить сессию (Файл à Сохранить сессию).

5. Следует выбрать диапазон входов и выходов для обучающей и контрольной выборок, нажимая соответствующие кнопки (или пункты меню).

6. Перед обучением необходимо проверить правильность выбора функции активации каждого нейрона, способ обучения и наличие галочки «Начинать обучение заново». Позже эту галочку необходимо снять.

7. Проводить обучение следует через пункт меню «Обработка à Обучить» или «Обработка à Обучить с проверкой».

8. Результаты обучения можно оценить командой меню «Обработка à Рассчитать выходы», предварительно выбрав пустой (или не нужный) диапазон данных. При этом в первых столбцах (не выделенных) должны находиться значения выходов. При этом выходы можно рассчитывать как для входов обучающей или контрольной выборок (выбирая диапазон правее заданных значений на выходах), так и для произвольных входов.

9. Обучение без проверки можно продолжить с того же места, где оно остановилось, если снять галочку «Начинать обучение заново» и выбрать тот же пункт меню. Обучение с проверкой можно аналогично продолжать после обучения без проверки.

 

Содержание отчёта

Общие требования к содержанию отчёта приведены в рамках практической работы № 1.В данной работе в разделе «ход работы» необходимо представить исходную таблицу данных и результаты проведения классификации с использованием ИНС. В качестве вывода следует привести наиболее эффективную сеть и метод обучения, также указать наличие/отсутствие переобучения в каждом из методов. При использовании последней версии программы ИНС следует привести скриншоты структуры получившихся ИНС.

Вопросы для самоконтроля

Вопросы для самоконтроляприведены после практической работы № 12.

 

Практическая работа № 12