Обучение ИНС интеллектуальному анализу данных
Термин «искусственная нейронная сеть» (ИНС) относится к аппаратной или программной системе в области информационных технологий (ИТ), которая копирует функционирование нейронов в человеческом мозгу. Класс технологий глубокого обучения, ИНС (также известные как нейронные сети) являются подмножеством ИИ (искусственного интеллекта). Первоначально они были разработаны
от вдохновения человеческого мозга. Они являются основными единицами человеческого мозга.
Интеллектуальный анализ данных — это термин, используемый для описания процесса извлечения ценности из базы данных. Хранилище данных — это место, где хранится информация.
Обучение ИНС:
Мы можем обучать нейронную сеть, обучая ее шаблонам и позволяя ей изменять свой вес в соответствии с некоторым правилом обучения. Мы можем классифицировать учебные ситуации следующим образом.
- Контролируемое обучение: в котором сеть обучается, предоставляя ей входные и соответствующие выходные шаблоны. И эти пары ввода-вывода могут быть предоставлены внешней системой, содержащей нейронную сеть.
- Неконтролируемое обучение : при котором выходные данные обучаются реагировать на набор шаблонов на входе. Неконтролируемое обучение использует алгоритм машинного обучения для анализа и кластеризации немаркированных наборов данных.
- Обучение с подкреплением: этот тип обучения можно рассматривать как промежуточную форму двух вышеупомянутых типов обучения, которое обучает модель возвращать оптимальное решение проблемы, самостоятельно принимая последовательность решений.
Еще одним методом обучения искусственных нейронных сетей является алгоритм обратного распространения ошибки. Это широко используемый метод обучения искусственных нейронных сетей. Алгоритм обратного распространения использует ИНС с прямой связью. Целью алгоритма обратного распространения является уменьшение этой ошибки до тех пор, пока ИНС не изучит обучающие данные.
Шаги алгоритма обратного распространения:
- Представьте обучающую выборку нейронной сети.
- Сравните выходные данные ANN с желаемыми выходными данными из данных.
- Вычислите ошибку в каждом выходном нейроне.
- Для каждого нейрона рассчитайте масштабный коэффициент, выход и насколько ниже или выше должен быть выход, чтобы он соответствовал желаемому результату. Это локальная ошибка.
Алгоритм:
1. Инициализировать веса в сети.
2. Повторить.
- 1. O = выход нейронной сети (сеть, e); пас вперед
- T = результат учителя для e
- Рассчитать ошибку (T – O) на выходных единицах
- Вычислите delta_wi для всех весов от скрытого слоя до
выходной слой; обратный проход - Вычислите delta_wi для всех весов от входного слоя до
скрытый слой; обратный проход продолжен - Обновление весов в сети
3. Пока все примеры не будут классифицированы правильно или не будет выполнен критерий остановки return(network)
Ключевые шаги для обучения нейронной сети:
Выберите архитектуру нейронной сети. Это означает, что вы должны думать в первую очередь о схемах подключения нейронной сети, включая некоторые из следующих аспектов:
- Количество входных узлов: способ определить количество входных узлов — определить количество признаков.
- Количество скрытых слоев: по умолчанию используется один или один скрытый слой. Это самая распространенная практика.
- Количество узлов в каждом из скрытых слоев. В случае использования нескольких скрытых слоев рекомендуется использовать одинаковое количество узлов в каждом скрытом слое. Обычно количество скрытых единиц принимается за число, сравнимое с количеством входных узлов. Это означает, что можно взять либо то же количество скрытых узлов, что и входные узлы, либо вдвое или втрое больше входных узлов.
- Количество выходных узлов. Чтобы определить количество выходных узлов, нужно определить количество выходных классов, которые вы хотите, чтобы нейронная сеть обрабатывала.
- Случайная инициализация весов: веса случайным образом инициализируются со значением от 0 до 1 или, скорее, очень близким к нулю.
- Реализация алгоритма прямого распространения для вычисления функции гипотезы для набора входных векторов для любого из скрытых слоев.
- Реализация функции стоимости для оптимизации значений параметров. Можно вспомнить, что функция стоимости помогла бы определить, насколько хорошо нейронная сеть соответствует обучающим данным.
- Реализация алгоритма обратного распространения для вычисления вектора ошибки, связанного с каждым из узлов.
- Используйте метод проверки градиента, чтобы сравнить градиент, рассчитанный с использованием частных производных функции стоимости с использованием обратного распространения ошибки и с использованием числовой оценки градиента функции стоимости. Метод проверки градиента используется для проверки правильности реализации метода обратного распространения ошибки.
- Используйте градиентный спуск или расширенную технику оптимизации с обратным распространением, чтобы попытаться минимизировать функцию стоимости как функцию параметров или весов.
Итеративный процесс обучения:
На этом этапе грамотности сеть обучается, согласовывая веса, чтобы быть подходящей для прогнозирования правильного маркера класса входных выборок. Нейросетевая грамотность также относится к «коннекционистской грамотности» из-за связей между единицами. К преимуществам нейронных сетей относятся их высокая устойчивость к зашумленным данным, а также их способность классифицировать шаблоны, на которых они не обучены.