Как следует из названия, обратное распространение алгоритм который обратно распространяет ошибки от выходных узлов к входным узлам. Поэтому это просто называется «обратным распространением ошибок». Этот подход был разработан на основе анализа человеческого мозга. Распознавание речи, распознавание символов, проверка подписи, распознавание человеческого лица - вот некоторые из интересных приложений нейронных сетей. Нейронные сети проходят обучение с учителем, входной вектор, проходящий через сеть, создает выходной вектор. Этот выходной вектор сверяется с желаемым выходом. Если результат не совпадает с выходным вектором, создается отчет об ошибке. На основе отчета об ошибках веса корректируются для получения желаемого результата.
Что такое искусственная нейронная сеть?
An Искусственная нейронная сеть использует правила контролируемого обучения, чтобы стать эффективным и действенным. Информация в нейронных сетях передается двумя разными способами. В первую очередь, когда модель обучается или обучается и когда модель работает нормально - либо для тестирования, либо используется для выполнения какой-либо задачи. Информация в различных формах поступает в модель через входные нейроны, запускает несколько слоев скрытых нейронов и достигает выходных нейронов, что известно как сеть прямого распространения.
Поскольку все нейроны не срабатывают одновременно, нейроны, которые получают входные данные слева, умножаются на веса, когда они проходят через скрытые слои. Теперь сложите все входные данные от каждого нейрона, и когда сумма превысит определенный пороговый уровень, нейроны, которые оставались безмолвными, сработают и подключатся.
Способ обучения искусственной нейронной сети заключается в том, что она учится на том, что она сделала неправильно, и поступает правильно, и это называется обратной связью. Искусственные нейронные сети используют обратную связь, чтобы узнать, что правильно, а что нет.
Что такое обратное распространение?
Определение: Обратное распространение - важный механизм обучения нейронных сетей. Это механизм, используемый для точной настройки весов нейронной сети (иначе называемой моделью в этой статье) в отношении частоты ошибок, созданных на предыдущей итерации. Это похоже на мессенджер, который сообщает модели, ошиблась сеть или нет, как только она предсказала.
обратное распространение нейронной сети
Обратное распространение в нейронных сетях касается коробка передач информации и связывая эту информацию с ошибкой, сгенерированной моделью, когда было сделано предположение. Этот метод направлен на уменьшение ошибки, которую иначе называют функцией потерь.
Как работает обратное распространение - простой алгоритм
Обратное распространение в глубоком обучении - стандартный подход к обучению искусственных нейронных сетей. Принцип работы таков: Первоначально при проектировании нейронной сети случайные значения назначаются в качестве весов. Пользователь не уверен, что присвоенные значения веса верны или соответствуют модели. В результате модель выводит значение, которое отличается от фактического или ожидаемого вывода, что является значением ошибки.
Чтобы получить соответствующий результат с минимальной ошибкой, модель должна быть обучена на соответствующем наборе данных или параметрах и отслеживать ее прогресс каждый раз, когда она прогнозирует. Нейронная сеть связана с ошибкой, поэтому всякий раз, когда изменяются параметры, ошибка также изменяется. В обратном распространении используется метод, известный как правило дельты или градиентный спуск, для изменения параметров в модели.
На приведенной выше диаграмме показана работа обратного распространения ошибки, и его работа приведена ниже.
- «X» на входах выходят из предварительно подключенного пути
- «W», реальные веса используются для моделирования входных данных. Значения W распределяются случайным образом
- Выход для каждого нейрона рассчитывается путем прямого распространения - входной слой, скрытый слой и выходной слой.
- Ошибка вычисляется на выходах с использованием уравнения. Повторное распространение в обратном направлении через выходные и скрытые слои, веса корректируются, чтобы уменьшить ошибку.
Снова перейдите вперед, чтобы вычислить результат и ошибку. Если ошибка сведена к минимуму, этот процесс завершается, или же он распространяется в обратном направлении и корректирует значения веса.
Этот процесс повторяется до тех пор, пока ошибка не уменьшится до минимума и не будет получен желаемый результат.
Зачем нам нужно обратное распространение?
Это механизм, используемый для обучения нейронной сети, относящейся к конкретному набору данных. Несколько из преимущества обратного распространения находятся
- Программировать просто, быстро и легко
- Настраиваются только номера входа, а не другие параметры
- Нет необходимости иметь предварительные знания о сети
- Это гибкий
- Стандартный подход и работает качественно
- Не требует от пользователя изучения специальных функций
Типы сетей обратного распространения
Есть два типа сетей обратного распространения. Он подразделяется на следующие категории:
Статическое обратное распространение
Статическое обратное распространение - это один из типов сети, целью которого является создание отображения статического входа на статический выход. Эти типы сетей способны решать задачи статической классификации, такие как оптическое распознавание символов (OCR).
Рекуррентное обратное распространение
Повторяющееся обратное распространение - это еще один тип сети, используемый при обучении с фиксированной точкой. Активации при повторяющемся обратном распространении распространяются вперед, пока не достигнет фиксированного значения. После этого вычисляется ошибка и распространяется в обратном направлении. А программного обеспечения , NeuroSolutions может выполнять повторное обратное распространение.
Ключевые отличия: статическое обратное распространение предлагает немедленное отображение, в то время как отображение повторяющегося обратного распространения не происходит немедленно.
Недостатки обратного распространения
Недостатки обратного распространения:
- Обратное распространение может быть чувствительным к зашумленным данным и нерегулярности
- Производительность этого сильно зависит от входных данных.
- Требуется много времени для тренировок
- Необходимость в матричном методе обратного распространения ошибки вместо мини-пакета
Приложения обратного распространения
Приложения
- Нейронная сеть обучена произносить каждую букву слова и предложения.
- Используется в области распознавание речи
- Используется в области распознавания персонажей и лиц.
FAQs
1). Зачем нам нужен обратный распространение в нейронных сетях?
Это механизм, используемый для обучения нейронной сети, относящейся к конкретному набору данных.
2). Какова цель алгоритма обратного распространения ошибки?
Цель этого алгоритма - создать механизм обучения для нейронных сетей, чтобы гарантировать, что сеть обучена отображать входы на их соответствующие выходы.
3). Какая скорость обучения в нейронных сетях?
Скорость обучения определяется в контексте оптимизации и минимизации функции потерь нейронной сети. Это относится к скорости, с которой нейронная сеть может изучать новые данные, заменяя старые данные.
4). Является ли нейронная сеть алгоритмом?
Да. Нейронные сети - это серия обучающих алгоритмов или правил, предназначенных для выявления закономерностей.
5). Какая функция активации в нейронной сети?
Функция активации нейронной сети решает, должен ли нейрон активироваться / запускаться или нет, исходя из общей суммы.
В этой статье, концепция обратного распространения нейронных сетей объясняется простым для понимания читателем языком. В этом методе нейронные сети обучаются на сгенерированных ошибках, чтобы стать самодостаточными и справляться со сложными ситуациями. Нейронные сети могут точно учиться на примере.
