Voice and photo translation, offline features, synonyms, conjugation, learning games
Advertising
Register for free: access more results and features
of the activation function
Translation of "of the activation function" in Russian
функции активации
However, you may have noticed that in my network diagrams, the representation of the activation function is not a unit step.
Однако вы, возможно, заметили, что на моих диаграммах представление функции активации не является единичным шагом.
Performing this differentiation reveals that the error gradient with respect to a weight is given by an expression that includes the derivative of the activation function.
Выполнение этого дифференцирования показывает, что градиент ошибки по отношению к весу задается выражением, которое включает в себя производную функции активации.
Comparison of the sum of all the weighted signals with the value of the activation function gives some result at the output.
Сравнение суммы всех взвешенных сигналов со значением функции активации даёт на выходе тот или иной результат.
If the range of values of the activation function is infinite, then learning is more effective, because most weights are used, however, in this case the neural network learns more slowly.
Если область значений функции активации бесконечна, то обучение более эффективно, т.к. используется большинство весов, однако, в этом случае нейросеть обучается медленнее.
The advantage of neural networks is the possibility of their training, with the right choice of the activation function, accounting for delay in signal transmission between neurons and the formation of an input signal.
Преимущество нейронных сетей заключается в возможности их обучения, при этом необходим правильный выбор функции активации, учет запаздывания при передаче сигнала между нейронами и формирование входного сигнала.
Often, however, the output function is the identity function, meaning that the output of the activation function is passed to the downstream connected neurons.
Однако часто выходной функцией является функция идентичности, это означает, что выходной сигнал функции активации передается нижестоящим соединенным нейронам.
wi - weighting factors by which the value of the input signal of the neuron xi is multiplied for its initialization - displacement of the activation function along the horizontal axis in order to form a sensitivity threshold.
wi - весовые коэффициенты, на которые умножается значение входного сигнала нейрона xi для его инициализации - смещения активационной функции по горизонтальной оси, с целью формирования порога чувствительности.
If the input value is less than the threshold value, then the value of the activation function is equal to the minimum allowable value, otherwise, the maximum allowable value.
Если входное значение меньше порогового, то значение функции активации равно минимальному допустимому, иначе - максимально допустимому.
The initial values should not be so large that the neurons will be saturated saturated (in the horizontal part of the activation function), otherwise the learning will be very slow.
Начальные значения не должны быть большими, чтобы нейроны не оказались в насыщении (на горизонтальном участке функции активации), иначе обучение будет очень медленным.
Range - When the range of the activation function is finite, gradient-based training methods tend to be more stable, because pattern presentations significantly affect only limited weights.
Область значений - Если множество значений функции активации ограничено, методы обучения на основе градиента более стабильны, поскольку представления эталонов существенно влияют лишь на ограниченный набор весов связей.
Range - When the range of the activation function is finite, gradient-based training methods tend to be more stable, because pattern presentations significantly affect only limited weights.
Область значений - Если множество значений функции активации ограничено, методы обучения на основе градиента более стабильны, поскольку представления эталонов существенно влияют лишь на ограниченный набор весов связей.
Word & Expression of the day
Image of the day
Suggestions that contain of the activation function
Results: 11. Exact: 11. Elapsed time: 47 ms.
