generate a respective batch normalization layer output for each of the training examples from the normalized layer outputs; and
генерирования соответствующего выхода слоя пакетной нормализации для каждого примера обучения из нормализованных выходов слоя; и
provide the batch normalization layer output as an input to the second neural network layer.
предоставления нового выхода слоя пакетной нормализации в качестве нового входа слоя второму слою нейронной сети.
The decoding network consists of 4 layers with 3x6x6 convolutions, and both networks use ReLU units and batch normalization.
Сеть декодирования состоит из 4 слоев со свертками 3x6x6, и обе сети используют блоки ReLU и батч-нормализацию.
The only difference is that the developers applied batch normalization before calculating ReLU.
Единственное отличие заключается в том, что разработчики применили пакетную нормализацию перед тем, как вычислить ReLU.
If you could do something in 2012 period, you can probably do it fairly straightforwardly with modern GPUs, Tensorflow, Xavier initialization, batch normalization, ReLUs, and Adam or RMSprop or just stochastic gradient descent with momentum.
Если вы могли что-то сделать в 2012 году, то сегодня вы можете довольно просто сделать это при помощи современных GPU, Tensorflow, инициализации Ксавьера, пакетной нормализации, усеченного линейного преобразования, оценки адаптивного момента (Adam), RMSprop или просто стохастическим градиентным спуском с инерцией.
Batch normalization is a technique for improving the performance and stability of artificial neural networks.
Пакетная нормализация (англ. batch-normalization) - это метод, который позволяет повысить производительность и стабилизировать работу искусственных нейронных сетей.
Thin Learning Deep Networks (Batch Normalization, Dropout)
Сложности обучения глубоких сетей: batch normalization, dropout