Advertising
Register for free: access more results and features
mini-batch
Definition
Translation of "mini-batch" in Russian
Definition NEW
mini-batch
A mini-batch size of 32 was used.
Было принято решение взять mini-batch size = 32.
To compensate, when you switch from full precision to half precision on a GPU, you also need to double the mini-batch size to induce enough data parallelism to use all the available compute.
Чтобы компенсировать это, когда вы переключаетесь с полной точности до половины точности на графическом процессоре, тогда придется удвоить размер mini-batch, чтобы вызвать достаточный параллелизм данных для использования всех доступных вычислений.
This mini-batch approach to synthesizing vector parallelism multiplies the number of activations by a factor of 32, growing the local storage requirement to over 2 GB.
Этот подход к организации векторного параллелизма увеличивает число активаций в 32 раза и потребность в локальном хранилище емкостью более 2 ГБ.
The researchers also made some fine-tuned modifications, like forcing the models to use the full history of refined images, not just those from the mini-batch, to ensure the adversarial network can identify all generated images as fake at any given time.
Также исследователи провели ряд тонких настроек, например, заставили модели использовать полную историю улучшенных изображений, а не только ее малую часть, чтобы нейронная сеть могла идентифицировать все синтезированные изображения как ненастоящие в любой отрезок времени, пишет TechCrunch.
In GPUs the vector paths are typically 1024 bits wide, so GPUs using 32-bit floating-point data typically parallelise the training data up into a mini-batch of 32 samples, to create 1024-bit-wide data vectors.
В графических процессорах ширина синапса составляет 1024 бит, так что они используют 32-битные данные с плавающей запятой, поэтому часто разбивают их на параллельно работающие mini-batch из 32 образцов для создания векторов данных по 1024 бит.
If you switch to half-precision data values for weights and activations, with a mini-batch of 32, you would only fill half of the SIMD vector width, wasting half of the available compute.
При переключении значений данных до половинной точности для весов и активаций вы заполните только половину векторной ширины SIMD, потратив половину имеющихся вычислительных ресурсов.
Mini-batch techniques are used with repeated passing over the training data to obtain optimized out-of-core versions of machine learning algorithms, for e.g. Stochastic gradient descent.
Техника минипакетов используется с повторным проходом по тренировочным данным, чтобы получить оптимизированную версию алгоритмов обучения машин с внешней памятью, например, стохастический градиентный спуск.
Synonyms and analogies of "mini-batch" in English
Word & Expression of the day
Image of the day
Results: 7. Exact: 7. Elapsed time: 65 ms.
