Récemment, le concept d'auto-encodeur est devenu plus largement utilisé pour l'apprentissage de modèles génératifs,.
Recently, the autoencoder concept has become more widely used for learning generative models of data.
Si les couches cachées possèdent une taille plus grandes que celle de la couche d'entrée, l'auto-encodeur peut potentiellement apprendre la fonction identité et devenir sans intérêt.
If the hidden layers are larger than the input layer, an autoencoder can potentially learn the identity function and become useless.
La deuxième architecture neuronale proposée est celle d'un auto-encodeur variationnel.
The second neural architecture proposed is a variational auto-encoder.
Nous présentons un ensemble de méthodes pratiques par lesquelles ce résultat nous permet de transformer un auto-encodeur en modèle génératif.
We present a collection of ways in which this allows us to turn an auto-encoder into a generative model.
Par conséquent, un auto-encodeur est un modèle d'apprentissage non supervisé.
Nous construisons une méthode faiblement supervisée s'appuyant sur un réseau auto-encodeur récurrent, qui représente chaque trajectoire avec un code latent.
We have built a weakly supervised framework based on a recurrent auto-encoder that represents trajectories with latent codes.
Toutefois, des résultats expérimentaux ont montré que dans ce genre de cas, l'auto-encodeur pouvait malgré tout apprendre des caractéristiques utiles.
However, experimental results have shown that autoencoders might still learn useful features in these cases.
La première approche considère une nouvelle architecture d'auto-encodeur profond qui permet d'apprendre un modèle multilinéaire sans nécessiter l'assemblage des données comme un tenseur complet.
The first approach considers a novel deep autoencoder architecture that allows to learn a multilinear model without requiring the training data to be assembled as a complete tensor.
Kevin m'a expliqué que la prochaine étape est d'utiliser les données des galaxies calculées pour entraîner un réseau neuronal auto-encodeur à classifier les galaxies selon leurs caractéristiques.
Kevin tells me that the next step is to use the processed galaxy data to train an auto-encoder neural network to classify galaxies based on their features.
L'auto-encodeur contractif ajoute une régulation explicite dans sa fonction objectif qui force le modèle à apprendre une fonction robuste aux légères variations des valeurs d'entrées.
Contractive autoencoder adds an explicit regularizer in their objective function that forces the model to learn a function that is robust to slight variations of input values.
Nous proposons une extension récurrente de l'auto-encodeur variationel afin d'introduire ces variables latentes et améliorer la performance dans la modélisation séquentielle, incluant celle de la parole et de l'écriture manuscrite.
We propose a recurrent extension of the variational auto-encoder in order to introduce high-level latent variables to recurrent neural networks and show performance improvements on sequences modelling tasks such as human speech signals and handwriting examples.
J'ai développé une architecture basée sur un auto-encodeur pour transformer des word embeddings à valeurs réelles en vecteurs binaires, réduisant leur taille mémoire de 97% avec seulement une baisse de précision d'environ 2% dans des tâches de TALN en aval.
I developed an architecture based on an autoencoder to transform commonly used real-valued embeddings into binary embeddings, reducing their size in memory by 97% with only a loss of ∼2% in accuracy in downstream NLP tasks.
Depuis cette découverte, des chercheurs ont étudié l'efficacité de nouvelles stratégies de pré-entraînement, telles que l'empilement d'auto-encodeurs traditionnels(SAE) [5, 38], et l'empilement d'auto-encodeur débruiteur (SDAE).
Since this discovery, researchers studied the efficiency of other similar pre-training strategies such as the stacking of traditional auto-encoder (SAE) [5, 38] and the stacking of denoising auto-encoder (SDAE).
