So gradient descent may not find the global optimum.
Our new algorithm rests upon averaged accelerated gradient descent.
This analysis proves optimal convergence rates for the averaged stochastic gradient descent algorithm.
Cette analyse permet d'obtenir des taux de convergence optimaux pour l'algorithme de descente de gradient stochastique moyennée.
The gradient descent then repeats this process, edging ever closer to the minimum.
La descente de gradient répète alors ce processus, se rapprochant ainsi progressivement du minimum.
We use a gradient descent method to find a local minimiser of the wave resistance problem.
Nous utilisons une méthode de descente de gradient pour trouver un minimiseur local du problème de résistance de vague.
To find these optimal points, optimization methods such as gradient descent are regularly used.
Pour trouver ces points, des méthodes d'optimisation telles que la descente de gradient sont régulièrement utilisées.
Then we study the implementation problem of stochastic gradient descent when observations are drawn non uniformly.
Ensuite nous étudions le problème d'implémentation de la descente de gradient stochastique quand les observations sont tirées non uniformément.
In this matching step, several similarity metrics are proposed that are used in an optimization approach based on a gradient descent.
Plusieurs mesures de similarité sont proposées avec une approche d'optimisation basée sur une descente de gradient.
This allows us to solve the difficult problem of initializing gradient descent based algorithms for training acyclic neural networks.
Ceci nous permettra de résoudre le problème de l'initialisation des réseaux de neurones pour les algorithmes basés sur une descente de gradient.
We then propose a bloc coordinate gradient descent algorithm for feature selection problems in the multiclass classification setting.
Nous proposons ensuite un algorithme itératif de descente de gradient par blocs de coordonnées pour sélectionner des caractéristiques en classification multi-classes.
We develop a shape optimization technique with regularized gradient descent to invert these measurements and recover the deposit shape.
Pour inverser ces mesures et reconstruire la forme du dépôt, nous développons une méthode d'optimisation de forme avec descente de gradient régularisée.
This formulation has been implemented numerically using periodic wavelets and a gradient descent, which lead to an algorithm with a slow convergence but validating the practicability of the method.
Cette formulation a été implémentée numériquement dans le cas des ondelettes périodiques à l'aide d'une descente de gradient, menant à un algorithme de convergence lente mais validant la faisabilité de la méthode.
We compute the derivative of this criterion using the chain rule and optimize it using stochastic gradient descent.
Nous calculons la dérivée de ce critère en utilisant la règle de dérivation en chaîne et nous l'optimisons par descente de gradient stochastique.