TERMIUM Plus^®

Fiche 1,  Justifications,  Anglais

Record number: 1, Textual support number: 1 CONT

Stochastic gradient algorithms are widely used for large-scale learning and inference problems. However, their use in practice is typically guided by heuristics and trial-and-error rather than rigorous, generalizable theory.  5, fiche 1, Anglais, - stochastic%20gradient%20algorithm

Record number: 1, Textual support number: 2 CONT

Stochastic gradient descent (SGD) and its variants have established themselves as the go-to algorithms for large-scale machine learning problems with independent samples due to their generalization performance and intrinsic computational advantage.  3, fiche 1, Anglais, - stochastic%20gradient%20algorithm

Fiche 1,  Justifications,  Français

Fiche 1,  Justifications,  Espagnol

Fiche 2,  Justifications,  Anglais

Record number: 2, Textual support number: 1 DEF

The situation where the system always moves downward in the energy function.  2, fiche 2, Anglais, - gradient%20descent

Record number: 2, Textual support number: 1 CONT

One standard optimization technique is to use gradient descent: The values of the variables in the problem are modified in whatever direction reduces the cost function (energy). For hard problems, gradient descent gets stuck at local minima that are not globally optimal.  3, fiche 2, Anglais, - gradient%20descent

Fiche 2,  Justifications,  Français

Record number: 2, Textual support number: 1 CONT

La surface de la fonction d’erreur présente des caractéristiques peu satisfaisantes pour effectuer une descente de gradient : minima locaux, qui empêchent la convergence de l'algorithme, plateaux où les pentes sont très faibles, etc.  1, fiche 2, Français, - descente%20de%20gradient

Fiche 2,  Justifications,  Espagnol

Fiche 3,  Justifications,  Anglais

Record number: 3, Textual support number: 1 CONT

once a network settles on a minimum, whether local or global, learning ceases. If a local minimum is reached, the error at the network outputs may still be unacceptably high. Fortunately, this problem does not appear ;to cause much difficulty in practice.  2, fiche 3, Anglais, - local%20minimum

Fiche 3,  Justifications,  Français

Record number: 3, Textual support number: 1 CONT

La surface de la fonction d’erreur présente des caractéristiques peu satisfaisantes pour effectuer une descente de gradient : minima locaux, qui empêchent la convergence de l'algorithme, plateaux où les pentes sont très faibles, etc.  1, fiche 3, Français, - minimum%20local

Record number: 3, Textual support number: 2 CONT

Dans la pratique, le problème des minima locaux est assez rarement rencontré.  1, fiche 3, Français, - minimum%20local

Fiche 3,  Justifications,  Espagnol

Fiche 4,  Justifications,  Anglais

Record number: 4, Textual support number: 1 CONT

(With) gradient-descent methods, each link computes the derivative, with respect to the weight and a global performance measure (the error).  1, fiche 4, Anglais, - gradient%2Ddescent%20method

Fiche 4,  Justifications,  Français

Record number: 4, Textual support number: 1 CONT

Dans une autre classe de méthodes d’apprentissage par descente de gradient, un signal de renforcement est une mesure probabiliste de la performance du réseau.  1, fiche 4, Français, - m%C3%A9thode%20d%26rsquo%3Bapprentissage%20par%20descente%20de%20gradient

Fiche 4,  Justifications,  Espagnol