La descente de gradient
Minimiser une fonction en suivant la pente : dérivée et gradient, règle de mise à jour, choix du pas, convergence, oscillation et divergence, minimum local et critère d'arrêt.
- 24 cartes
- 5 thèmes
- Gratuit
Le programme, thème par thème
Le poids de chaque thème suit celui que lui donne l'examen.
- Notions
- Questions
- Ranger et relier
- Les chiffres
- Les courbes
Quelques cartes du deck
Descente de gradient : de quoi s'agit-il ?
Voir la réponse
Méthode qui cherche un minimum en partant d'un point et en se déplaçant à chaque étape dans le sens où la fonction décroît le plus vite.
La règle est x ← x − pas × f′(x) pour une variable. Elle ne demande que la pente locale, pas la forme complète de la fonction.
f(x) = x² − 4x, pas 0,25, départ x = 6. Quel est le point après une itération ?
- x = 4
- x = 8
- x = 5,75
- x = −2
Voir la réponse
x = 4
f′(x) = 2x − 4, donc f′(6) = 8. Le nouveau point est 6 − 0,25 × 8 = 4. Oublier le signe moins donne 6 + 2 = 8 ; oublier le pas donne 6 − 8 = −2 ; oublier la dérivée donne 6 − 0,25 = 5,75.
À chaque itération, le nouveau point vaut l'ancien … le pas multiplié par la … en l'ancien point.
Voir la réponse
À chaque itération, le nouveau point vaut l'ancien moins le pas multiplié par la dérivée en l'ancien point.
Si la pente est positive, la fonction monte vers la droite : on recule, donc le signe moins. Si elle est négative, on avance vers la droite.