Multiplicateur de Lagrange

En mathématiques, et plus particulièrement en analyse, la méthode des multiplicateurs de Lagrange permet de trouver les points stationnaires (maximum, minimum…) d'une fonction dérivable d'une ou plusieurs variables, sous contraintes^[1].

On cherche à trouver l'extremum, un minimum ou un maximum, d'une fonction φ de n variables à valeurs dans les nombres réels, ou encore d'un espace euclidien de dimension n, parmi les points respectant une contrainte, de type ψ(x) = 0 où ψ est une fonction du même ensemble de départ que φ. La fonction ψ est à valeurs dans un espace euclidien de dimension m. Elle peut encore être vue comme m fonctions à valeurs réelles, décrivant m contraintes.

Si l'espace euclidien est de dimension 2 et si la fonction ψ est à valeurs dans ℝ, correspondant à une contrainte mono-dimensionnelle, la situation s'illustre par une figure analogue à celle de droite. La question revient à rechercher le point situé le plus haut, c'est-à-dire le maximum de φ, dans l'ensemble des points rouges, c'est-à-dire ceux qui vérifient la contrainte. Le point recherché est celui où la courbe rouge ne monte ni ne descend. En termes techniques, cela correspond à un point où la différentielle de ψ possède un noyau orthogonal au gradient de φ en ce point. La méthode du multiplicateur de Lagrange offre une condition nécessaire. Les fonctions φ et ψ sont différentiables et leurs différentielles continues ; on parle de fonction de classe C¹.

On considère λ un vecteur pris dans l'ensemble d'arrivée de ψ et la fonction L définie par :

${\displaystyle L(x,\lambda )=\varphi (x)+\lambda \cdot \psi (x).}$

Cette fonction est parfois appelée le lagrangien.

L'opérateur représenté par un point est ici le produit scalaire. Si x₀ est une solution recherchée, on montre qu'il existe un vecteur λ₀ tel que la fonction L admet une différentielle nulle au point (x₀, λ₀). Les coordonnées du vecteur λ₀^[2] — ou parfois du vecteur opposé^[3],[4] — sont appelées multiplicateurs de Lagrange. Cette technique permet de passer d'une question d'optimisation sous contrainte à une optimisation sans contrainte, celle de la fonction L, dans un espace de dimension n + m.

Soit v₀ un nombre strictement positif. L'objectif est de trouver la portion de cylindre de rayon r et de hauteur h de surface minimale (couvercles compris) et de volume v₀. Pour cela on définit deux fonctions, v et s qui à (r, h) associent respectivement le volume et la surface de la portion de cylindre. On dispose des égalités

${\displaystyle \forall r,h\in \mathbb {R} _{+}\quad v(r,h)=\pi r^{2}h\quad {\text{et}}\quad s(r,h)=2\pi r(r+h).}$

La figure de droite représente la fonction s, qui à r et h associe la surface. La ligne bleue correspond aux points de volume égal à 1. L'objectif est de trouver le point bleu, de plus petite surface pour un volume égal à 1. La fonction s n'est autre que la fonction φ du préambule. La fonction ψ et la fonction L sont définies par :

${\displaystyle \forall r,h\in \mathbb {R} _{+}\quad \psi (r,h)=v(r,h)-v_{0}\quad {\text{et}}\quad \forall \lambda \in \mathbb {R} \quad L(r,h,\lambda )=s(r,h)+\lambda \psi (r,h).}$

La méthode de Lagrange consiste à rechercher un point tel que la différentielle de L soit nulle. Sur un tel point, la dérivée partielle par rapport à λ est nulle, ce qui signifie que la fonction ψ est nulle, ou encore que la contrainte est respectée. Si l'on identifie s avec son approximation linéaire tangente, son comportement sur la contrainte, aussi identifiée à son approximation linéaire tangente, est aussi nécessairement nulle à partir de l'ordre 1. Ce comportement est illustré par la droite en vert sur la figure. Le long de cette droite, la fonction ψ est nulle, et le terme d'ordre 1 de la fonction s l'est alors nécessairement.

Il suffit, en conséquence, de calculer la différentielle de L, et plus précisément ses trois dérivées partielles, pour l'exemple choisi :

${\displaystyle {\frac {\partial L}{\partial r}}=2\pi (h+2r+\lambda hr)=0,\;{\frac {\partial L}{\partial h}}=\pi (2r+\lambda r^{2})=0,\;{\frac {\partial L}{\partial \lambda }}=\pi r^{2}h-v_{0}=0.}$

On trouve les valeurs suivantes :

${\displaystyle r=-{\frac {2}{\lambda }}=\left({\frac {v_{0}}{2\pi }}\right)^{1/3},\;h=-{\frac {4}{\lambda }}=2\left({\frac {v_{0}}{2\pi }}\right)^{1/3}\;{\text{et}}\;\lambda =-2\left({\frac {2\pi }{v_{0}}}\right)^{1/3}.}$

Autrement dit :

${\displaystyle h=2r\;}$ et ${\displaystyle \;v_{0}=\pi r^{2}h}$, d'où ${\displaystyle s=6\pi r^{2}}$.

Cet exemple possède l'avantage d'une représentation graphique simple, guidant l'intuition. En revanche, la méthode du multiplicateur de Lagrange n'est pas nécessaire dans ce cas : on peut simplement exprimer la valeur de h pour que le volume du cylindre respecte la contrainte imposée au volume v₀. On trouve :

${\displaystyle h={\frac {v_{0}}{\pi r^{2}}}.}$

En « injectant » cette contrainte dans l'équation décrivant l'aire, il vient :

${\displaystyle s=2\pi r^{2}+{\frac {2v_{0}}{r}}}$

et il suffit de trouver la valeur de r minimisant cette fonction pour trouver la solution. De même qu'avec le multiplicateur de Lagrange, on trouve :

${\displaystyle h=2r.}$

Pour se convaincre de la pertinence de la méthode, on peut rechercher le triangle d'aire maximale et de périmètre p, choisi strictement positif. D'après la formule de Héron, si (x, y, z) est le triplet des longueurs des côtés du triangle, son aire A est égale à :

${\displaystyle A={\frac {1}{4}}{\sqrt {(x^{2}+y^{2}+z^{2})^{2}-2(x^{4}+y^{4}+z^{4})}}.}$

Il est plus simple de maximiser la fonction φ qui associe à (x,y,z) quatre fois le carré de A. La contrainte est donnée par la fonction ψ qui associe au triangle la différence du périmètre et de p :

${\displaystyle \varphi (x,y,z)={\frac {1}{4}}\left[(x^{2}+y^{2}+z^{2})^{2}-2(x^{4}+y^{4}+z^{4})\right]\quad {\text{et}}\quad \psi (x,y,z)=x+y+z-p.}$

Un triangle n'est défini, pour un triplet (x, y, z), que si les trois coordonnées sont positives et si la somme de deux coordonnées est supérieure à la troisième. Soit D cet ensemble de points. Sur la frontière de D, la fonction φ est nulle. On cherche un point de l'intérieur de D tel que φ soit maximal dans l'ensemble des points d'image par ψ nulle. Comme l'intersection de l'image réciproque de 0 par ψ et de D est un compact, il existe au moins un maximum. On définit comme dans l'exemple précédent la fonction L par :

${\displaystyle L(x,y,z,\lambda )=\varphi (x,y,z)+\lambda \,\psi (x,y,z).}$

On cherche x, y, z strictement positifs et λ tels que la différentielle de L soit nulle. Un calcul de dérivée partielle montre que ce quadruplet est solution du système d'équations :

${\displaystyle \left\{{\begin{aligned}{\frac {\partial L}{\partial x}}&=x(-x^{2}+y^{2}+z^{2})+\lambda =0,\quad {\frac {\partial L}{\partial y}}=y(x^{2}-y^{2}+z^{2})+\lambda =0,\quad {\frac {\partial L}{\partial z}}=z(x^{2}+y^{2}-z^{2})+\lambda =0\\{\frac {\partial L}{\partial \lambda }}&=x+y+z-p=0.\end{aligned}}\right.}$

On vérifie alors que la seule solution est ${\displaystyle x=y=z={\frac {p}{3}}}$, correspondant au triangle équilatéral.

Remarque

L'objectif est ici d'illustrer la méthode du multiplicateur de Lagrange. On a trouvé le maximum d'une fonction φ dans l'intérieur de D, sous la contrainte définie par ψ. Si l'objectif est uniquement de résoudre le problème isopérimétrique pour le triangle, une solution plus simple est donnée dans l'article sur l'isopérimétrie.

Soient E et F deux espaces vectoriels réels de dimensions respectives n et m avec n plus grand que m. Soit φ une fonction de E dans ℝ, que l'on cherche à minimiser : on cherche un point a tel que φ(a) soit le plus petit possible. Soit ψ une fonction de E dans F, définissant la contrainte. L'ensemble sur lequel on travaille est G, correspondant aux points x tels que ψ(x) = 0.

Si (e₁, … , e_n) est une base de E, chaque point x de E s'exprime comme une combinaison linéaire des éléments de la base :

${\displaystyle x=\sum _{i=1}^{n}x_{i}e_{i}.}$

Cette remarque permet de voir les fonctions φ et ψ de deux manières. Elles peuvent être vues comme des fonctions d'une unique variable x de E, ce qui rend l'écriture plus concise et favorise une compréhension plus simple, mais plus abstraite des mécanismes en jeu. Les applications peuvent aussi être vues comme fonctions de n variables x₁, … , x_n, ce qui présente une rédaction plus lourde mais plus aisée pour les calculs effectifs. L'espace F est de dimension m. Si (f₁, … , f_m) est une base de F, la fonction ψ peut aussi être vue comme m fonctions de n variables :

${\displaystyle \forall \,x\in E,\quad \psi (x)=\sum _{j=1}^{m}\psi _{j}(x)f_{j}}$

ou encore

${\displaystyle \forall \,(x_{1},\ldots ,x_{n})\in \mathbb {R} ^{n},\quad \psi (x_{1},\cdots ,x_{n})=\sum _{j=1}^{m}\psi _{j}(x_{1},\cdots ,x_{n})f_{j}.}$

L'ensemble G peut être vu comme une unique contrainte exprimée par une fonction à valeurs dans F ou encore comme m contraintes exprimées par les égalités ψ_j(x) = 0, à valeurs réelles.

Les fonctions φ et ψ sont de classe C¹, ce qui signifie qu'elles sont différentiables, autrement dit elles admettent chacune une application linéaire tangente en chaque point. Le terme C¹ signifie aussi que les applications qui, à un point associent les différentielles, soit de φ soit de ψ, sont continues.

L'optimum recherché vérifie une propriété analogue à celle du théorème de Rolle. Un corollaire de ce théorème, illustré à gauche, indique que l'optimum, un maximum ou un minimum, s'il se situe dans l'intervalle ouvert ]a, b[, possède une tangente horizontale, ce qui signifie encore que sa différentielle est nulle. C'est un résultat de cette nature qui est recherché. On peut le visualiser sur la figure de droite, si n et m sont respectivement égaux à 2 et à 1. On représente φ (noté f sur la figure de droite) en bleu par ses courbes de niveau, comme les géographes. Les flèches représentent le gradient de la fonction φ. La différentielle de φ en un point est une application linéaire de E dans ℝ, c'est-à-dire une forme duale. Il est d'usage de considérer E comme un espace euclidien, de choisir la base de E orthonormale et d'identifier la différentielle avec le vecteur de E qui représente la forme duale. Dans ce cas, l'approximation linéaire tangente s'écrit :

${\displaystyle \forall x,h\in E\quad \varphi (x+h)=\varphi (x)+\mathrm {grad} \,\varphi (x)\cdot h+o(h)\quad {\text{avec}}\quad \mathrm {grad} \,\varphi (x)=\sum _{i=1}^{n}{\frac {\partial \varphi }{\partial x_{i}}}e_{i}.}$

La lettre o désigne un petit o selon la notation de Landau et le point entre le gradient de φ et h symbolise le produit scalaire. Le vecteur gradient est orthogonal à la courbe de niveau, dans le sens des valeurs croissantes de φ et de norme proportionnelle à la vitesse d'accroissement de φ dans cette direction. La contrainte vérifie une propriété analogue puisqu'elle est aussi différentiable. L'ensemble étudié est celui des valeurs x telles que ψ(x) est nul. Si x₀ est élément de G, les points voisins de x₀ dans G ont aussi une image nulle par ψ, autrement dit, l'espace tangent à G au point x₀ est formé par les accroissements h de x₀ qui ont une image nulle par la différentielle de ψ. La direction de l'espace tangent est le noyau de l'application différentielle de ψ. Une analyse par les fonctions coordonnées ψ_i exprime ce résultat en indiquant que l'espace tangent est l'intersection des hyperplans orthogonaux des gradients des ψ_i.

Une analyse au point optimal x₀ recherché indique, en approximation du premier ordre, qu'un déplacement h dans la direction de l'espace tangent à G ne peut pas accroître la valeur de φ. Ceci signifie que le déplacement h est nécessairement orthogonal au gradient de φ en x₀. C'est ainsi que se traduit le théorème de Rolle, dans ce contexte. Géométriquement, cela signifie que la courbe de niveau bleue et la ligne rouge sont tangentes au point recherché. Analytiquement cela se traduit par le fait que le noyau de la différentielle de ψ en x₀ est orthogonal au gradient de φ en ce point.

Il est peut-être utile, à ce stade, de fournir une approche intuitive du théorème, en se donnant un exemple ayant valeur générale. Considérons donc comme précédemment une fonction différentiable φ(x, y, z) de ℝ³ dans ℝ , dont on se propose de trouver les extrema sous l'unique contrainte ψ(x,y,z) = 0, avec ψ: ℝ³ → ℝ différentiable. On verra ensuite comment s'y prendre pour deux contraintes.

Rappelons d'abord que la différentielle de φ en un point M de l'espace s'écrit

${\displaystyle d\varphi ={\frac {\partial \varphi }{\partial x}}dx+{\frac {\partial \varphi }{\partial y}}dy+{\frac {\partial \varphi }{\partial z}}dz}$,

soit en notant φ' le vecteur ${\displaystyle ({\frac {\partial \varphi }{\partial x}},{\frac {\partial \varphi }{\partial y}},{\frac {\partial \varphi }{\partial z}}),}$

${\displaystyle d\varphi =\varphi '(M)\cdot (dx,dy,dz)=\varphi '(M)\cdot dM.}$

L'interprétation bien connue de ces relations est qu'un déplacement infinitésimal de vecteur dM au point M induit une variation infinitésimale de la fonction φ, égale au produit scalaire de φ' (appelé vecteur gradient de φ) avec dM.

Considérons maintenant la contrainte ψ(x,y,z) = 0, qui définit une surface S dans l'espace, tout au moins localement^[5]. Il est clair que le problème revient à trouver les points extremum de la restriction de φ à S. La différentielle de ψ en un point M de l'espace s'écrit, comme précédemment,

${\displaystyle d\psi =\psi '(M)\cdot dM.}$

Cette relation est en particulier vraie si le point M est sur S. Mais supposons de plus qu'on astreigne le déplacement infinitésimal dM à s'effectuer sur S ; alors puisque ψ est identiquement nulle sur S, il en est de même de sa variation infinitésimale sur S, et dM devra donc vérifier la relation

${\displaystyle \psi '(M)\cdot dM=0.}$

Vu que dM est quelconque sur S, cela signifie que ψ'(M) est orthogonal à S au point M.

Maintenant, si la restriction de φ à S est extrémale au point M (ce que l'on cherche), alors pour tout déplacement infinitésimal dM en M s'effectuant sur S, la variation infinitésimale correspondante de φ devra être nulle: on peut se contenter de ressentir ce fait, ou bien de s'appuyer sur l'homologie avec les fonctions d'une seule variable réelle, ou encore de le justifier formellement en considérant des courbes paramétrées sur S passant par M et de vecteur dérivé en M proportionnel à dM^[6].

Mathématiquement, cela signifie que

${\displaystyle \varphi '(M)\cdot dM=0,\quad dM\ {\text{sur}}\ S.}$

Ainsi, φ'(M) doit être orthogonal à dM, tout comme l'est ψ'(M) d'après ce qu'on a vu plus haut. Il revient au même de dire que φ'(M) est colinéaire à ψ'(M)^[7], ou bien

${\displaystyle \varphi '(M)=\lambda \psi '(M)\quad {\text{avec}}\quad \lambda \in \mathbb {R} .}$

On peut écrire cette relation sous la forme

${\displaystyle \varphi '(M)-\lambda \psi '(M)=0={\text{grad}}(\varphi -\lambda \psi )(M).}$

Cette équation, alliée avec l'équation de contrainte originale ψ(M) = 0, constitue la méthode des multiplicateurs de Lagrange.

Dans le cas de deux contraintes ψ₁(M) = 0 et ψ₂(M) = 0, on a une intersection de deux surfaces de contraintes, c'est-à-dire une courbe 𝒞 en général. Le problème revient cette fois à chercher les extrema de la restriction de φ à 𝒞. Le même raisonnement que précédemment s'applique, mais dM sera cette fois astreint à appartenir à 𝒞, c'est-à-dire à être orthogonal au sous-espace T engendré par les vecteurs ψ'₁(M) et ψ'₂(M). Donc les points extremum seront les points M tels que φ'(M) ∈ T, ou bien

${\displaystyle \varphi '(M)=\lambda _{1}\psi '_{1}(M)+\lambda _{2}\psi '_{2}(M).}$

Comme précédemment, la méthode des multiplicateurs de Lagrange s'ensuit immédiatement.

Le même raisonnement s'applique dans les espaces euclidiens de dimension n > 3, ou la fonction objectif est soumise à au plus n–1 équations de contraintes à n variables: il suffit de remplacer la notion de "surface" par celle d'"hyperplan".

Le problème à résoudre est de trouver le minimum suivant :

${\displaystyle \forall x\in E\quad \min _{x\in G}\varphi (x)\quad {\text{avec}}\quad G=\{x\in E\mid \psi (x)=0\}.}$

Les fonctions φ et ψ ne sont pas nécessairement définies sur tout E mais au moins sur des ouverts de E, où elles sont supposées différentiables, avec Dψ(x₀) surjective^[8].

Plus simplement : au point x₀, le noyau de Dψ(x₀) est inclus dans celui de Dφ(x₀), c'est-à-dire, d'après les propriétés des formes linéaires : Dφ(x₀) est une combinaison linéaire de Dψ₁(x₀), … , Dψ_m(x₀), où les ψ_j sont les composantes de ψ dans une base de F (voir supra). Autrement dit^[2],[3] :

${\displaystyle \exists (\lambda _{j})\in \mathbb {R} ^{m}\quad \mathrm {D} \varphi (x_{0})+\sum _{j=1}^{m}\lambda _{j}\,\mathrm {D} \psi _{j}(x_{0})=0}$.

Cette formulation plus simple^[9] met en évidence le multiplicateur. Si l'on souhaite la réécrire en termes de gradients, il est nécessaire d'équiper F du produit scalaire tel que sa base soit orthonormale, le symbole ^t signifie la transposée d'une application linéaire ; elle définit une application du dual de F, ici identifié à F dans le dual de E, encore identifié à E :

Sous forme de coordonnées, on obtient :

${\displaystyle \exists (\lambda _{j})\in \mathbb {R} ^{m}\quad \mathrm {grad} \;\varphi (x_{0})+\sum _{j=1}^{m}\lambda _{j}\,\mathrm {grad} \;\psi _{j}(x_{0})=0.}$

Un deuxième corollaire est plus pragmatique, car il offre une méthode effective pour déterminer l'extremum. Il correspond à la méthode utilisée dans l'exemple introductif.

Ces théorèmes possèdent quelques faiblesses, de même nature que celle du théorème de Rolle. La condition est nécessaire, mais pas suffisante. Un point de dérivée nulle pour Rolle ou vérifiant les hypothèses du théorème du multiplicateur de Lagrange n'est pas nécessairement un maximum ou un minimum. Ensuite, même si ce point est un extremum, il n'est que local. Si une solution x₀ est trouvée, rien n'indique que cet extremum local est le meilleur. L'approximation linéaire ne précise pas si cet optimum est un maximum ou un minimum. Enfin, comme pour le cas du théorème de Rolle, si les domaines de définition ne sont pas ouverts, il est possible qu'un point frontière soit un optimum qui ne vérifie pas le théorème. Ainsi, sur la figure de gauche, f(a) et f(b) sont des minima mais la dérivée n'est nulle ni en a, ni en b.

Si l'écriture condensée permet de mieux comprendre la structure du théorème, les notations développées sont plus utiles pour une résolution effective. Dans la pratique, on considère souvent une fonction φ de ℝⁿ dans ℝ et m fonctions ψ_j, avec j variant de 1 à m, aussi de ℝⁿ dans ℝ. L'entier m est nécessairement plus petit que n pour pouvoir appliquer les théorèmes du paragraphe précédent. On cherche à trouver un n-uplet (a₁, … , a_n) tel que

${\displaystyle (1)\quad \varphi (a_{1},\cdots ,a_{n})=\min _{(x_{i})\in G}\varphi (x_{1},\cdots ,x_{n})\quad {\text{avec}}\quad G=\{(x_{i})\in \mathbb {R} ^{n}\mid \forall j\in [1,m]\;\psi _{j}(x_{1},\cdots ,x_{n})=0\}.}$

Pour cela, on définit la fonction L de ℝ^n+m dans ℝ par :

${\displaystyle \forall (x_{i})\in \mathbb {R} ^{n},\;\forall (\lambda _{j})\in \mathbb {R} ^{m}\quad L(x_{1}\cdots ,x_{n},\lambda _{1},\cdots ,\lambda _{m})=\varphi (x_{1},\cdots ,x_{n})+\sum _{j=1}^{m}\lambda _{j}\psi _{j}(x_{1},\cdots ,x_{n}).}$

Le deuxième corollaire indique une condition nécessaire pour élucider le problème d'optimisation (1). Le n-uplet (a₁, … , a_n) est une solution de (1) seulement s'il existe un m-uplet (α₁, … , α_m) tel que le (n + m)-uplet (a₁, … , a_n, α₁, … , α_m) soit solution des n + m équations :

${\displaystyle \forall i\in [\![1,n]\!]\quad {\frac {\partial \varphi }{\partial x_{i}}}(x_{1},\cdots ,x_{n})+\sum _{j=1}^{m}\lambda _{j}{\frac {\partial \psi _{j}}{\partial x_{i}}}(x_{1},\cdots ,x_{n})=0\quad {\text{et}}\quad \forall j\in [\![1,m]\!]\quad \psi _{j}(x_{1},\cdots ,x_{n})=0.}$

Cette méthode peut être généralisée aux problèmes d'optimisation incluant des contraintes d'inégalités (ou non linéaires) en utilisant les conditions de Kuhn-Tucker. Mais également sur des fonctions discrètes à maximiser ou minimiser sous contraintes, moyennant un changement d'interprétation, en utilisant la méthode des multiplicateurs d'Everett (ou de Lagrange généralisés), plus volontiers appelée méthode des pénalités.

La méthode du multiplicateur de Lagrange permet de démontrer l'inégalité arithmético-géométrique^[14]. On définit les applications φ et ψ de ℝ₊ⁿ dans ℝ par :

${\displaystyle \forall (x_{i})\in \mathbb {R} _{+}^{n},\quad \varphi (x_{1},\cdots x_{n})=\prod _{i=1}^{n}x_{i}\quad {\text{et}}\quad \psi (x_{1},\cdots x_{n})=\left(\sum _{i=1}^{n}x_{i}\right)-s,\quad s\in \mathbb {R} _{+}^{*}.}$

On remarque que l'ensemble G, composé des n-uplets de coordonnées positives et de somme égale à s est un compact de ℝⁿ. Sur ce compact la fonction φ est continue, et donc elle admet nécessairement un maximum. Les deux fonctions φ et ψ sont bien de classe C¹, il est donc possible d'utiliser le multiplicateur de Lagrange pour trouver ce maximum. Pour cela, on considère la fonction L :

${\displaystyle \forall (x_{i})\in \mathbb {R} _{+}^{n},\forall \lambda \in \mathbb {R} \quad L(x_{1},\cdots ,x_{n},\lambda )=\varphi (x_{1},\cdots ,x_{n})+\lambda \psi (x_{1},\cdots ,x_{n}).}$

Une solution vérifie les équations :

${\displaystyle \forall i\in [\![1,n]\!]\quad {\frac {\partial L}{\partial x_{i}}}(x_{1},\cdots x_{n},\lambda )=0\Leftrightarrow \prod _{k\neq i}x_{k}=-\lambda \quad {\text{et}}\quad \sum _{i=1}^{n}x_{i}=s.}$

On en déduit l'existence d'une unique solution, obtenue pour tous les x_i égaux à s/n = x et λ égal à –(s/n)^n–1, ce qui s'exprime, en remplaçant s par sa valeur :

${\displaystyle \forall (x_{i})\in \mathbb {R} _{+}^{n}\quad {\sqrt[{n}]{\prod _{i=1}^{n}x_{i}}}\leq {\frac {\sum _{i=1}^{n}x_{i}}{n}}.}$

La moyenne géométrique est inférieure à la moyenne arithmétique, l'égalité n'ayant lieu que si les x_i sont tous égaux.

Le multiplicateur de Lagrange offre une démonstration alternative de l'inégalité arithmético-géométrique.

La méthode se généralise aux espaces fonctionnels. Un exemple est donné par la question de la chaînette, qui revient à rechercher la position que prend, au repos, une chaînette attachée à ses deux extrémités. L'optimisation correspond à la position offrant un potentiel minimal, la contrainte est donnée par la position des extrémités et la longueur de la chaînette, supposée fixe. Cette méthode permet de trouver des plus courts chemins sous contrainte, ou encore des géodésiques. Le principe de Fermat ou celui de moindre action permet de résoudre de nombreuses questions à l'aide de cette méthode.

Considérons donc une chaînette soumise à la gravité et recherchons son équilibre statique. La chaînette est de longueur a et l'on suppose qu'elle est accrochée à deux points d'abscisses –t₀ et t₀ et d'ordonnée nulle en ces deux points. Si son ordonnée est notée x, elle suit une courbe y = x(t) sur l'intervalle [–t₀, t₀], dont on se propose de calculer l'équation.

Dire qu'elle est à l'équilibre revient à dire que son potentiel Φ est minimal, où :

${\displaystyle \Phi (x)=\int _{-t_{0}}^{t_{0}}\alpha x(t){\sqrt {1+\left({\frac {dx}{dt}}\right)^{2}}}\mathrm {d} t.}$

Ici, α désigne une constante physique, en l'occurrence le produit de la gravitation terrestre g par la masse linéique de la chaînette, supposée constante. La formule donnant la longueur d'un arc en fonction d'un paramétrage est donnée dans l'article Longueur d'un arc.

La chaînette n'est pas supposée être élastique, elle vérifie donc la contrainte Ψ, indiquant que sa longueur l₀ n'est pas modifiée :

${\displaystyle \Psi (x)=\int _{-t_{0}}^{t_{0}}{\sqrt {1+\left({\frac {dx}{dt}}\right)^{2}}}\mathrm {d} t-l_{0}=0.}$

Si C¹_K(I) désigne l'ensemble des fonctions de [–t₀, t₀] dans ℝ, dérivables et de dérivées continues, nulles en –t₀ et t₀, le problème revient à rechercher la fonction x₀ telle que

${\displaystyle \Phi (x_{0})=\min _{x\in G}\Phi (x)\quad {\text{avec}}\quad G=\{x\in {\mathcal {C}}_{K}^{1}(I)\mid \Psi (x)=0\}.}$

La similitude avec la situation précédente est flagrante. Pour pouvoir appliquer des multiplicateurs de Lagrange, il faut donner un sens aux gradients de Φ et Ψ. Dans le cas où il existe deux fonctions de classe C² de ℝ³ dans ℝ, notées φ et ψ, telles que

${\displaystyle \Phi (x)=\int _{-t_{0}}^{t_{0}}\varphi \left(t,x,{\dot {x}}\right)\mathrm {d} t\quad {\text{et}}\quad \Psi (x)=\int _{-t_{0}}^{t_{0}}\psi \left(t,x,{\dot {x}}\right)\mathrm {d} t,\quad {\text{avec}}\quad {\frac {dx}{dt}}(t)={\dot {x}}(t).}$

L'équation d'Euler-Lagrange affirme que

${\displaystyle \mathrm {grad} \,\Phi (x)={\frac {\partial \varphi }{\partial x}}-{\frac {\mathrm {d} }{\mathrm {d} t}}\left({\frac {\partial \varphi }{\partial {\dot {x}}}}\right)\quad {\text{et}}\quad \mathrm {grad} \,\Psi (x)={\frac {\partial \psi }{\partial x}}-{\frac {\mathrm {d} }{\mathrm {d} t}}\left({\frac {\partial \psi }{\partial {\dot {x}}}}\right).}$

Dans le cas particulier où les fonctions φ et ψ sont des fonctions de deux variables et ne dépendent pas de t, on obtient la formulation de Beltrami (cf. l'article « Équation d'Euler-Lagrange ») :

${\displaystyle \mathrm {grad} \,\Phi (x)\cdot {\dot {x}}={\frac {d}{dt}}\left(\varphi -{\frac {\partial \varphi }{\partial {\dot {x}}}}{\dot {x}}\right)={\frac {d}{dt}}\left({\frac {\alpha x}{\sqrt {1+{\dot {x}}^{2}}}}\right)\quad {\text{et}}\quad \mathrm {grad} \,\Psi (x)\cdot {\dot {x}}={\frac {d}{dt}}\left(\psi -{\frac {\partial \psi }{\partial {\dot {x}}}}{\dot {x}}\right)={\frac {d}{dt}}\left({\frac {1}{\sqrt {1+{\dot {x}}^{2}}}}\right).}$

Dire que les deux gradients sont colinéaires revient à dire qu'il existe un réel λ, le multiplicateur de Lagrange, tel que

${\displaystyle \mathrm {grad} \,\Phi (x)-\lambda \mathrm {grad} \,\Psi (x)=0\;\Rightarrow \;{\frac {d}{dt}}\left({\frac {\alpha x-\lambda }{\sqrt {1+{\dot {x}}^{2}}}}\right)=0\quad {\text{et}}\quad \exists k\in \mathbb {R} \quad \alpha x-\lambda =k{\sqrt {1+{\dot {x}}^{2}}}.}$

La résolution de cette équation différentielle est une chaînette. La méthode du multiplicateur de Lagrange permet bien de résoudre la question posée^[15].

Hugh Everett généralise la méthode aux fonctions non dérivables, souvent choisies convexes. Pour une résolution effective, il devient nécessaire de disposer d'un algorithme déterminant l'optimum (ou les optima) d'une fonction. Dans le cas non dérivable, on peut utiliser une heuristique adéquate ou encore une méthode de Monte-Carlo.

Il faut ensuite réviser pour l'itération suivante les multiplicateurs (ou « pénalités ») de façon appropriée, et c'est là que se situe l'apport essentiel d'Everett : il mémorise les jeux de multiplicateurs utilisées lors des deux dernières itérations, et sépare en trois les résultats pour chaque contrainte. Selon que sur les deux dernières itérations il y a eu rapprochement de l'objectif, ou encadrement, ou encore éloignement (à cause de l'effet des autres multiplicateurs), chaque multiplicateur est ajusté pour l'itération suivante d'une façon qui garantit la convergence si une relation entre les trois ajustements, qu'il fournit, est observée.

L'exemple précédent montre que le contexte de l'équation d'Euler-Lagrange n'est pas loin de celui du multiplicateur de Lagrange. Si l'ensemble de départ de la fonction x(t) recherchée est un intervalle réel I ouvert et borné et l'ensemble d'arrivée E l'espace vectoriel euclidien, la généralisation est relativement aisée.

On suppose l'existence d'une fonction Φ à minimiser, son ensemble de départ est un espace fonctionnel, c'est-à-dire un espace vectoriel de fonctions, de I dans E et son ensemble d'arrivée ℝ. La fonction Φ est construite de la manière suivante :

${\displaystyle \Phi (x)=\int _{I}\varphi (t,x,{\dot {x}})\mathrm {d} t.}$

Le point sur le x indique la fonction gradient, qui à t associe le gradient de x au point t.

La fonction φ est une fonction de ℝ×E² dans ℝ de classe C². L'optimisation est sous contrainte, donnée sous une forme analogue à la précédente. On suppose l'existence d'une fonction Ψ de ℝ×E² dans F, un espace euclidien. La fonction Ψ est encore définie à l'aide d'une fonction ψ de classe C² de I×E², mais cette fois dans un espace euclidien F :

${\displaystyle \Psi (x)=\int _{I}\psi (t,x,{\dot {x}})\mathrm {d} t.}$

L'ensemble G est composé de fonctions deux fois dérivables de I dans E et dont l'image par Ψ est nulle. On suppose de plus que les valeurs des fonctions de G aux bornes de I sont fixes et, quitte à opérer une translation, on peut toujours supposer, sans perte de généralité, que ces fonctions sont nulles aux bornes de I.

La seule tâche un peu délicate est de définir l'espace vectoriel W^2,2(I, E) sur lequel opèrent Φ et Ψ. Pour définir un équivalent de gradient, cet espace comporte nécessairement un produit scalaire. Si l'on souhaite établir des théorèmes équivalents aux précédents, les fonctions dérivée et dérivée seconde sont définies et l'espace est complet. Un espace muni d'un produit scalaire et complet est un Hilbert. Sa géométrie est, de fait, suffisamment riche pour étendre les résultats précédents.

On note D l'espace des fonctions de I, à valeur dans E, de classe C^∞ et à support compact et D* son dual topologique. L'espace D est muni de la norme de la borne supérieure et l'espace D* est celui des distributions. Ce premier couple n'est pas encore satisfaisant car D est « trop petit » et D* « trop gros » pour permettre de définir un bon produit scalaire, à l'origine d'une géométrie aussi simple que celle d'un Hilbert.

L'espace D* contient l'espace de Hilbert L²(I, E) des fonctions de carré intégrable. En effet une fonction f de L²(I, E) agit sur D par le produit scalaire 〈∙, ∙〉_L défini par l'intégrale de Lebesgue :

${\displaystyle \forall g\in {\mathcal {D}}\quad \langle f,g\rangle _{L}=\int _{I}f(t)\cdot g(t)\mathrm {d} t.}$

C'est dans L²(I, E) que nous cherchons le bon espace. Dans cet espace, l'intégration par parties permet de définir la dérivée de la fonction f de L²(I). Comme g est à support compact et que I est ouvert, aux bornes de I, la fonction g est nulle. Si f est dérivable au sens classique du terme, on bénéficie des égalités :

${\displaystyle \langle {\dot {f}},g\rangle _{L}=\int _{I}{\dot {f}}(t)\cdot g(t)\mathrm {d} t={\Big [}f(t)\cdot g(t){\Big ]}_{I}-\int _{I}f(t)\cdot {\dot {g}}(t)\mathrm {d} t=-\int _{I}f(t)\cdot {\dot {g}}(t)\mathrm {d} t.}$

Si la distribution dérivée de f est encore d'un élément de L²(I, E), on dit qu'elle est dérivable au sens de Sobolev. Si cette dérivée est encore dérivable au sens précédent, on dit qu'elle est deux fois dérivable au sens de Sobolev. On note W^2,2(I, E) le sous-espace de L²(I, E) équipé du produit scalaire 〈∙, ∙〉_W suivant :

${\displaystyle \forall f,g\in W^{2,2}(I,E)\quad \langle f,g\rangle _{W}=\int _{I}f(t)\cdot g(t)\mathrm {d} t+\int _{I}{\dot {f}}(t)\cdot {\dot {g}}(t)\mathrm {d} t+\int _{I}{\ddot {f}}(t)\cdot {\ddot {g}}(t)\mathrm {d} t.}$

Les intégrales sont bien définies car elles correspondent au produit de deux éléments de L²(I, E). Il est ensuite simple de vérifier que l'espace est bien complet^[16]. Enfin, si f est une fonction dérivable au sens des distributions, il existe un représentant continu de f^[17]. Ainsi, tout élément de W^2,2(I, E) admet un représentant continu et dont la dérivée admet aussi un représentant continu.

La difficulté est maintenant d'exprimer le gradient des fonctions Φ et Ψ. L'équation d'Euler-Lagrange cherche dans un premier temps à trouver des fonctions de classe C² qui minimisent Φ. L'espace vectoriel sous-jacent est celui des fonctions d'un intervalle borné et de classe C² et nulles aux bornes de l'intervalle. Sur cet espace, le calcul du gradient de Φ n'est guère complexe, il donne aussi une idée de la solution ainsi que de la méthode pour y parvenir. En revanche, ce calcul est insuffisant dans le cas présent. Avec le « bon » produit scalaire, l'espace des fonctions de classe C² n'est pas complet, ce qui empêche de disposer de la bonne géométrie permettant de démontrer la méthode du multiplicateur de Lagrange.

L'objectif est de généraliser un peu la démonstration pour permettre de disposer de l'égalité du gradient dans l'espace complet W^2,2(I, E). Dans un premier temps, exprimons l'égalité qui définit la différentielle de Φ en un point x, qui représente une fonction de W^2,2(I, E) :

${\displaystyle \forall h\in W^{2,2}(I,E)\quad \Phi (x+h)=\Phi (x)+D\phi _{x}(h)+o(h).}$

L'application DΦ_x est une application linéaire continue de W^2,2(I, E) dans ℝ, c'est-à-dire un élément du dual topologique de W^2,2(I, E), que le produit scalaire permet d'identifier à W^2,2(I, E). L'égalité précédente devient :

${\displaystyle \forall h\in W^{2,2}(I,E)\quad \Phi (x+h)=\Phi (x)+\langle \mathrm {grad} \,\Phi _{x},h\rangle +o(h)=\Phi (x)+\int _{I}{\rm {grad}}\,\Phi _{x}(t)\cdot h(t)\mathrm {d} t+o(h).}$

Autrement dit, le gradient de Φ au point x est une fonction de L²(I, E) dans ℝ. De fait, ce gradient s'exprime à l'aide de l'équation d'Euler-Lagrange :

Le gradient de Φ au point x est la fonction de I dans E, définie par

${\displaystyle \mathrm {grad} \Phi _{x}={\frac {\partial \varphi }{\partial x}}-{\frac {\mathrm {d} }{\mathrm {d} t}}\left({\frac {\partial \varphi }{\partial {\dot {x}}}}\right).}$

Si la fonction φ est en général choisie au sens usuel de la dérivation, la fonction x(t) est une fonction de W^2,2(I, E). Le symbole d/dt doit être pris au sens de la dérivée d'une distribution, qui n'est ici nécessairement une fonction de carré intégrable, définie presque partout.

Pour Ψ, la logique est absolument identique, mais cette fois-ci, la fonction est à valeurs dans F. En conséquence, la dérivée partielle de ψ par rapport à sa deuxième ou troisième variable n'est plus une application linéaire de E dans ℝ mais de E dans F. Ainsi, la différentielle de Ψ au point, une fonction x de I dans E, est une application de I dans l'espace L(E, F) des applications linéaires de E dans F. La logique reste la même.

La différentielle de Ψ au point x est la fonction de I dans L(E, F) définie par

${\displaystyle D\Psi _{x}={\frac {\partial \psi }{\partial x}}-{\frac {\mathrm {d} }{\mathrm {d} t}}\left({\frac {\partial \psi }{\partial {\dot {x}}}}\right).}$

Ce paragraphe est très proche du précédent dans le cas de la dimension finie. Le problème à résoudre est de trouver le minimum suivant :

${\displaystyle \min _{x\in G}\Phi (x)\quad {\text{avec}}\quad G=\{x\in W^{2,2}(I,E)\mid \Psi (x)=0\quad {\text{et}}\quad x(a)=x(b)=0\}.}$

On obtient les mêmes corollaires, que l'on peut écrire :

Cette équation s'écrit encore :

${\displaystyle \exists (\lambda _{j})\in \mathbb {R} ^{m}\quad {\frac {\partial \varphi }{\partial x}}+\sum _{j=1}^{m}\lambda _{j}{\frac {\partial \psi _{j}}{\partial x}}={\frac {\mathrm {d} }{\mathrm {d} t}}\left({\frac {\partial \varphi }{\partial {\dot {x}}}}+\sum _{j=1}^{m}\lambda _{j}{\frac {\partial \psi _{j}}{\partial {\dot {x}}}}\right).}$

Le signe d/dt doit être pris au sens de la dérivée des distributions. On obtient une solution faible, c'est-à-dire une fonction x définie presque partout et dérivable dans un sens faible. En revanche, si une fonction x de classe C² est solution du problème de minimisation, comme ses dérivées premières et secondes sont des représentants de ses dérivées au sens faible, l'équation précédente est encore vérifiée.

On recherche la surface de plus grande aire, ayant une frontière de longueur égale à 2π. On remarque que la surface est nécessairement convexe, d'intérieur non vide. On considère une droite coupant la surface en deux. Cette droite est utilisée comme axe d'un repère orthonormal, dont les abscisses sont notées par la lettre t et les ordonnées par x. La frontière supérieure est paramétrable en une courbe x(t) et, si le repère est bien choisi, on peut prendre comme abscisse minimale –a et maximale a. On recherche alors une courbe x, définie entre –a et a tel que l'aire A soit maximale :

${\displaystyle A=\int _{-a}^{a}x(t)\,\mathrm {d} t.}$

On sait de plus que la demi-longueur de la frontière est égale à π :

${\displaystyle \int _{-a}^{a}{\sqrt {1+{\dot {x}}(t)^{2}}}\,\mathrm {d} t=\pi .}$

La recherche de la surface se traite aussi avec le multiplicateur de Lagrange. La même astuce que celle utilisée dans l'exemple introductif montre, avec les notations usuelles :

${\displaystyle \mathrm {grad} \,\Phi (x)\cdot {\dot {x}}={\frac {d}{dt}}\left(\varphi -{\frac {\partial \varphi }{\partial {\dot {x}}}}{\dot {x}}\right)={\frac {d}{dt}}x(t)\quad {\text{et}}\quad \mathrm {grad} \,\Psi (x)\cdot {\dot {x}}={\frac {d}{dt}}\left(\psi -{\frac {\partial \psi }{\partial {\dot {x}}}}{\dot {x}}\right)={\frac {d}{dt}}\left({\frac {1}{\sqrt {1+{\dot {x}}^{2}}}}\right).}$

On en déduit l'existence de valeurs λ et k telles que

${\displaystyle x-{\frac {\lambda }{\sqrt {1+{\dot {x}}^{2}}}}=k.}$

En notant u = x – k, on obtient :

${\displaystyle u^{2}(1+{\dot {u}}^{2})=\lambda ^{2}.}$

On trouve l'équation d'un demi-cercle de rayon λ ; la valeur λ est égale à 1 et k à 0^[18].

• Conditions de Kuhn-Tucker
• Conditions d'optimalité (dimension finie)

• (en) William P. Ziemer, Weakly differentiable functions : Sobolev spaces and functions of bounded variation, New York/Berlin/Paris etc., Springer, 1989, 308 p. (ISBN 0-387-97017-7)
• (en) B. D. Craven, « A generalization of Lagrange multipliers », Bull. Austral. Math. Soc., vol. 3,‎ 1970, p. 353-362 (lire en ligne)

• Portail de l'analyse