Multiplicadores de Lagrange

En los problemas de optimizacin, el mtodo de los multiplicadores de Lagrange,

llamados as en honor a Joseph Louis Lagrange, es un procedimiento para encontrar los
mximos y mnimos de funciones de mltiples variables sujetas a restricciones. Este
mtodo reduce el problema restringido con n variables a uno sin restricciones de n + k
variables, donde k es igual al nmero de restricciones, y cuyas ecuaciones pueden ser
resueltas ms fcilmente. Estas nuevas variables escalares desconocidas, una para cada
restriccin, son llamadas multiplicadores de Lagrange. El mtodo dice que los puntos
donde la funcin tiene un extremo condicionado con k restricciones, estn entre los
puntos estacionarios de una nueva funcin sin restricciones construida como una
combinacin lineal de la funcin y las funciones implicadas en las restricciones, cuyos
coeficientes son los multiplicadores.
La demostracin usa derivadas parciales y la regla de la cadena para funciones de varias
variables. Se trata de extraer una funcin implcita de las restricciones, y encontrar las
condiciones para que las derivadas parciales con respecto a las variables independientes
de la funcin sean iguales a cero.
Introduccin
Consideremos un caso bidimensional. Supongamos que tenemos la funcin, f (x, y), y
queremos maximizarla, estando sujeta a la condicin:

donde c es una constante. Podemos visualizar las curvas de nivel de f dadas por

para varios valores de d
n
, y el contorno de g dado por g(x, y) = c. Supongamos que
hablamos de la curva de nivel donde g = c. Entonces, en general, las curvas de nivel de f
y g sern distintas, y la curva g = c por lo general intersecar y cruzar muchos
contornos de f. En general, movindose a travs de la lnea g=c podemos incrementar o
disminuir el valor de f. Slo cuando g=c (el contorno que estamos siguiendo) toca
tangencialmente (no corta) una curva de nivel de f, no se incrementa o disminuye el
valor de f. Esto ocurre en el extremo local restringido y en los puntos de inflexin
restringidos de f.
Un ejemplo familiar puede ser obtenido de los mapas climatolgicos, con sus curvas de
nivel de presin y temperatura (isbaras e isotermas respectivamente): el extremo
restringido ocurrir donde los mapas superpuestos muestren curvas que se tocan.
Geomtricamente traducimos la condicin de tangencia diciendo que los gradientes de f
y g son vectores paralelos en el mximo. Introduciendo un nuevo escalar, , resolvemos
[f(x, y) - (g(x, y) c)] = 0
para 0.
Una vez determinados los valores de , volvemos al nmero original de variables y as
continuamos encontrando el extremo de la nueva ecuacin no restringida.

de forma tradicional. Eso es, para todo (x, y) satisfaciendo la
condicin porque es igual a cero en la restriccin, pero los ceros de F(x,
y) estn todos en .
El mtodo de los multiplicadores de Lagrange
Sea f (x) una funcin definida en un conjunto abierto n-dimensional {x R
n
}. Se
definen s restricciones g
k
(x) = 0, k=1,..., s, y se observa (si las restricciones son
satisfechas) que:

Se procede a buscar un extremo para h

lo que es equivalente a

Demostracin

Los multiplicadores desconocidos
k
se determinan a partir de las ecuaciones con las
restricciones y conjuntamente se obtiene un extremo para h que al mismo tiempo
satisface las restricciones (i.e. g
k
=0), lo que implica que f ha sido optimizada
El mtodo de multiplicadores de Lagrange es generalizado por las condiciones de
Karush-Kuhn-Tucker.
Ejemplos
Ejemplo #1
Supongamos que queremos encontrar la distribucin probabilstica discreta con mxima
entropa. Entonces


Podemos usar los multiplicadores de Lagrange para encontrar el punto de mxima
entropa (dependiendo de las probabilidades). Para todo k desde 1 hasta n, necesitamos

lo que nos da

Derivando estas n ecuaciones, obtenemos

Esto muestra que todo p
i
es igual (debido a que depende solamente de ). Usando la
restriccin
k
p
k
= 1, encontramos

Esta (la distribucin uniforme discreta) es la distribucin con la mayor entropa.
Ejemplo #2
Determinar los puntos en la esfera que estn ms cercanos al
punto
la distancia al punto :

para hacer ms sencilla la operacin se maximiza o minimiza el cuadrado de la
distancia:


la restriccin:
De acuerdo con el mtodo de los multiplicadores de Lagrange, se resuelven las
ecuaciones " " y " " y el resultado es:
(1)
(2)
(3)
(4)
la manera ms sencilla de resolver estas ecuaciones es dejar x, y, z en funcin de y
luego sustituimos en la ecuacin (4).
de la ecuacin (1) obtenemos se observa que 1 por que si no se
puede realizar la operacin.
lo mismo sucede con la ecuacin (2) y (3)


sustituyendo en la ecuacin (4)

se obtiene que
y entonces los puntos (x, y, z) son :

y
se puede observar que el punto ms cercano entonces es
Ejemplo #3 (restricciones mltiples)

Restricciones:


Aplicar el mtodo:



Entonces:













Por lo tanto, los puntos crticos son:


Bastar entonces evaluar la funcin en esos puntos para determinar que:

por lo que en ambos puntos tiene un mximo si est restringida de esta manera.
Criterio de la segunda derivada para Extremos con Restriccin
El caso bidimensional
Como en el caso no restringido en el que usamos la matriz Hessiana y el criterio de
Sylvester para determinar la naturaleza de los puntos crticos, en presencia de
multiplicadores de Lagrange existe un mtodo anlogo para descubrir si un punto crtico
v
0
es mximo, mnimo, o punto silla.
Sea f:U
2
y g:U
2
dos curvas suaves de clase C
2
. Sea v
0
U tal que g(v
0
)=
c y sea S el conjunto de nivel de g con valor c. Asumimos que g(v
0
)0 y existe un
nmero real tal que f(v
0
) = g(v
0
). Para la funcin auxiliar h = f - g tenemos la
matriz hessiana limitada:
evaluada en v
0

1. Si |H|>0 entonces v
0
es un mximo local en f limitada a S
2. Si |H|<0 entonces v
0
es un mnimo local en f limitada a S
3. Si |H|=0 entonces el criterio no concluye nada
El caso n-dimensional
Anlogamente al caso bidimensional, consideramos el caso n-dimensional, Sea
f:U
n
y g:U
n
dos curvas suaves de clase C
2
. Sea v
0
U tal que g(v
0
)= c y
sea S elconjunto de nivel de g con valor c. Asumimos que g(v
0
)0 y existe un nmero
real tal que f(v
0
) = g(v
0
). Para la funcin auxiliar h = f - g construimos la
matriz hessiana limitada:
evaluada en v
0

Examinamos los determinantes de las submatrices en la diagonal de orden mayor o
igual a 3:
1. Si todos ellos son mayores que 0, tenemos un mnimo local en v
0

2. Si el primer subdeterminante de tamao 3x3 es mayor que cero, el siguiente (el de
4x4) es menor que cero, y de esa manera los subdeterminantes van alternando su
signo, tenemos un mximo local en v
0

3. Si todos los subdeterminantes son distintos de cero, pero no siguen ninguno de los dos
patrones anteriores, tenemos un punto silla en v
0

4. Si no se da ninguno de los tres casos anteriores, el criterio no concluye nada