CONTROL INTELIGENTE

ACTIVIDAD #10

MARTES 9 DE JUNIO DEL 2015

Mejoras al Aprendizaje del Perceptrn Multicapa mediante

Retropropagacin y Por Descenso Ms Pronunciado de Una
Red Neuronal Con Patrones XOR.

Marcelo lvarez
Wladimir Daz
Mauricio Huacho
Richard Robles

RED NEURONAL CON PATRONES XOR

El factor de aprendizaje es el mismo para todos los pesos.

Iniciar el factor de aprendizaje con un valor y doblarlo cada poca. Esto conduce
a una actualizacin preliminar de los pesos.

El Error medio cuadrtico MSE se calcula para los pesos actualizados que
corresponden a la tasa de aprendizaje actual.

Si el MSE no decrece con esta tasa de aprendizaje, los pesos retornan a sus
valores originales, la tasa de aprendizaje se reduce a la mitad y se contina el
entrenamiento.

Si el MSE todava no decrece, se parte el factor de aprendizaje a la mitad

repetidamente hasta encontrar una tasa de aprendizaje que reduzca el MSE.

El factor de aprendizaje es doblado otra vez y se inicia un nuevo paso.

El proceso se repite una y otra vez. La bsqueda contina en esta forma y

termina dentro de un nmero predefinido de pocas de entrenamiento.

Si la disminucin en el error con respecto al paso previo es ms pequea que

un nivel especificado
o si el valor del factor de aprendizaje
cae bajo
un lmite especificado el proceso se detiene.
y

son definidos por el usuario.

Ejercicio 1
De acuerdo al enunciado, dibuje un diagrama de flujo que resuelva el aprendizaje de una
red neuronal por descenso ms pronunciado.

Ejercicio 2
Transcriba el cdigo para considerar que El Error medio cuadrtico MSE se calcula para
los pesos actualizados que corresponden a la tasa de aprendizaje actual. Indique como su
cdigo considera la idea de que si el MSE no decrece los pesos deben retornar a sus
valores iniciales.

Actualizacionpreliminardelospesos
pre_w01=w01+dw01;
pre_w02=w02+dw02;
pre_w11=w11+dw11;
pre_w12=w12+dw12;
pre_w21=w21+dw21;
pre_w22=w22+dw22;
pre_ws0=ws0+dws0;
pre_ws1=ws1+dws1;
pre_ws2=ws2+dws2;
fori=1:4%hastalongituddein1
sumap1=w01+w11*in1(i)+w21*in2(i);
y1=1/(1+exp(alfa*sumap1));
sumap2=w02+w22*in2(i)+w12*in1(i);
y2=1/(1+exp(alfa*sumap2));
suma=ws0+ws1*y1+ws2*y2;
z=1/(1+exp(alfa*suma));
error=((1/2)*(targ(i)z)^2);
MSE_actual=MSE_actual+error;
end
ifMSE_actual>=MSE
n=n/2;

El Error medio cuadrtico MSE se calcula para los pesos

actualizados que corresponden a la tasa de aprendizaje
actual. Si el MSE no decrece con esta tasa de aprendizaje, los
pesos retornan a sus valores originales, la tasa de aprendizaje
se reduce a la mitad y se contina el entrenamiento.

Ejercicio 3
Escriba las lneas de cdigo que toman en cuenta la idea de que: Si el MSE no decrece con
esta tasa de aprendizaje, los pesos retornan a sus valores originales, la tasa de aprendizaje
se reduce a la mitad y se contina el entrenamiento. Si el MSE todava no decrece, se parte
el factor de aprendizaje a la mitad repetidamente hasta encontrar una tasa de aprendizaje
que reduzca el MSE. En este punto el factor de aprendizaje es doblado otra vez y se inicia
un nuevo paso.

for j=1:1000
.
.
.
% Comparacin MSEN<MSE se actualizan pesos y n al doble
if MSEN<MSE
n=2*n; %el factor de aprendizaje es doblado
w01=pre_w01;
w02=pre_w02;
w11=pre_w11;
w12=pre_w12;
w21=pre_w21;
w22=pre_w22;
ws0=pre_ws0;
ws1=pre_ws1;
ws2=pre_ws2;
MSE=MSEN;
% Caso contrario, MSEN>=MSE se mantienen pesos y n a la mitad
else
n=n/2; %el factor de aprendizaje a la mitad
end
.
.
.
% Continua con la instruccin for hasta finalizar las pocas
end

Ejercicio 4
Escriba
el
cdigo
que
resuelve
la
idea
final
del
enunciado:
La bsqueda contina en esta forma y termina dentro de un nmero predefinido de
pocas de entrenamiento. Si la disminucin en el error con respecto al paso previo es ms
pequea que un nivel especificado o si el valor del factor de aprendizaje cae bajo un lmite
especificado el proceso se detiene.

E(j)=MSE;
ifMSE<E_min||n<n_min
break;
end

Ejercicio 5
Presente los resultados obtenidos en dos grficos: el error en cada poca y la funcin de
la red neuronal versus las entradas. Realice la corrida del programa por varias veces y
determine la efectividad de la convergencia: Nmero de veces que converge/Nmero de
corridas

CALCULO DE EFECTIVIDAD

Considerando el nmero de veces que ejecutamos el

cdigo y el nmero de convergencias producidas
tenemos:

Este clculo puede variar.