DEMOS OF NEURAL NETWORK DESIGN Martnez Martelo Andrs David Universidad Tecnolgica de Bolvar, Cartagena de Indias. E-mail: adsmartinezmartelo@hotmail.

com

Simple Neuron and Transfer Functions La neurona de una sola entrada de la figura 1, muestra la entrada escalar p es multiplicada por el peso w para formar wp y enviarla a la sumatoria. La otra entrada es una constante 1, que es multiplicada por b y se une a la sumatoria. La salida de la sumatoria es referida a una funcin de transferencia que produce una neurona escalar de salida a.

Figura 1. Neurona de nica Entrada

Algunas de las funciones de transferencias son:

Figura 2. Funciones de Transferencias Los parmetros escalares de las neuronas como el peso w, b y la funcin de transferencia se pueden ajustar con el fin de cumplir alguna regla de aprendizaje que mantenga una relacin de entrada/salida.

Neuron with Vector Input La neurona de varias entradas de la figura 3, las entradas p son clasificadas cada una individualmente con su peso correspondiente de la matriz w. La entrada b es sumada con las entradas de los pesos formando la red de entrada n, donde esta es referida a una funcin de transferencia, obteniendo como salida una red neuronal a.

Figura 3. Neurona con varias Entradas Los parmetros de las neuronas como el peso w, p, b y la funcin de transferencia se pueden ajustar con el fin de cumplir alguna regla de aprendizaje que mantenga una relacin de entrada/salida en la salida a.

Decision Boundaries En la figura 4, se puede experimentar con una demostracin de decision Boundaries que esta definido por: Ec.1: Podemos apreciar que el limite Boundaries siempre va a estar ortagonal a w, como se ve en la figura 4. Podemos seleccionar un decision boundaries para separar los circulos blancos de los negros. Los crculos negros equivalen a uno y los blancos a cero; y en la ventana se mostraran los diferentes valores de peso w y de b, para realizar los clculos manualmente. Se pueden crear nuevas situaciones agregando nuevos crculos al plano.

Figura 4. Lmites de decisin

Perceptron Learning Rule Perceptron learning rule es un mtodo de enseanza supervisado, lo cual requiere que sus resultados sean evaluados y se realicen las oportunas modificaciones del sistema si fuese necesario. El mtodo de aprendizaje es probado con un set de ejemplos del comportamiento adecuado de la red. Con cada entrada aplicada a la red, la salida es comparada con el objetivo. Este mtodo ajusta el peso w y b de la red para tener una salida deseada.

Figura 5. Regla de Aprendizaje Perceptron Al hacer clic en "Learn" se aplicar la regla perceptron a un nico vector. Al hacer clic en "Train" se aplicar la regla hasta 5 veces. Al clic en "random" se ajustarn los pesos a valores aleatorios. Al presionar Bias la funcin de salida deja de cortarse en el origen, mientras que al presionar No Bias esta estar en el origen. Se pueden crear nuevas situaciones agregando nuevos crculos al plano.

Classification with a 2-input perceptron Dos entradas limitada de una neurona est capacitado para clasificar cinco vectores de entrada en dos categoras. Cada uno de los cinco vectores columna de P define unos vectores de entrada de 2 elementos y una fila vector T define categoras de objetivos del vector. Podemos trazar estos vectores con PLOTPV. La red perceptron debe clasificar correctamente los vectores de entrada 5 de P en las dos categoras definidas por T. La red Perceptron tiene neuronas HARDLIM. Estas neuronas son capaces de separar un espacio de entrada con una lnea recta en dos categoras (0 y 1).

Figura 6. Clasificacin con 2 Entradas en una red Perceptron

Outlier input vector Aqu, dos entradas limitadas de una neurona estn capacitadas para clasificar los vectores de entrada en dos categoras. Sin embargo, debido a que 1 vector de entrada es mucho ms grande que todos los otros, la formacin tarda mucho ms tiempo.

Figura 7. Vectores de Entrada Atpicos Normalized perceptron rule En una Normalized perceptron rule, , dos entradas limitadas de una neurona limitada estar capacitado para clasificar los vectores de entrada en dos categoras. A pesar del hecho de que un vector de entrada es mucho ms grande que los otros, con la formacin LEARNPN es rpida.

Figura 8. Regla Perceptron Normalizda

Linearly non-separable vectors Aqu, 2-input hard limit neuron falla para clasificar adecuadamente los vectores de entrada porque son linealmente no separables. Cada uno de los cinco vectores columna de P define unos vectores de entrada de 2 elementos, y una fila vector T define categoras de objetivos del vector. A pesar de la formacin, el perceptron no se ha convertido en un clasificador aceptable. Slo es capaz de clasificar los datos linealmente separables es la limitacin fundamental de perceptrones.

Figura 9. Vectores lineales no separables Pattern association showing error surface Una neurona lineal est diseada para responder a las entradas especficas con salidas de destino. X define dos patrones de entrada un elemento (vector de la columna). T define los objetivos un elemento asociado (vectores de la columna). Es posible calcular los errores de las neuronas y con rango de posible peso. Se puede tambin dibujar la superficie error con contorno debajo de la trama. Mientras se tenga un mejor peso, resultar en un punto ms bajo de la superficie de error.

Figura 10. Patrn de Asociacin mostrando error en Superficie Training a linear neuron Una neurona lineal est entrenada para responder a las entradas especficas con salidas denominadas destino. X define dos patrones de entrada un elemento (vector de la columna). T define los objetivos un elemento asociado (vectores de la columna). Es posible calcular los errores de las neuronas con un rango de pesos posibles. Se puede graficar una superficie error con contorno debajo de la trama. A mejor peso, se resultar en el punto ms bajo de la superficie de error.

Figura 11. Entrenando a una neurona lineal

Linear classification system Al editar las cuadrculas rojas con los botones debajo de las cuadriculas verdes, se puede ver el medidor de salida responde a las nuevas entradas. Al editar las cuadrculas verdes y al hacer clic en "Train" se puede estudiar un problema diferente. Se pueden usar diferentes patrones verdes como entrada haciendo clic en los botones de flecha. La grafica Errors muestra la suma del error cuadrtico en funcin del ciclo de entrenamiento, mientras que Test Output muestra la seal de salida.

Figura 12. Clasificacin de Sistema Lineales

10