14/02/13

6.1 MATLAB: Neural Network Toolbox.

Captulo 6
Captulo I
6 Simuladores de Redes Neuronales. 6.1 MATLAB: Neural Network Toolbox. 6.2 NeuroSolutions. 6.3 SNNS. Evaluacin

Simuladores de redes neuronales.

MATLAB: Neural Network Toolbox. 5.1.1 Introduccin. Los tcnicos profesionales por todo el mundo confan en MATLAB acelera su investigacin, condensa el tiempo invertido en el anlisis y desarrollo, reduce costos del proyecto, y produce soluciones eficaces. El ambiente de MATLAB fomenta la creatividad y le permite probar y comparar rpidamente alternativas mltiples. Consecuentemente, usted produce soluciones mejores Los usuarios han encontrado que la combinacin de la interfaz de MATLAB, el lenguaje, y las funciones incorporadas de las matemticas y de los grficos hace a MATLAB la plataforma preferida para programar, comparado a C, al FORTRAN, y a otros lenguajes.

Diagrama 7 Matlab 5.1.2 Caractersticas Generales. MATLAB maneja una gama de tareas computacionales que se usan en la ingeniera y la ciencia, de la adquisicin de datos y del anlisis, al desarrollo. El ambiente de MATLAB integra procesador matemtico, la visualizacin, y un lenguaje tcnico de gran alcance. Las interfaces incorporadas le permiten tener acceso rpidamente e importar datos a los instrumentos, de los archivos, y de las bases de datos y de los programas externos. Adems, MATLAB le deja integrar las rutinas externas escritas en C, C++, el FORTRAN, y Java con sus usos de MATLAB. Caractersticas Dominantes El procesador numrico para los resultados rpidos y exactos Grficos para visualizar y para analizar sus datos Ambiente interactivo del lenguaje y de programacin
hugo-inc.net16.net/RNA/Unidad 6/6.1.html 1/8

14/02/13

6.1 MATLAB: Neural Network Toolbox.

Herramientas para construir GUIs de encargo

Interfaces a las lenguajes externos, tales como C, C++, FORTRAN, y Java Ayuda para los datos de importacin de archivos y de dispositivos externos y para usar el archivo bajo I/O (ms el acceso a las bases de datos y al hardware adicional va productos adicionados) Conversin de los usos de MATLAB a C y a C++ con la habitacin del recopilador Este amplio sistema de capacidades hace de MATLAB una base de origen ideal para los lquidos de revelado de los problemas tcnicos. El ambiente de MATLAB se disea para el cmputo interactivo o automatizado. Usando las funciones incorporadas de las matemticas y de los grficos y las herramientas fciles de utilizar, usted puede analizar y visualizar sus datos en marcha. Las herramientas estructuradas del lenguaje y la programacin le dejan los resultados de sus exploraciones interactivos y desarrollan sus propios algoritmos y usos. Que es MATLAB? El de MATLAB es una lengua de alto rendimiento para un proceso computacional tcnico. Integra el cmputo, la visualizacin, y la programacin en un ambiente fcil de utilizar donde los problemas y las soluciones se expresan en la notacin matemtica familiar. Las aplicaciones tpicas incluyen: Matemticas y cmputo Desarrollo de algoritmo El modelar, simulacin, y el prototipo Anlisis de datos, exploracin, y visualizacin Grficos cientficos y de ingeniera Desarrollo del uso, incluyendo el edificio grfico del interfaz utilizado MATLAB es un sistema interactivo con un elemento de datos bsico, es un arsenal que no requiere el dimensioning. Esto permite que usted solucione muchos problemas tcnicos, especialmente sos con formulaciones de matriz y de vector, en una fraccin del tiempo que tomara para escribir un programa en una lengua no interactivo escalar tal como C o FORTRAN.

El nombre MATLAB est dado por el laboratorio de la matriz . MATLAB fue escrito originalmente para proporcionar el acceso fcil al software de la matriz desarrollado por los proyectos de LINPACK y de EISPACK. Hoy, el software de las aplicaciones de MATLAB se convirti por los proyectos de LAPACK y de ARPACK, que juntos representan el estado plus ultra en el software para el cmputo de la matriz. MATLAB se ha desarrollado durante aos con la entrada de muchos usuarios. En ambientes de la universidad, es la herramienta educacional estndar para los cursos introductorios y avanzados en matemticas, la ingeniera, y la ciencia. En industria, MATLAB es la herramienta de la opcin para la investigacin, el desarrollo, y el anlisis de altaproductividad. MATLAB ofrece una familia de las soluciones de aplicacin especifica (application-specific) llamadas las cajas de herramientas . Muy importante para la mayora de los usuarios de MATLAB, las cajas de herramientas permite que usted aprenda y que aplique tecnologa especializada. Las cajas de herramientas son colecciones comprensivas
hugo-inc.net16.net/RNA/Unidad 6/6.1.html 2/8

14/02/13

6.1 MATLAB: Neural Network Toolbox.

de las funciones de MATLAB (M-archivos) que extienden el ambiente de MATLAB para solucionar clases particulares de problemas. Las reas en las cuales las cajas de herramientas estn disponibles incluyen el proceso de seal, sistemas de control, redes neuronales, lgica difusa, la simulacin, y muchos otras. El Sistema de MATLAB El sistema de MATLAB consiste en cinco porciones principales: Ambiente Del Desarrollo. ste es el sistema de las herramientas y de las instalaciones que le ayudan a utilizar funciones y archivos de MATLAB. Muchas de estas herramientas son interfaces grficas. Incluye el tablero del escritorio de MATLAB y la ventana del comando, una historia del comando, y los browsers para la visin, el espacio de trabajo, los archivos, y el camino de bsqueda en un fichero. La Biblioteca Matemtica De la Funcin de MATLAB. sta es una coleccin extensa de algoritmos de cmputo que se extienden de funciones elementales como la suma, seno, coseno, y la aritmtica compleja, a funciones ms sofisticadas como lo contrario de la matriz, valores propios de la matriz, las funciones de Bessel, y transformada rpida de Fourier. El Lenguaje de MATLAB. Este es un lenguaje de alto nivel de matrix/array con declaraciones de control del flujo, funciones, las estructuras de datos, la entrada-salida, y las caractersticas de programacin orientadas al objeto. Permite la creacin rpida de pequeos programas desechables, y tambin crear programas completos de uso grande y complejo. Manejador Graphics. ste es el sistema de los grficos de MATLAB. Incluye los comandos de alto nivel para la visualizacin de los datos, el proceso de imagen, la animacin, y los grficos de dos dimensiones y tridimensionales de la presentacin. Tambin incluye los comandos bajos as como los cuales permita que usted modifique completamente el aspecto para requisitos particulares de grficos para construir interfaces grficas completas en sus usos de MATLAB. El Application Program Interface de MATLAB (Api). sta es una biblioteca que permite que usted escriba los programas de C y del FORTRAN que trabajan recprocamente con MATLAB. Incluye las instalaciones para las rutinas que llaman de MATLAB (el ligamiento dinmico), llamando a MATLAB como motor de cmputo, y para los archivos de lectura y de escritura.

Descripcin de la caja de herramientas de redes neuronales (Neural Network Toolbox) La caja de herramientas de redes neuronales extiende el ambiente de aplicacin de MATLAB para proporcionar las herramientas para el diseo, la puesta en prctica, la visualizacin, y la simulacin de redes neuronales. Las redes neuronales son herramientas nicamente de gran alcance en usos donde estara difcil o imposible el anlisis formal, por ejemplo el reconocimiento de patrones y la identificacin y el control no lineales del sistema. La caja de herramientas de redes neuronales proporciona la ayuda comprensiva para muchos paradigmas probados de la red, as como una interfaz grfica que permita que usted disee y que maneje sus redes. El diseo modular, abierto, y extensible de la caja de herramientas simplifica la creacin de funciones y de redes modificadas para requisitos particulares. Caractersticas Dominantes
hugo-inc.net16.net/RNA/Unidad 6/6.1.html

Interfaz grfica (GUI) para crear, entrenar, y simular a sus redes neuronales
3/8

14/02/13

6.1 MATLAB: Neural Network Toolbox.

La ayuda para usuario lo ms comnmente posible arquitecturas de red supervisada y no supervisada. Un sistema comprensivo de entrenamiento y de funciones de aprendizaje Una habitacin de los bloques del Simulink, as como la documentacin y demostraciones de los usos del sistema de control La generacin automtica de Simulink modelado de los objetos de la red neuronal Representacin modular de la red, permitiendo un nmero ilimitado de la entrada que fija capas, e interconexiones de la red Funciones pre y de proceso del bias para mejorar el entrenamiento de la red y determinar el funcionamiento de la red Rutinas para mejorar la generalizacin Funciones de la visualizacin para el funcionamiento de la red neuronal

5.1.3. Construccin de redes neuronales. Creacin de una red neuronal (newff) El primer paso del entrenamiento de una red neuronal es crear la red. La funcin newff crea una red con conexin hacia adelante. Esta funcin requiere de cuatro parmetros y regresa un objeto del tipo red: La primera entrada es una matriz de (p-1)2 XR de mnimos y mximos valores por cada uno de los elementos (p-1) de el vector de entrada. La segunda entrada es un arreglo con el tamao de cada capa. La tercera entrada es un arreglo con los nombres de las funciones de transferencia que se van a usar en cada capa. La ltima entrada contiene el nombre del algoritmo de entrenamiento que se va a utilizar.

Por ejemplo el siguiente comando crea una red de dos capas. Tendr un vector de entrada con dos elementos (p-1 = 2), tres neuronas en la primera capa (L-1 = 3) y una neurona en la segunda capa (salida) (m = 1).

La funcin de transferencia en la primera capa ser la tansig, y la funcin de transferencia en la capa de salida ser lineal. Los valores para el primer elemento del vector de entrada estarn en el rango de -1 y 2, los valores del segundo elemento del vector de entrada estar en el rango de 0 y 5, esto es, la matriz XR es de la forma siguiente: XR = [-1 2; 0 5]; Y la funcin de entrenamiento ser traingd (la cual describiremos ms adelante).
hugo-inc.net16.net/RNA/Unidad 6/6.1.html 4/8

14/02/13

6.1 MATLAB: Neural Network Toolbox.

net=newff(XR,[L-1,m],'tansig','purelin','traingd'); Este comando crea un objeto del tipo red y tambin inicializa los pesos y el bias de la red, usando por default el comando (initnw). Por lo tanto la red esta lista para ser entrenada. Inicializacin de pesos (init, initnw, rands) Si necesitas re- inicializar, o cambiar la inicializacin por default de los pesos, utiliza el comando init: net=init(net); Esta funcin toma como entrada un objeto de tipo red y regresa un objeto de tipo red con los pesos y bias inicializados. Esta funcin es invocada por el comando newff y usa el algoritmo de Nguyen-Widrow. Si, por ejemplo, queremos re-inicializar los pesos y los bias en la primera capa de forma aleatoria, usando la funcin rands, debemos usar los siguientes comandos:
ntlyr{}iiFn='ntb; e.aes1.ntc iiw' ntiptegt{,}iiFn='ad' e.nuWihs11.ntc rns; ntbae{,}iiFn='ad' e.iss11.ntc rns; ntbae{,}iiFn='ad' e.iss21.ntc rns; nt=ii(e) e ntnt;

5.1.4. Simulacin de Redes Neuronales.

Simulacin (sim)
La funcin sim simula una red neuronal. La funcin sim toma la entrada de la red X, y el objeto red net, y regresa la salida de la red Y. Aqu se muestra como puede ser usado el comando simuff, para simular la red que creamos anteriormente para un vector de entrada simple:
x=[;] 12; a=smntx i(e,) a=-.01 011

Abajo, el comando sim es llamado para calcular las salidas para un vector de entrada de tres elementos.
X=[ 32241; 1 ; ] Y=smntX i(e,) Y= -.01 011 -.38 020 045 .95

Entrenamiento incrementado (adapt)

La funcin adapt es usada para entrenar redes en el modo de crecimiento (pattern). Esta funcin toma el objeto red, las entradas y los valores deseados para el entrenamiento, y regresa el objeto red entrenado con los valores de salida y errores de la red para los pesos y bias finales.

Entrenamiento Batch (train)

La alternativa para un entrenamiento en crecimiento es el entrenamiento batch, el cual es invocado usando la funcin train. En el modo batch los pesos y bias de la red son actualizados solo despus de haber concluido el entrenamiento en la red.
hugo-inc.net16.net/RNA/Unidad 6/6.1.html 5/8

14/02/13

6.1 MATLAB: Neural Network Toolbox.

Algunas de las funciones disponibles para el entrenamiento de tipo batch se listan en la tabla si guiente junto con un tiempo relativo de convergencia. Function Technique Time Epochs Mflops 2.50 0.56 0.70 0.99 0.75 0.59 0.75 1.02 0.46

traingdx Variable Learning Rate 57.71 980 trainrp Rprop 12.95 185 16.06 106 16.40 81 19.16 89 15.03 74 18.46 101 10.86 44 1.87 6

trainscg Scaled Conj. Grad. traincgf Fletcher-Powell CG traincgp Polak-Ribire CG traincgb Powell-Beale CG trainoss One-Step-Secant trainbfg BFGS quasi-Newton trainlm Levenberg-Marquardt

Lista de funciones Versin 4,0,1 Funciones del anlisis errsurf - superficie del error de la neurona de entrada maxlinlr mxima tarifa del aprendizaje para una capa lineal Funciones de inicializacin de la capa initnw - funcin de la inicializacin de la capa de Nguyen-Widrow initwb - funcin de inicializacin de los pesos y del bias. Funciones de aprendizaje learncon - funcin de aprendizaje diagonal de la conciencia learngd - funcin de aprendizaje del gradiente descendente learngdm - funcin de aprendizaje del gradiente con momentum learnh - funcin del aprendizaje de Hebb learnhd - Hebb con la funcin de aprendizaje descendente learnis - funcin de aprendizaje del peso de Instar learnk - funcin de aprendizaje Kohonen learnlv1 - funcin de aprendizaje LVQ1 learnlv2 - funcin de aprendizaje LVQ2 learnos - funcin de aprendizaje de Outstar learnp - funcin de aprendizaje del Perceptron learnpn - funcin normalizada de aprendizaje del perceptron learnsom - funcin de aprendizaje del mapa de auto-organizacin learnwh - regla de aprendizaje de Widrow-Hoff Funciones de la bsqueda de la lnea srchbac - bsqueda de la vuelta hacia atrs srchbre - interpolacin de la combinacin de la seccin de oro y
hugo-inc.net16.net/RNA/Unidad 6/6.1.html 6/8

14/02/13

6.1 MATLAB: Neural Network Toolbox.

cuadrtica de Brent srchcha - interpolacin cbica de Charalambous srchgol - bsqueda de la seccin oro srchhyb - bsqueda del hbrido bisection/cubic Creacin redes red - crea una red neuronal newc - crea una capa competitiva newcf - crea una red conexin hacia adelante backpropagation newelm - crea una red de Elman backpropagation newff - crea una red feed-forward backpropagation newfftd - crea un red feed-forward de entrada retrasada backpropagation newgrnn - disea una red neuronal generalizada de regresin newhop - crea una red recurrente de Hopfield newlin - crea una capa lineal newlind - disea una capa lineal newlvq - crea una red de cuantizacin del vector de aprendizaje newp - crea un perceptron newpnn - disea una red probabilistica newrb - disea una red de base radial newrbe - disea una red de base radial exacta newsom - crea un mapa de auto-organizacin Funciones de inicializacin de la red initlay - funcin de inicializacin de la red capa por capa Funciones del error mae - funcin absoluta del error mse funcin cuadrtica media del error msereg funcin de regularizacin de ajuste del error medio sse funcin que ajusta la suma del error Funciones para graficar hintonw - grfico de Hinton de la matriz del peso hintonwb - grfico de Hinton de la matriz del peso y del vector bias plotbr grafica el funcionamiento de la red del diagrama para el entrenamiento bayesian de la regularizacin plotes - traza una superficie del error de una sola neurona de entrada plotpc - traza la lnea en diagrama del vector de clasificacin del perceptron plotpv diagrama de los vectores input/target del perceptron plotep - traza una posicin del peso-bias respecto a una superficie de error plotperf diagrama del funcionamiento de la red plotsom diagrama del mapa de auto-organizacin plotv diagrama de los vectores de origen como lneas plotvec diagrama de los vectores con diversos colores Funciones de entrenamiento trainb - entrenamiento con regla de aprendizaje de la hornada del peso y del bias trainbfg - backpropagation quasi-Newton de BFGS trainbr - regularizacin bayesiana trainc - funciones ascendentes de entrenamiento cclico traincgb - backpropagation conyugal del gradiente de Powell-Beale traincgf - backpropagation conyugal del gradiente de Fletcher-Powell traincgp - backpropagation conyugal del gradiente de Polak-Ribiere traingd - backpropagation de la pendiente del gradiente traingdm - pendiente del gradiente con el backpropagation del mpetu traingda - pendiente del gradiente con el backpropagation adaptativo del lr traingdx - pendiente w/momentum y backpropagation adaptativo del gradiente del lr trainlm - backpropagation de Levenberg-Marquardt trainoss - backpropagation secante de un solo paso trainr - funciones ascendentes del entrenamiento w/learning al azar trainrp - backpropagation resistente (Rprop) trains - funciones incrementales del entrenamiento w/learning secuencial
hugo-inc.net16.net/RNA/Unidad 6/6.1.html 7/8

14/02/13

6.1 MATLAB: Neural Network Toolbox.

trainscg - backpropagation conyugal del gradiente descendente Funciones de transferencia compet - funcin de transferencia competitiva hardlim - funcin de transferencia escalon hardlims - funcin de transferencia de limite simtrica logsig - funcin de transferencia sigmoidal poslin - funcin de transferencia lineal positiva purelin - funcin de transferencia lineal radbas - funcin de transferencia de base radial satlin - saturacin de la funcin de transferencia lineal satlins - funcin de transferencia lineal de saturacin simtrica softmax - funcin de transferencia mxima suave tansig - funcin de transferencia sigmoidea de la tangente hiperblica tribas - funcin de transferencia de base triangular Simulacin redes sim - simula una red neuronal init - inicializa una red neuronal adap - permite que una red neuronal se adapte train - entrena a una red neuronal disp - exhibe las caractersticas de una red neuronal exhibit - exhibe el nombre y las caractersticas de una variable de la red neuronal Funciones del peso dist - funcin euclidiana de la distancia del peso dotprod - funcin del producto de punto del peso mandist - funcin de la distancia de Maniatan del peso negdist - funcin del producto de punto del peso normprod - funcin normalizada del producto de punto del peso Funciones de inicializacin de los pesos y bias initcon - funcin de inicializacin diagonal de la conciencia initzero - funcin de inicializacin a cero de weight/bias randnc - funcin de inicializacin normalizada de la columna del peso randnr - funcin de inicializacin normalizada de la fila del peso rands - funcin de inicializacin simtrica al azar de weight/bias

hugo-inc.net16.net/RNA/Unidad 6/6.1.html

8/8