Professional Documents
Culture Documents
Autor(s)
Felipe Tolentino, Jesus
Garro Murillo, George
Meza Hinostroza, Kevin
Ochoa Goizueta, Omar
Ruelas Rojas, Leo
Lima Este-2014
.
1
Indice
1. Res
umen
2. Introduccion
3. Antecedentes
4. Objetivos
5. Problema
6. Marco Te
orico
6.1. Que es reconocimiento de patrones? . .
6.2. Enfoques del reconocimiento de Patrones
6.3. Procesamiento Digital de Imagenes . . .
6.4. Redes Neuronales Biologicas . . . . . .
6.5. Redes neuronales artificales . . . . . . .
6.6. Caractersticas de una RNA . . . . . . .
6.7. Proceso de Aprendizaje de una RNA . .
6.7.1. Sin entrenamiento . . . . . . . . .
6.7.2. Entrenamiento Supervisado . . .
6.7.3. Entrenamiento No Supervisado .
6.8. Arquitectura de una RNA . . . . . . . .
6.8.1. Capa Feed-Forward . . . . . . . .
6.8.2. Multi-Capa Feed-Forward . . . .
6.8.3. Red Recurrente . . . . . . . . . .
6.9. Tipos de Redes Neuronales: . . . . . . .
6.9.1. Red Perceptron . . . . . . . . . .
6.9.2. Red Hopfield . . . . . . . . . . .
6.9.3. Red backpropagation . . . . . . .
7. Metodologa
7.1. Representacion
7.2. Representacion
7.3. Representacion
7.4. Representacion
Teorica . .
en Mathlab .
en Java . . .
en Prolog . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
6
6
6
7
8
9
10
10
10
10
10
11
11
11
12
12
12
13
14
.
.
.
.
16
16
22
24
27
8. Resultados y discusi
on
29
9. Conclusiones
29
1.
Res
umen
2.
Introduccion
Gracias a la inteligencia artificial se han dado avances tecnologicos importantes que ayudan a resolver problemas, es interesante ver como funciona
el ser humano frente a diversas situaciones con las que se encuentra, relacionando hechos en forma de patrones, ademas de la forma en como se adapta
al realizar esas actividades.
Podemos incluso reconocer imagenes y letras aun cuando la informacion
no esta completa o se encuentre distorsionada. Esto es posible gracias al conocimiento y la experiencia que se tiene, no solo con la pura percepcion,
esto puede ser llevado hacia las computadoras orientandolo a resolver ciertos
problemas relacionados al manejo de conocimiento, dotando de esta maneara
un comportamiento similar al del ser humano frente a situaciones dadas. Actualmente mas del 50 % de las aplicaciones de la industria de la inteligencia
artificial es de Reconocimiento de Patrones. Clasificando un patron u objeto de prueba en una determinada categora, a fin de determinar la clase del
objeto con la informacion que se tiene sobre un conjunto conocido de objetos.
Para esto se debe entender los conceptos teoricos implicados en la inteligencia artificial, b
usqueda de soluciones, sistemas expertos, reconocimiento
de patrones y redes neuronales.
3.
Antecedentes
Seg
un Roldan Rueda, Manuel, en su proyecto: Implementacion Mediante
Matlab de un Sistema de Reconocimiento de Patrones por Redes Neuronales para la Inspeccion Visual de gajos de mandarina. Madrid, Espa
na. Nos
cuenta sobre el reconocimiento de patrones usando el software MatLab. Los
patrones se utilizaran a traves de una camara que detectara los gajos de
mandarina donde el objetivo es hacer una distincion y comparacion de ellos.
Tambien nos habla de una clasificacion con ndices de calidad en los gajos
para as obtener una emulacion de un sistema multievaluado de logica difusa.
Esta aplicacion sera u
nicamente para reconocimiento de patrones. Se ha realizado una comparacion de distintos tipos redes neuronales entre el n
umero
de nodos, capas, salidas y las funciones de activaciones pasando tambien por
los algoritmos de minimizacion de error. Se especulara y ejecutara su aplicacion en tiempo real.
Seg
un Huerta, Hugo Vega - Cortez Vasquez, Augusto - Huayna, Ana
Maria - Alarcon Loayza, Luis & Romero Naupari, Pablo, en su artculo: Reconocimiento de patrones mediante redes neuronales artificiale. Nos habla
sobre la importancia del reconocimiento de patrones en la identificacion de
materias referentes a alguna especie. Nos habla tambien sobre la metodologa
implementada para modelar una RNA para reconocer patrones, para ello se
debe establecer cuantas neuronas en total se identifican en la capa de salida.
Sin embargo sus funcionalidades, aplicaciones al entorno sistematico medico,
nos dice que tenemos que seguir pasos muy estrictos ya que si lo llevamos al
campo tendremos que analizar las salidas en cada red neuronal establecida
por lo cual pasan los datos y las funcionalidades.
4.
Objetivos
5.
Problema
6.
6.1.
Marco Te
orico
Qu
e es reconocimiento de patrones?
6.2.
6.3.
Procesamiento Digital de Im
agenes
6.4.
El sistema nervioso humano esta constituido por celulas llamadas neuronas las cuales representan una estructura muy compleja, se llega a estimar
que el n
umero de estas celulas es de 1011 y sus interconexiones son de 1015 .
Las redes neuronales biologicas tienen propiedades especiales para recibir,
procesar y transmitir se
nales electroqumicas a traves de todas las interconexiones de sistema de comunicacion del cerebro. [4]
6.5.
6.6.
6.7.
6.7.1.
Entrenamiento Supervisado
Entrenamiento No Supervisado
10
6.8.
6.8.1.
Esta arquitectura de red consta de una capa neuronas, los datos que van
a traves de este sistema es de izquierda a derecha, es decir del vector de
entrada al vector de salida de toda la red.
Multi-Capa Feed-Forward
11
6.8.3.
Red Recurrente
6.9.
6.9.1.
Fue dise
nada por primera vez en 1958 por Frank Rosenblatt para la neurona McCulloch y Pitts, utilizando las ideas de aprendizaje de Hebb. En
1962 publico los resultados de sus investigaciones para llevar sus clases de la
asignatura Theory of Brain Mechanisms. Esto mas tarde se vio opacada por
la publicacion de Marvin Minsky y Seymour Papert en su libro Perceptrons
realizada por el
(1969). Investigaciones en los 80 demostraron que la teorAa
libro estuvo incorrecta. [3]
El Perceptron es la representacion mas simple de un RNA. Se usa para
la clasificacion de patrones linealmente separables. Dentro de sus principales
caractersticas denota que requiere un aprendizaje supervisado, funcion de
transferencia escalon ademas de poder recibir valores de entrada reales y
salidas binarias o bipolares. [1]
12
Red Hopfield
Fue dise
nada por primera vez en 1982, producto de investigaciones recurrentes en el tema de Backpropagation, este tipo de red es favorable en temas
de procesado de voz, procesamiento de imagenes, memorias con tolerancia a
fallos y clasificacion de patrones. [3] La red de Hopfield es una red dinamica,
que al haber una nueva entrada, la salida es calculada y realimentada para
modificar la nueva entrada. Dicha recurrencia asegura la estabilidad al realizarlo de manera iterativa produciendo cambios en las salidas cada vez mas
peque
nos hasta lograr que las salidas sean constantes. [1]
Otros lo definen como una red de aprendizaje no supervisado que no realiza ning
un balanceo de carga de pesos, lo que hace al entrenar la red nos
de un resultado no muy optimo por lo que toca entrenar varias veces. [2]
Son redes de adaptacion probabilstica y recurrente. Aprenden a reconstruir los patrones de entrada que memorizan durante el entrenamiento.
Son modo capa con interconexion total y en la que el valor de salida
de cada unidad es binario (0 y 1) y siguen una regla de aprendizaje no
supervisado.
13
Red backpropagation
Seg
un (Bernacki & Wlodarczyk, 2004), se muestra una red neuronal con
una capa de neuronas de entrada, una capa intermedia u oculta y una capa
de salida. Todas las neuronas de cada capa deben estar conectadas a todas
las neuronas de la siguiente capa.
Al haber la limitacion de trabajar en una sola capa de la red neuronal
hubo unas limitaciones por varios a
nos por lo que se dejo de investigar en este
campo. El dise
no Backpropagation trajo consigo el interes de seguir investigando sobre las redes neuronales artificiales. Este tipo de red es un metodo
de entrenamiento de redes multicapa. Su principal caracterstica es su capacidad de entrenar capas ocultas. [4]
El termino Backpropagation fue mencionado por primera vez en 1974 por
Paul Werbos y reinventado por David Parker en 1982, y tambien estudiado
por Rumelhart, Hilton y Willians en 1986. Todos estos esfuerzos dieron resultados exitosos en este campo de aplicacion. [4]
Backpropagation utiliza tres o mas capas de unidades procesadoras. En
el ejemplo que se muestra a continuacion se ve como la capa de entrada
14
15
7.
Metodologa
7.1.
Representaci
on Te
orica
a) Para comprobar lo que nos dice la teora haremos uso de la Red Hopfield.
Primeramente hay que tener en cuenta algunas caractersticas claves de
como funciona la red. Una es que cada neurona de la red se encuentra
conectada con otra neurona menos consigo misma lo que origina pesos
simtricos.
La funcion de activacion de esta red es del tipo escalon, donde f(x) adopta
los siguientes valores:
16
Donde M es el n
umero de patrones a aprender, Ekt es la traspuesta de
la matriz Ek, e I la matriz identidad de dimensiones NxN que anula los
pesos de las conexiones autorrecurentes (wii).
c) Representamos los patrones a aprender en este caso sera la letra T y la
X, las que se daran de la siguiente forma:
17
18
19
21
7.2.
Representaci
on en Mathlab
b) Entrenamiento de la Red
22
23
7.3.
Representaci
on en Java
24
25
26
7.4.
Representaci
on en Prolog
27
28
8.
Resultados y discusi
on
9.
Conclusiones
En el trabajo realizado se estudio los distintos tipos de redes neuronales y los metodos utilizados en cada caso, identificando cierto grado
de complejidad en algunos casos. Las redes neuronales estas compuestas por unidades interconectadas con pesos asociados, para que la red
alcance un estado estable existen funciones de activacion.
Las redes mostradas se basan en las redes Hopfield y Perceptron seg
un
su arquitectura, simples, multicapa y recurrentes.
Actualmente existen muchas aplicaciones como alternativa de solucion
para las redes neuronales como la agrupacion, analisis de datos, reconocimiento facial y de voz, etc.
Para un procesamiento o reconocimiento optimo de una caracter o entrada en general es importante realizar al entrenamiento de la red o
brindar mas data si se trata de una red recurrente.
29
Referencias
[1] HUAMANI Navarrete, Pedro. Simulacion de Redes Neuronales con
Matlab [en lnea]. Lima, Per
u: Universidad Pontificia Catolica del
Per
u [fecha de consulta: 22 noviembre 2014].
Disponible en:http://congreso.pucp.edu.pe/mecatronica/wpcontent/uploads/sites/2/2013/07/Manual RedesNeuronales URP 02.pdf
[2] FEIJO, Luis. Aplicacion Para Reconocimiento De Caracteres A Traves
De Redes Neuronales. Loja, Ecuador: Universidad Tecnica Particular de
Loja [fecha de consulta: 21 de noviembre 2014].
Disponible en: http://es.slideshare.net/luisfe/reconocimiento-decaracteres-atravez-de-redes-neuronales
[3] BANDA Gamboa, Hugo. Inteligencia Artificial Principios y
Aplicaciones. Quito, Ecuador: Departamento de Informatica y Ciencias
de Computacion [fecha de consulta: 21 de noviembre 2014].
Disponible en:
http://www.academia.edu/4232917/INTELIGENCIA ARTIFICIAL
PRINCIPIOS Y APLICACIONESInformacion del Autor
[4] BASOGAIN Olabe, Xabier. Redes Neuronales Artificiales y sus
Aplicaciones. Bilbao, Espa
na: Escuela Superior de Ingeniera de Bilbao
[fecha de consulta: 10 noviembre 2014]
Disponible en:
http://www.ciberesquina.una.edu.ve:8080/2014 2/350 E.pdf
[5] VASQUEZ
Cortez, Augusto, HUERTA Vega, Hugo, HUAYNA Mara,
Loayza, Luis, ROMERO Naupari, Pablo.
Ana, ALARCON
Reconocimiento de patrones mediante redes neuronales artificiales. Lima,
Per
u: Universidad Mayor Nacional de San Marcos. [fecha de consulta: 20
noviembre 2014].
Disponible en:
http://sisbib.unmsm.edu.pe/bibvirtual/publicaciones/risi/2009 n2/v6n2/a03v6n2.pdf
[6] Reconocimiento de Patrones j.Kittler.2002 [fecha de consulta: 10
noviembre 2014]
Disponible en:http://www.fing.edu.uy/iie/ense/asign/recpat
material/sistemas rec patrones.pdf
[7] Sistemas Hbridos para el Reconocimiento de Patrones Roman Katz y
Claudio Delrieux. Universidad Nacional del Sur. [fecha de consulta: 22
noviembre 2014]
30
31