Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

EJE 4.

Lectura y elaboracin de textos

acadmicos

Unidad 3.

Estructura de los tipo de texto

Actividad 3. Evaluando mi texto acadmico

Tema:

Es seguro el uso de la
Inteligencia Artificial en las
mquinas?

Nombre del
aspirante.

Hctor Hugo Trujillo Snchez

Docente en
lnea.

Yssica Osorio Prez

Fecha de
entrega.

30/11/2015

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1
ndice

1. Introduccin.......................................................................................................3
2. Entre el beneplcito y la preocupacin..........................................................5
3. Un caso lamentable..........................................................................................9
4. Conclusin.......................................................................................................12

1. Introduccin
La inteligencia artificial (IA) puede definirse como el medio por el cual las
computadoras, los robots y otros dispositivos realizan tareas que normalmente
requieren de la inteligencia humana (Herrera, 1999).
En la siguiente figura se hace la diferenciacin en 4 categoras:

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1
Sistemas que piensan como
humanos
El nuevo y excitante esfuerzo de hacer
que los computadores piensen...
mquinas con mentes, en el ms
amplio sentido literal. (Haugeland,
1985)

Sistemas que piensan racionalmente

El estudio de las facultades mentales
mediante
el
uso
de
modelos
computacionales.
(Charniak
y
McDermott,
1985)

El estudio de los clculos que hacen

[La automatizacin de] actividades posible percibir, razonar y actuar.
que vinculamos con procesos de (Winslon, 1992)
pensamiento
humano,
actividades
como la toma de decisiones, resolucin
de problemas, aprendizaje... (BelImn,
1978)
Sistemas que actan como humanos

Sistemas que actan racionalmente

El arte de desarrollar mquinas con

capacidad para realizar funciones que
cuando son realizadas por personas
requieren de inteligencia. (Kurzweil,
1990)

La Inteligencia Computacional es el
estudio del diseo de agentes
inteligentes. (Poole et al., 1998)

IA... est relacionada con conductas

inteligentes en artefactos. (Nilsson,
El estudio de cmo lograr que los 1998)
computadores realicen tareas que, por
el momento, los humanos hacen
mejor. (Rich y Knight, 1991)
Figura 1 Definiciones de inteligencia artificial, organizadas en cuatro
categoras. (Russell, 2004)
La Inteligencia artificial (IA) puede ser vista tambin desde 2 perspectivas
complementarias:
a) Una perspectiva cognitiva concerniente al estudio de los mecanismos de lo
que se considera la inteligencia humana (cabe mencionar que hay otros
tipos de inteligencia que no estn en el mbito de la IA).
b) Las iniciativas o lneas en la investigacin para poder dotar a las mquinas
de capacidades que son propias de los seres humanos.
Por otro lado es interesante otra divisin que considera 2 divisiones importantes:

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1
a) La Inteligencia artificial reducida focalizada en el diseo para desempear
tareas especficas muy acotadas (como el reconocimiento facial para
aspectos de seguridad, bsquedas inteligentes sobre internet, o la
inteligencia para conducir un automvil).
b) La inteligencia artificial fuerte se focaliza en aspectos sobresalientes en los
robots que tienen que ver con su mayor capacidad para realizar tareas
cognitivas.
La aplicacin de la Inteligencia Artificial incluye varias reas como:
La Robtica,
La comprensin y traduccin de lenguajes,
Los sistemas expertos,
La Defensa Militar,
La industria de Oil&Gas,
Las Matemticas,
La Automatizacin y control en los procesos Industriales,
La Medicina, etc.
En este documento nos referiremos principalmente al campo de la Robtica en
donde es ms visible el comportamiento de una mquina realizando acciones que
frecuentemente realizan los seres humanos y en donde tambin se aprecia un
esfuerzo notable de dotar a robots con caractersticas similares a las humanas.
Cabe sealar que es tambin en este dominio de la IA donde existen grupos
humanos que se mantienen alertas en cuanto al uso racional de la tecnologa (por
ejemplo la organizacin The future of Life Institute).
El objetivo de este escrito es abordar algunos temas como la seguridad y la
calidad en el uso de la inteligencia artificial aplicada a las mquinas; mucho se ha
escrito acerca de los beneficios de replicar en las mquinas los procedimientos
similares a los procesos inductivos y deductivos del cerebro humano, sin embargo
an hay temas abiertos sobre los riesgos y beneficios reales que se pueden
obtener a travs del uso de la Inteligencia Artificial.

2. Entre el beneplcito y la preocupacin

As como hay una gran expectativa de que la relacin con las mquinas dotadas
de inteligencia artificial sea til y que la interaccin con ellas sea lo ms natural

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1
posible, hay una preocupacin autentica sobre las consecuencias que puede tener
el dotar de inteligencia a las mquinas que posteriormente pudieran representar
una amenaza para la raza humana. Los miedos fundados y el optimismo son 2
emociones que en la misma proporcin parecen estar en el colectivo de los
cientficos y gente especializada en la materia. Aunque la investigacin actual
busca la forma de mejorar la produccin de mquinas con inteligencia artificial
todava los esfuerzos parecen no dar los frutos esperados puesto que hay errores
aun tanto en el producto y en la forma de operarlos, as como tambin an falta
establecer hasta donde las mquinas tendrn autonoma como para tomar
decisiones que actualmente son funciones humanas.
Un ejemplo de un rea de aplicacin es un robot amigable llamado JIBO, que
puede integrarse a la familia bajo el concepto de un Robot social:

JIBO como es un Robot Social para el Hogar, puede realizar las siguientes
funciones:
Ver
Escuchar
Hablar

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1
Aprender
Ayudar
Relatar
Los roles de JIBO son como Asistente, Mensajero, Fotgrafo, Avatar, Cuentista y
Acompaante dada su capacidad de comunicacin.
Hoy JIBO est agotado y est una lista de espera para su adquisicin.
Aqu se da una lista de puntos a reflexionar sobre el hecho de adquirir un JIBO
para integrarlo a la familia:

Los nios estn listos para una interaccin con robots de este tipo?

No podra perderse el sabor cotidiano de la interaccin entre personas

como ha pasado con el uso no racional del celular?

Cules son los riesgo en el uso de ste tipo de robots que a como se
perciben a primera vista, parecen totalmente inofensivos y atractivos?

Cmo se hace para detectar un mal funcionamiento en el robot y que todo

est bajo control? Recordemos los accidentes tan solo en aparatos
electrnicos de uso comn

Podra convertirse en un elemento intrusivo en la familia y acentuar (o

provocar) diferencias entre sus elementos?

Qu medidas de seguridad deben incorporarse para convivir con estos

robots?

Qu normatividad aplica para que estos robots puedan ser calificados

como inofensivos como para incorporarlos al hogar de una familia y que
dicha tecnologa tenga elementos humansticos observables, medibles y
auditables?

Se perderan habilidades de comunicacin naturales que son comunes

entre los seres humanos, considerando aspectos como la calidez, el tono
de voz, el lenguaje corporal, etc.?

Una de las funciones bsicas de diseo de un robot es la definicin del paquete de

reglas que dirigen el comportamiento de las mquinas con inteligencia artificial. Es

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1
aqu donde es posible establecer que dicho comportamiento est controlado del
lado humano (como por ejemplo JIBO el cual es un producto tecnolgico con
funciones humanizadas). Las reglas que rigen el comportamiento de un robot,
son equiparables a las normas morales de los seres humanos?
El conocido autor Isaac Asimov escribi las tres leyes de la robtica como las
normas con las que la mayora de los robots de sus novelas y cuentos estn
diseados para cumplir. Estas leyes aparecieron escritas por primera vez en el
relato RUNAROUND (1942) y son las siguientes:
1. Un robot no har dao a un ser humano o, por inaccin, permitir que un ser
humano sufra dao.
2. Un robot debe obedecer las rdenes dadas por los seres humanos, excepto
si estas rdenes entrasen en conflicto con la 1 Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta
proteccin no entre en conflicto con la 1 o la 2 Ley.
Estas leyes evitan que los robots daen a un ser humano y los condiciona a
obedecer las rdenes recibidas, dejando al ltimo el preservar su propia
existencia.
Yo robot de Isaac Asimov, es un volumen publicado en 1950 en los que se
establecen y plantean problemas de estas 3 leyes de la Robtica que son las
bases de una moral aplicable a supuestos robots inteligentes.
Solo por enumerar algunas interrogantes planteadas en Yo robot, se pueden
mencionar las siguientes:

Pueden sustituir las mquinas a los seres humanos?

Es probable que los seres humanos al convivir pacficamente con los

robots puedan llegar a desarrollar sentimientos afectivos hacia ellos?

Si se perfeccionara la creacin de robots con base a hacerlos idnticos a

los humanos, Cmo hacer una diferenciacin?

Y si llegara el momento en que los robots rebasaran las capacidades de

los seres humanos?

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

Qu ocurre si un robot entra en contradiccin y no sabe qu hacer?

Podra un robot cuestionar su propia existencia?

Lidia Franzoni, directora del programa de Ingeniera en Computacin del Instituto

Tecnolgico Autnomo de Mxico coment:
Sera posible tener en la robtica una serie de reglas para que esta tecnologa no
nos sobrepase, no creo que se trate de algo de ficcin y la tica es la que deber
indicarnos que reglas poner.

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

3. Un caso lamentable
Aunque el espritu de la investigacin y desarrollo de mquinas con inteligencia
artificial est motivado por un impacto benfico en la sociedad, no todo son
buenas noticias. Me referir a un accidente ocurrido el 1 de Julio de 2015 en una
planta de Volkswagen en Alemania cerca de Kassel, donde finalmente perdi la
vida un trabajador a causa de un ataque por parte de un Robot en una lnea de
ensamble.
A continuacin se reproduce la noticia de la pgina web del FINANCIAL TIMES:

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

Este lamentable accidente da la pauta para reflexionar sobre lo siguiente:

El tema de la seguridad en el empleo de robots en la industria, donde

personas y mquinas deben interactuar en diversas condiciones para lograr
los objetivos de una organizacin.

El tema de la calidad de las pruebas que deben ser sometidos dichos

robots, tanto en lo relativo a los programas para su administracin y control,
con el fin de asegurar su funcionamiento adecuado y confiable, as como
del hardware que hospeda dichos programas. En este caso el robot golpe
al trabajador y no hubo forma de que operaran mecanismos que
protegieran a ste ltimo o que regularan el comportamiento del robot.

El tema de la capacitacin y entrenamiento para poder administrar,

controlar e interactuar con mquinas dotadas de inteligencia artificial.

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

Existen riesgos en el uso de mquinas con inteligencia artificial que

impactarn su funcionamiento y/o rendimiento, ya sea por un error en su
lgica de programacin o por causas de falla en los componentes de dichas
mquinas. Aunado a esto. si la operacin y/o mantenimiento de estas
mquinas no se realiza por personal altamente capacitado y entrenado los
riesgos se incrementan (aunado a que se haga en el tiempo programado).
Por otro lado si el hecho de que una maquina dotada de inteligencia
artificial no funcione de manera normal puede convertirse en una amenaza
para los humanos y su entorno como se puede ver en el caso del robot de
Volkswagen.

Cuando los investigadores consideran que las mquinas superinteligentes con

Inteligencia Artificial pueden llegar a superar a los humanos y que si de repente los
riesgos son visibles es porque:
1. Las mquinas fueron programados con hacer algo devastador (por ejemplo
un arma autnoma).
2. Las mquinas tienen Inteligencia artificial con reglas programadas que las
hacen actuar como benficas pero desarrollan un mtodo destructivo para
el logro de sus metas.

Es probable que adicional a esto, cualquier mquina con Inteligencia

artificial en condiciones donde sufra daos, podra tener un comportamiento
errtico, lo cual podra representar un riesgo para las operaciones o
funciones que realiza.
Muchas personas de ciencia y tecnologa se han unido para manifestar su
posicin con respecto a los riesgos en el uso de la Inteligencia artificial y sus
implicaciones. Recientemente un grupo de ellos incluyendo a Stephen Hawkingse unieron para firmar una carta abierta pidiendo la prohibicin de las armas
ofensivas autnomas.
Nacen organizaciones como por ejemplo The future of Life Institute cuya misin
es ser un soporte para la investigacin e iniciativas para salvaguardar la vida y
desarrollar visiones optimistas para el futuro. La carta abierta que se menciona
arriba, est organizada por ste instituto.

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

4. Conclusin
Hay temas importantes sobre normatividad, seguridad, calidad, tica, supervisin y
control que deben considerarse antes de desarrollar maquinas dotadas con
inteligencia artificial, que podran rebasar los lmites establecidos. La seguridad
nunca est cubierta al 100% por lo que hay que mejorar la calidad de los robots
como productos gestionando los riesgos y maximizando los beneficios.
Para el ser humano crear inteligencia similar o mejor a la propia es un reto y una
meta que puede traer consecuencias tanto positivas como negativas (y tan graves
como el poner en peligro la continuidad de la vida en la tierra).
Una mquina fuera de control no es algo que se espere como un comportamiento
aceptable, por lo tanto se deben realizar las pruebas de calidad pertinentes que
demuestren que dicha maquina est lista para realizar sus funciones y que las
reglas para la interaccin con humanos est probada. Esto va desde la lgica de
la programacin hasta las partes que componen la mquina. Los errores en el
diseo, desarrollo y operacin de robots pueden cobrar vidas humanas como el
caso del Robot de Volkswagen que mat a un trabajador en julio de 2015.
Conocer los componentes que integran una mquina es una buena prctica para
poder determinar el impacto que tiene el mal funcionamiento de uno de ellos sobre
el resto de los componentes.
Es importante la colaboracin entre los seres humanos y los robots dado que el
ser humano tiene ciertas limitaciones que pueden sobrepasarse con la ayuda de
ellos. Hay reas donde dar autonoma a los robots representa una amenaza que
deber ser considerada para no incurrir en errores que cobren vidas humanas o
efectos nocivos colaterales.
Es casi seguro que la inteligencia artificial y el desarrollo tecnolgico subsecuente
estarn al servicio de una minora y es un reto para todos verlo de manera global.
El sentido de usar la inteligencia artificial de forma racional en robots es para
mejorar muchos aspectos de la vida cotidiana como la salud, la educacin, los
servicios, erradicar la pobreza y todo aquello que contribuya a la construccin de
un mundo mejor asegurando la continuidad de la vida en la tierra.

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

Reflexin
a) Por qu he elegido este tema?

He elegido este tema porque me agrada todo lo relacionado con la robtica

y soy partidario de que la tecnologa debe usarse racionalmente; que lo que
usemos como herramientas tecnolgicas deben estar metodolgicamente
probadas, cumplir con la normatividad y cumplir con las especificaciones de
seguridad para que se garantice que no habr daos a las personas, al
ambiente e instalaciones. Me conmovi mucho el accidente ocurrido en VW
en Alemania ocurrido que relato en este escrito y me ha hecho reflexionar al
respecto.

Estoy en contra de los efectos nocivos que puede ocasionar el uso de una
tecnologa por falta de anlisis de riesgos, por baja calidad y por ignorar los
aspectos de seguridad que apliquen.

b) De donde part para empezar a escribir?

He partido de algunas definiciones de lo que es la Inteligencia artificial para

continuar con plantear que hay una divisin en la percepcin de que la IA es
benfica y por otro lado que hay una preocupacin creciente de que crear
mquinas con inteligencia artificial similar a la inteligencia humana puede
ser una amenaza si dicha inteligencia rebasa a la de los seres humanos,
puesto que existe el riesgo de que las mquinas tomen el control.

Curso Propedutico para un Aprendizaje Autogestivo en

un Ambiente Virtual
Convocatoria de Proceso de Admisin 2016-1

Bibliografa
Figueras, J. C. (22 de 06 de 2015). Temen a la Inteligencia Artificial. Obtenido de
EXCELSIOR:
http://www.excelsior.com.mx/global/2015/06/22/1030673#view-1
Hernandez, A. (03 de 02 de 2015). Divide a cientificos la Inteligencia Artificial.
Obtenido de EXCELSIOR:
http://www.excelsior.com.mx/hacker/2015/02/03/1006208
Herrera, R. G. (1999). La inteligencia artificial Hacia donde nos lleva? Como
ves? (UNAM), 4.
INSTITUTE, F. o. (13 de 11 de 2015). BENEFITS & RISKS OF ARTIFICIAL
INTELLIGENCE. Obtenido de Future of life INSTITUTE:
http://futureoflife.org/background/benefits-risks-of-artificial-intelligence/
Russell, S. J. (2004). INTELIGENCIA ARTIFICIAL, UN ENFOQUE MODERNO.
Madrid: Pearson educacin.