ALGORITMOS BIG DATA.

DERECHO A LA INTIMIDAD Y
LIBERTAD DE EXPRESIN.
Por Manuel Larrondo
@larrondomanuel
Abogado Docente Universitario
Fac de Periodismo y Comunicacin Social UNLP
Maestra Periodismo de Investigacin Universidad del Salvador
Director Instituto de Derecho de la Comunicacin Colegio de Abogados de La Plata

Mary Bollender es una madre soltera que vive en Las Vegas

con ciertos problemas econmicos. Una maana de 2014, al estar su
hija de diez aos enferma a raz de una fiebre alta persistente, decidi
llevarla al Hospital con su auto. Pero no pudo porque el vehculo no
funcionaba: el Banco haba desactivado su funcionamiento en forma
remota al advertir que Mary se haba retrasado tres das en el pago
del prstamo. Una vez que pagara, el automvil volvera a funcionar.
Por desgracia, Mary no poda pagar aquella maana y,
consecuentemente, tampoco llevar a su hija al mdico. Un equipo
electrnico inserto en el auto y que opera bajo un sistema remoto que
a su vez no entiende de excepciones o de lgica de humanidad,
simplemente lo desconect (Miss a Payment? Good Luck Moving That
Car The New York Times 24/9/2014
https://dealbook.nytimes.com/2014/09/24/miss-a-payment-
good-luck-moving-that-car/?_r=0)
No solo los humanos sufren estas contingencias
electrnicas modernas. Las Empresas y los Gobiernos tambin
padecen la lgica inentendible de los algoritmos. Tanto el Gobierno
Britnico como muchsimas Empresas multinacionales como Ford
Motor Company, Volkswagen, Starbucks, Toyota Motor, Johnson &
Johnson, Verizon, Netflix y AT&T entre las cuales tambin hay medios
de informacin como The Guardian y la cadena pblica BBC han
reclamado recientemente a Google porque sus promociones y
publicidades aparecieron patrocinando videos extremistas y
discriminatorios, entre ellos de Steven Anderson quien se ufana al
negar el holocausto y clama por la muerte de los homosexuales. O
bien han sido difundidos en videos por los cuales se reinvidican actos
terroristas del Ejrcito Islmico. Al parecer, el sitio YOU TUBE, de
propiedad de Google, posee un sistema de algoritmos cuya lgica
opera en su contra llevndole a enfrentar una severa crisis de
confianza (Socios accidentales: la publicidad de You Tube le trae
problemas a Google, 18/4/2017
http://www.letraslibres.com/mexico/ciencia-y-tecnologia/socios-
accidentales-la-publicidad-youtube-le-trae-problemas-
google#.WPhTTEL1P0k.twitter
Esos mismos algoritmos que dejan sin funcionar un auto e
impiden a una madre llevar a su hija al hospital y que vinculan
publicidades de Empresas con actos discriminatorios difundidos en
YOU TUBE, tambin permiten que se pueda obtener un perfil
prcticamente completo de nuestra personalidad. Hace apenas cinco
aos, en 2012, Michal Kosinski, destacado experto en psicometra de
la Subdireccin de Psicologa basada en datos de la Universidad de
Cambridge, demostr que sobre la base de un promedio de 68
"gustos" de Facebook por parte de un usuario, era posible predecir su
color de piel (con 95% de precisin), su orientacin sexual (88 por
ciento de precisin) y su afiliacin al Partido Demcrata o Republicano
(85%) en EEUU. Pero no se detuvo all. La inteligencia, la afiliacin
religiosa, as como el alcohol, el cigarrillo y el uso de drogas, podran
ser determinados. De los datos y rastros que uno deja al usar esta red
social, era incluso posible deducir si los padres de alguien estaban
divorciados (The Data That Turned the World Upside Down
28/01/17 por HANNES GRASSEGGER & MIKAEL KROGERUS
https://motherboard.vice.com/en_us/article/how-our-likes-helped-
trump-win)
Los ejemplos citados sin duda son impactantes y
demuestran en cierta forma que el desarrollo temprano de la
inteligencia artificial, algoritmos y los sistemas autnomos implican
no solo la imperiosa necesidad de saber cmo funcionan, debatir sus
alcances sino adems de plantearnos sin dudas problemas ticos y
legales complejos.
A modo de ejemplo, bastar con recordar que el artculo 13
del Pacto de San Jos de Costa Rica de jerarqua constitucional-
establece que todo ser humano tiene derecho a la libertad de
pensamiento y expresin. Uno podra decir que, al menos hasta el
momento, no se ha inventado una mquina que nos impida pensar
pero es as? Acaso los algoritmos empleados por las Empresas y
Gobiernos no nos estaran condicionando actualmente en nuestra
libertad de pensamiento y libre eleccin? Por otra parte, las noticias
futuristas y no tanto- anticipan que pronto habr vehculos que se
manejarn automticamente, sin necesidad de que un ser humano lo
opere. En principio puede resultar fantstico y hasta muy cmodo
peroCmo operara ese vehculo autnomo cuando se enfrente a
un accidente en el que podra causar daos a humanos y cosas? Por
cul se inclinara evitar daar? Podra elegir?

Qu es un algoritmo?
Sandra Alvaro explica que un algoritmo es una lista finita
de instrucciones que se aplican a un input durante un nmero finito
de estados para obtener un output, permitiendo realizar clculos y
procesar datos de modo automtico. (El poder de los algoritmos:
cmo el software formatea la cultura, 29/01/2014,
http://lab.cccb.org/es/el-poder-de-los-algoritmos-como-el-
software-formatea-la-cultura/)
El algoritmo no sabe nada de gnero, edad, condiciones
econmicas, etc. Simplemente tiene una ristra de nmeros e intenta
encontrar patrones que le permitan acertar el mayor nmero de
veces.
Y aqu es donde David Casacuberta sostiene que aparece el
problema: Un programa tradicional, desarrollado por un humano,
sigue una lgica, con lo que es posible entender qu est haciendo
ese programa. Un algoritmo automatizado es como una caja negra.
Le damos una entrada (los datos de la persona que pide el crdito) y
nos da una salida (la probabilidad de que devuelva o no el crdito). Es
muy complejo o prcticamente imposible saber por qu el
programa ha decidido rechazar o aceptar un crdito (Injusticia
algortmica, 14/03/17 http://lab.cccb.org/es/injusticia-algoritmica/).
Por su parte, Sandra Alvaro explica que los algoritmos
tambin se han ido infiltrando en todos los procesos que conforman
nuestra cultura y vida cotidiana. Facebook, a la que se conectan 699
millones de usuarios cada da, cuenta con un algoritmo denominado
Edgerank que analiza los datos recopilados acerca de nuestros
intereses los me gusta que pulsamos, el nmero de amigos que
tenemos en comn con el emisor de la historia, as como los
comentarios realizados, para determinar qu post mostrar en nuestro
news feed y ocultar las historias aburridas. Del mismo modo, es
un algoritmo el que rastrea nuestros contactos para sugerir nuevos
amigos.
Agrega Alvaro que Twitter procede de modo similar a la
hora de sugerirnos nuevas cuentas que seguir, elaborar el contenido
de la pestaa descubre o la lista de los trend topics. En este
ltimo caso, trabaja un complejo algoritmo que no se limita a
contabilizar la palabra ms twitteada, sino que tiene en cuenta si un
trmino se ha acelerado en su uso, si ha sido tendencia
anteriormente, o si este es usado en diferentes redes o solo dentro de
un cluster densamente conectado de usuarios. A este fin, el algoritmo
no solo cuenta con el seguimiento de los hastags, la etiqueta que
permite linkear con todas las historias que la contienen propuesta en
2007 por esta plataforma y que ha extendido su uso a toda la web
social, sino que cuenta tambin con la tecnologa de los links
abreviados. Los t.co (f.bo, en el caso de Facebook) se generan cada
vez que compartimos una web a travs de un botn social. Estos
permiten no solo economizar el nmero de caracteres, sino que
convierten los links en estructuras ricas en datos, que permiten
seguir cmo estos son compartidos a travs de la plataforma y crear
perfiles de sus usuarios.
En el caso del buscador Google, es un medio que consta de
ms de sesenta trillones de pginas y en el que se realizan
ms de dos millones de bsquedas por minuto. El algoritmo que
emplea es asistido por otros que tienen en cuenta nuestro historial de
bsquedas, analizan nuestro lenguaje y determinan nuestra
localizacin para personalizar los resultados.
 Tambin son algoritmos los que obtienen datos extrados
de nuestras acciones para sugerirnos qu libros comprar en Amazon,
que pelculas o series ver en NETFLIX, qu videos ver en YOU TUBE o
qu anuncios mostrarnos en todas estas plataformas.
Concluye Sandra Alvaro sosteniendo que cada link que
creamos y compartimos, cada tag que aadimos a una informacin,
cada acto de aprobacin, bsqueda, compra o retweet, es
registrado en una estructura de datos, y posteriormente
procesado para orientar e informar a otros usuarios. De este
modo, los algoritmos nos asisten en nuestra navegacin a
travs del inmenso cmulo de informaciones de la red,
tratando la informacin producida individualmente, para que
pueda ser consumida por la colectividad. Pero, al gestionar la
informacin, estos tambin reconstruyen relaciones y
organizaciones, forman gustos y encuentros, pasando a
configurar nuestro entorno e identidades. Las plataformas se
constituyen en entornos socio-tcnicos automatizados.
Intimidad, acceso a la informacin, libertad de pensamiento:
Derechos humanos gobernados por los algoritmos.
El registro constante de nuestras acciones supone un
cambio respecto a lo que es nuestro derecho humano a la intimidad
entendido como esa zona de reserva espiritual que no puede ser
afectada por una intromisin arbitraria (art 11 del Pacto de San Jos
de Costa Rica) y el hecho de que estos algoritmos nos enrolan en
procesos de los que quizs no somos del todo conscientes.
A pesar de que nos dan acceso a informacin que, por su
dimensin, ha dejado de ser humanamente discernible, ampliando as
nuestra capacidad de eleccin, lejos de ser neutros estos algoritmos
tambin nos guan segn operaciones matemticas incapaces al
menos hasta el momento- de contar con un sesgo de humanidad y
menos an de ser sinceros en sus fines.
La prdida da a da de ejercer nuestro derecho a la
intimidad ha mutado en una verdadera limitacin a la libertad digital
de pensamiento y expresin. Hasta se ha llegado a decir en mbitos
acadmicos o sociales que en realidad hemos dejado de tener
intimidad plena porque ha mutado a ser una expectativa. Al ser
solo una mera expectativa, se genera una errnea idea o concepto
respecto a que no sera posible pretender que se la proteja desde el
momento en que, por ejemplo, realizamos una llamada telefnica o
intercambio de correo electrnico empleando para ello los servicios
de una Empresa de telecomunicaciones o un proveedor gratuito de
cuentas de emails que pueden tener acceso a saber con quien nos
comunicamos, cuando lo hacemos y cuanto tiempo duran nuestros
intercambios de correos o llamadas.
Sin duda que adems de la clara afectacin a nuestro
derecho a la intimidad y libertad de expresin, nos encontramos
sometidos adems a una vigilancia tecnolgica inaudita. Nuestras
compras, fobias, consultas en buscadores, movimientos, actividades y
relaciones, son escrutadas y almacenadas para crear perfiles
comerciales, personales y de seguridad. No pensemos de forma nica
en las empresas privadas: el propio Estado es uno de los principales
recopiladores de datos de sus ciudadanos y sobran ejemplos en
nuestro pas: el sistema BIOS utilizado para los DNI, pasaportes,
salida y entrada del pas, la tarjeta de transporte pblico SUBE, las
cmaras de inseguridad que filman 24 hs en la va pblica.
Esta recopilacin de datos para predecir nuestras prximas
acciones sin duda limita nuestra libertad de pensamiento y
especialmente nuestra intimidad. Datos y perfiles que podrn ser
utilizados en el futuro, por ejemplo, para que una Empresa decida si
permite que contratemos un seguro, comprar un auto, concedernos
un crdito bancario o bien viajar a un determinado pas.
En principio, es posible inferir que el usuario medio de la
web o de las aplicaciones mviles no sea consciente de todas las
limitaciones, recopilacin de datos y observaciones a las que es
expuesto. La libertad, para disfrutarla, requiere de informacin y
consciencia de los lmites a los que se enfrenta. No solo hablamos de
los lmites presentes, sino tambin de las consecuencias de nuestros
actos digitales para el futuro.
Es posible advertir que la mayora de usuarios percibe a la
web como un medio de difusin, en el sentido de los medios
tradicionales, sin ser conscientes de cmo la informacin es filtrada y
procesada por ese mismo medio. Los algoritmos no solo son
imperceptibles en su accin y desconocidos en muchos casos por
estar en manos de agencias comerciales y protegidos por las leyes de
propiedad intelectual, sino que tambin como sostuvimos con
antelacin - se han hecho inescrutables. Ello es debido a la
interrelacin existente entre complejos sistemas de software y su
constante actualizacin.
Pero no todo es negativo. El anlisis de datos agregados
sobre el comportamiento humano a gran escala nos abre
oportunidades extraordinarias para entender y modelar patrones de
conducta, as como para ayudar en la toma de decisiones, de manera
que ya no seamos los humanos quienes decidamos, sino que las
decisiones vengan determinadas por algoritmos construidos a partir
de esos datos.
Estos algoritmos estn diseados para analizar cantidades
ingentes de informacin de distintas fuentes y, de manera
automtica, seleccionar los datos relevantes para usarlos de forma
concreta. Es lo que se conoce como BIG DATA SOCIAL, una faz de los
algoritmos que por supuesto es positiva. Y en ese campo se han
llevado a cabo proyectos que han analizado el valor de los datos para
entender el desarrollo econmico de una regin, predecir el crimen,
modelar la propagacin de enfermedades infecciosas como la gripe o
el bola, estimar las emisiones de CO2 o cuantificar el impacto de
desastres naturales. Tanto investigadores como Gobiernos, ONG,
empresas y grupos de ciudadanos estn experimentando
activamente, innovando y adaptando herramientas de toma de
decisiones para alcanzar soluciones que estn basadas en el anlisis
de informacin.
El potencial de los datos para ayudar a mejorar el mundo
es inmenso en numerosas reas, incluyendo la salud pblica, la
respuesta ante desastres naturales y situaciones de crisis, la
seguridad ciudadana, el calentamiento global, la educacin, la
planificacin urbana, el desarrollo econmico o la elaboracin de
estadsticas. De hecho, el uso del big data es un elemento central en
los 17 Objetivos para el Desarrollo Sostenible (SDG) de Naciones
Unidas.
Por otro lado, tal como expresramos, los algoritmos no
solo se aplican al anlisis de datos sino que, en un segundo momento,
toman parte en el proceso de decisiones. Esto nos plantea si es lcito
aceptar las decisiones tomadas de modo automtico por algoritmos
de los que no sabemos cmo operan y que por lo pronto tampoco
estn sujetos a discusin pblica. Al mismo tiempo, los algoritmos, al
analizar datos registrados de nuestras acciones anteriores, tienen una
fuerte dependencia del pasado, lo que podra derivar en el
mantenimiento de estructuras y una escasa movilidad social,
dificultando las conexiones fuera de intereses y contactos definidos.
Posibles soluciones que humanicen a los algoritmos
Teniendo en cuenta que arbitran cmo fluye la informacin
por la esfera pblica, se hace necesario plantear metforas que
hagan aprehensibles estos procesos, ms all de los expertos en
computacin. Del mismo modo, hay que extender su comprensin y
uso a la poblacin para que pueda participar en la discusin acerca de
qu problemas son susceptibles de una solucin algortmica y cmo
plantearlos. Hay que fomentar la participacin para mantener la
diversidad ecolgica de este medio y su relacin con la pragmtica.
Respecto a estas cuestiones, Mathew Fuller, uno de los
iniciadores de los estudios sobre software (software studies), hace
notar que, aunque los algoritmos constituyen la estructura interna del
medio donde hoy en da se realiza la mayor parte del trabajo
intelectual, escasamente son abordados desde un punto de vista
crtico y humanstico, quedando relegados a su estudio tcnico. En su
obra Behind the Blip: Essays on the Culture of Software, este autor
propone algunos mtodos encaminados a esta crtica. Entre ellos, la
ejecucin de sistemas de informacin que pongan al descubierto su
funcionamiento, estructura y condiciones de verdad; el
mantenimiento de la potica de la conexin inherente al software
social, o la promocin de un uso que siempre sobrepase las
capacidades tcnicas del sistema. Y la promocin de conexiones
improbables que enriquezcan nuestro medio con nuevas posibilidades
y perspectivas ms amplias, dejando lugar a la invencin.
 En ese sentido y para culminar, es interesante traer a
colacin que recientemente la ACM estadounidense, un referente
acadmico en el sector, ha propuesto una serie de Principios para
la transparencia y responsabilidad en materia de algoritmos
que merece la pena apuntarlos ya que actuaran como una suerte de
guas de interpretacin y aplicacin global de estos robots
matemticos que pretenden facilitarnos la vida (US Association for
Computing Machinery
https://www.acm.org/binaries/content/assets/public-
policy/2017_usacm_statement_algorithms.pdf):

1. Concienciacin:
Los propietarios, diseadores, programadores, usuarios y otras partes
interesadas en sistemas de anlisis de datos deben concienciarse y
vigilar la existencia de posibles sesgos implcitos en su diseo,
implementacin y uso (as como responder de potenciales daos
causados a colectivos o individuos).
2. Impugnacin y compensacin:
Los reguladores deben promover mecanismos que
permitan impugnar el funcionamiento de algoritmos y exigir la
debida compensacin en caso de daos causados por decisiones
automatizadas.
3. Responsabilidad:
Empresas y Administraciones deben responsabilizarse de las
decisiones adoptadas mediante el uso de algoritmos, incluso en los
casos en que no sea posible explicar completamente el modo
en que esos algoritmos produjeron el resultado daoso.
4. Transparencia:
Se recomienda a las empresas e instituciones que utilizan
procedimientos de adopcin algortmica de decisiones que asuman y
cumplan un compromiso de transparencia e informacin sobre (i)
los procesos seguidos por sus algoritmos, as como sobre (ii)
las decisiones que se adoptan a su travs o con su ayuda.
Esta transparencia es especialmente relevante en el sector pblico.
5. Procedencia de los datos:
Los desarrolladores de algoritmos deben documentar:
1. La procedencia y recogida de los datos empleados en el
desarrollo y entrenamiento del software.
2. El anlisis de posibles sesgos implcitos en el proceso de
captacin de datos, se haya realizado dicha captacin de forma
tradicional o asimismo automatizada.
La revisin pblica de estos datos maximizara la posibilidad de
deteccin y correccin de problemas.
No obstante, esta publicidad puede ser restringida por imperativo
de la proteccin de la privacidad de las personas, de secretos de
empresas o para evitar revelar datos que permitiran a terceros
malintencionados engaar a los sistemas objeto de escrutinio.
En estos casos se propone un acceso restringido a personas
especialmente cualificadas y autorizadas al efecto.
6. Auditabilidad:
Los modelos, algoritmos, datos y decisiones deben ser documentados
de forma que puedan ser objeto de revisin en caso de suscitarse
responsabilidad.
Por ejemplo, algunas empresas de tarjetas de crdito han reducido los
lmites de crdito de clientes no basndose en su propio historial
financiero, sino a partir del anlisis de datos de otros clientes con un
historial financiero muy deficiente, pero que haban comprado en las
mismas tiendas donde haban consumido los clientes castigados
http://elpais.com/elpais/2017/03/24/ciencia/1490358953_071638.html
?id_externo_rsoc=TW_CC
7. Validacin y Prueba:
Deben utilizarse mtodos rigurosos para validar modelos y
documentar esos mtodos y resultados. En particular, deben
realizarse pruebas recurrentes para evaluar y determinar posibles
resultados discriminatorios generados por los algoritmos
desarrollados. Los resultados de estas pruebas deben hacerse
pblicos.

Tngase en cuenta adems que el desarrollo, diseo y

distribucin de la inteligencia artificial y los algoritmos deberan
cumplir plenamente con todas las leyes nacionales e internacionales,
tema que no es por supuesto nada menor teniendo en cuenta que
estn en juego las capacidades normativas y los derechos y libertades
individuales.
El fin claramente sera llegar a un equilibrio normativo y
tecnolgico para evitar una situacin en la que una minora tenga
acceso a datos y disponga del conocimiento y las herramientas
necesarias para analizarlos, mientras que una mayora no. Esta
situacin exacerbara la asimetra ya existente en la distribucin del
poder entre los Gobiernos o las empresas, de una parte, y las
personas, de otra. Iniciativas para promover datos abiertos (open
data) y programas de educacin que fomenten la alfabetizacin
digital y el anlisis de datos son dos ejemplos de medidas que se
podran desarrollar para explicar a los ciudadanos sin conocimientos
tcnicos cmo funcionan los algoritmos de toma de decisiones y con
el uso de modelos de inteligencia artificial que sean fcilmente
interpretables.