Professional Documents
Culture Documents
Artigo
Junho de 2017
2
Ética na sociabilização
mediada por algoritmos
João Carlos Rebello Caribé
Mestrando em Ciência da Informação pelo convênio Universidade Federal do Rio de Janeiro/Instituto
Brasileiro de Informação em Ciência e Tecnologia (UFRJ-IBICT). Graduado em Propaganda e Marketing
pela Universidade Estácio de Sá.
Resumo
O objetivo deste artigo é desenvolver reflexões a cerca das relações sociais mediadas
por algoritmos com foco nas questões éticas. O artigo desenvolve uma reflexão a partir
dos algoritmos, suas características e questões éticas, o big data, marketing predatório,
o Estado Informacional a necessidade de uma governança de algoritmos. Discorre
sobre o filtro bolha, que é um algoritmo que funciona como mediador social e curador
de conteúdo, suas características e problemas.
Palavras-chave
Algoritmo, filtro bolha, Facebook, redes sociais, sociabilização, ética, ética
intercultural, empreendedorismo moral, controle social, estado informacional,
marketing predatório
3
Introdução
A chegada da Internet comercial trouxe um mundo novo, repleto de informações e
interações além dos nossos limites físicos e geográficos. Se tornou um espaço de
liberdade e compartilhamento de informação e conhecimento, mudou a forma de
trabalharmos, pensarmos, agirmos e até mesmo como tomamos decisões. Pelo próprio
desenvolvimento da rede e dos dispositivos conectados, menos de vinte anos depois, a
temos perfeitamente permeada no tecido social e tão naturalizada a ponto da expressão
“entrar na Internet” não parecer fazer o menor sentido. Nos relacionamos pelo
Facebook, Twitter, e outros, consultamos o Waze sempre que queremos a melhor rota
para chegar a nosso destino. O Google é o melhor caminho entre nossas dúvidas e as
respostas, adoramos quando a Amazon e a Netflix parecem sugerir exatamente o que
desejamos.
A proposta deste artigo é desenvolver uma reflexão sobre o “preço”1 que pagamos
por todas estas facilidades que em geral são gratuitas, preço este que esbarra em
questões éticas sob o entendimento de Capurro (2010). Como toda grande invenção, a
revolução digital também tem uma profunda influência sobre as normas, princípios e
valores que fundamentam a vida social, que constituem o ethos moral ou cultural de
cada sociedade humana. Como destaca Capurro, a ética entendida com uma reflexão
sobre a moral, em particular a ética da informação se vê confrontada com desafios
teóricos e práticos que surgem a raiz da diversidade de princípios e valores morais em
diferentes culturas em conjunção com as TICs. Ainda segundo Capurro, o dito ethos
comunicacional que é em parte codificadas como leis nacionais e acordos internacionais
e declarações com diferentes tipos de obrigatoriedade, ratificação jurídica e
fundamentação teórica. Vivem uma crise moral local e global alguns anos após o
desenvolvimento das TICs, levando ao questionamento a curto ou longo prazo destas
codificações. Considerando que na segunda década do século XXI este
desenvolvimento se deu tanto no acréscimo da diversidade da diversidade global, como
principalmente pela presença crescente dos algoritmos em todas as relações sociais e até
mesmo em atividades cotidianas.
1“If you’re not paying for it; you are the product” - https://www.forbes.com/sites/marketshare/
2012/03/05/if-youre-not-paying-for-it-you-become-the-product/#7bbf63535d6e
4
Algoritmos
Algoritmos são basicamente um conjunto de instruções que permitem um
dispositivo computacional realizar uma ou mais tarefas, produzindo um resultado final a
partir de algum ponto de partida ou dados iniciais.
Por serem feitos por seres humanos falíveis, este modelos muitas vezes codificam
o preconceito humano, o equivoco e a polarização em algoritmos que irão de alguma
forma interferir em nossas vidas.
precisam não apenas de serem localizados 2, mas terem seus algoritmos adaptados à
cultura local.
2Localização significa além da tradução literal, a sua adequação às culturas locais. https://
pt.wikipedia.org/wiki/Localiza%C3%A7%C3%A3o
3 http://meiobit.com/317896/flickr-sendo-racista-em-seu-auto-tagging/
4 https://pt.wikipedia.org/wiki/Bot
5 https://twitter.com/TayandYou
6 https://medium.com/@igorni_/as-li%C3%A7%C3%B5es-de-um-rob%C3%B4-nazista-545df180232c
6
Avaliando os casos pela ótica da EII, podemos concluir que o PredPol por não
envolver nenhuma questão moral ou ética, apenas operacional é indiferente em termos
interculturais, já os casos de racismo e nazismo podem ter pesos distintos em diferentes
culturas, mas certamente podem ser compreendidos como questões interculturais. Por
fim o caso do IMPACT demonstra uma falha operacional, mas que dado o fato de ter
sido codificado a partir de parâmetros locais que definem o perfil de professores de alta
performance, pode apresentar resultados mais ou menos distorcidos em diferentes
culturas.
Marketing predatório
7 http://edgerank.net/
8https://www.cartacapital.com.br/blogs/intervozes/facebook-negocia-dados-de-milhoes-de-jovens-
emocionalmente-vulneraveis
7
Estado informacional
Outra questão interessante abordada por Braman, e que dialoga com O’Neil, é a
cerca das novas ferramentas regulatórias, para Braman, as novas ferramentas
regulatórias serão baseadas em modelos matemáticos por natureza, e de certa forma
empoderam o poder privado, via propriedade intelectual.
Bezerra (2016), cita David Lyon ao afirmar que desde 11 de Setembro, diferentes
formatos de vigilância, especialmente nos Estados Unidos, têm sido aceitos pela
população sem resistência. Lyon afirma que “é possível que, de uma forma geral,
cidadãos aceitem que a perda de privacidade seja o preço a ser pago pela segurança”.
Esta aceitação passiva de violação de privacidade por parte significativa da população
se deve ao empreendedorismo moral, termo cunhado por Howard S. Becker, no tocante
ao estudo do comportamento desviante.
permita o bloqueio de sítios que veiculem conteúdos protegidos por direito autoral.
Tema utilizado inclusive como forma velada de censura como no caso da “Falha de São
Paulo”10 .
O Filtro bolha
Eli Pariser (2012), no livro “O Filtro Invisível: O que a Internet está escondendo
de você”, descreve como surgiram os filtros invisíveis e dá a eles o nome de filtro
bolha. Segundo Pariser, um dos visionários da tecnologia Nicholas Negroponte11 ,
pesquisador do MIT, já em 1994 imaginava os “agentes inteligentes”, que seriam
algoritmos atuando como curadores de conteúdo. As primeiras experiências com
“agentes inteligentes” foram um desastre, mas Jeff Bezos12 desenvolveu o conceito do
“agente inteligente” da Amazon com base no livreiro que conhece o consumidor e
recomenda os livros que acredita lhe interessar. Para atingir este objetivo o algoritmo
passou a registrar tudo que ocorria no site, quem via ou comprava um livro e quais
interessavam a determinado perfil de consumidor, e rapidamente criou uma lógica de
relacionamento capaz de apresentar com razoável margem de acerto sugestões de leitura
com base na pesquisa de um usuário e seu histórico de compra e busca, estava criada a
primeira bolha eficiente (PARISER, 2012).
Um dos problemas com as bolhas é que elas são invisíveis para os usuários, se
não sabem que elas existem, dificilmente irão percebe-las. E quando são percebidas, são
10 http://desculpeanossafalha.com.br/
11 https://pt.wikipedia.org/wiki/Nicholas_Negroponte
12 https://pt.wikipedia.org/wiki/Jeff_Bezos
10
opacas, pois segundo Pariser, o usuário desconhece que critérios os algoritmos das
bolhas usam para filtrar diversos assuntos, tornando impossível avaliar o seu grau de
parcialidade.
As bolhas, por serem produzidas por algoritmos, modelos matemáticos, que são
recursivos, ou seja, estão ciclicamente aprimorando e aprendendo, podem criar
distorções. Quando um usuário não presta atenção à um post, quando rejeita postagens e
bloqueia pessoas ou simplesmente as ignora, o EdgeRank entende que ele não quer mais
este conteúdo e os suprime da sua linha do tempo, criando uma distorção da realidade
que Eli Pariser chama de “Síndrome do Mundo Bom”. A “Síndrome do Mundo Bom” é
quando a linha do tempo de um usuário está tão “purificada” que só lhe apresenta
conteúdos que alinham ideologicamente e o agradam, o mundo bom, esta justamente
nesta percepção distorcida da realidade, onde “todos” pensam igual a ele.
Conclusão
Dentro da perspectiva da EII, Capurro destaca a privacidade como tema
intercultural, o Facebook é um exemplo claro de uma rede social com bilhões de
usuários de diferentes partes do planeta, que sociabilizam e compartilham informações
em uma rede social sediada nos Estados Unidos, mesmo que com escritórios em
diferentes partes do mundo e com conteúdo localizado em diferentes idiomas e culturas,
ainda assim seus algoritmos seguem os preceitos éticos e morais pela ótica dos Estados
Unidos. Como Capurro cita a análise de Charles Ess, a privacidade é considerada no
ocidente como um valor intrínseco, entretanto nas tradições budistas e confuncianas, o
11
individuo é visto como algo negativo, tanto com relação à si mesmo, como em relação a
sua comunidade. Como ele destaca, a privacidade é um valor moral importado do
Ocidente.
Governança de algoritmos
A preocupação com questões éticas relacionadas aos algoritmos e big data, levou
Tim O'Reilly a escrever o artigo "Open Data and Algorithmic Regulation" que faz parte
do livro "Beyond Transparency".
DONEDA, D, 2016).
Bibliografia
ALMEIDA, Virgílio A.F. e DONEDA, D. O que é a governança de algoritmos?
Revista Politics, n.24, p.09 à 15, Outubro de 2016.
BEZERRA, Arthur Coelho. Privacidade como ameaça à segurança pública: uma história
de empreendedorismo moral. Liinc em Revista, Rio de Janeiro, V.12, n2, p.231-242,
novembro 2016.
O’NEIL, C. Weapons of math destruction: How big data increases inequality and
threatens democracy. United States: Crown Publishing Group (NY), 2016.