Por Katarzyna Szymielewicz

Tradução e adaptação para o Português por João Carlos Rebello Caribé, com a colaboração de Renato Monteiro Leite na contextualização para a legislação brasileira de dados pessoais (LGPD)

Quanto mais longe as ondulações forem, mais difícil será controlar.

Seu perfil on-line é menos um reflexo seu do que uma caricatura.

Quer você goste ou não, atores comerciais e públicos tendem a confiar mais na sequência de 1s e 0s que representam você, do que na história que você conta a eles. Ao preencher um pedido de crédito em um banco, ou ser recrutado para um emprego, sua rede social, histórico de cartão de crédito e endereço postal podem ser vistos como fatos imutáveis, mais confiáveis do que sua opinião.

Mas o seu perfil online nem sempre é construído sobre fatos. Ele é moldado por empresas de tecnologia e anunciantes que tomam decisões importantes com base em suas interpretações de dados aparentemente benignos: que filmes você escolhe assistir, a hora do dia em que você “tuita” ou quanto tempo leva para clicar em um vídeo de gato.

Muitas decisões que afetam sua vida, agora são ditadas pela interpretação do seu perfil de dados, em vez de interações pessoais. E não se tratam apenas de banners publicitários influenciando a marca do sabonete que você compra – a mesma mecânica de construção de perfis de usuários, e de mensagens segmentadas se aplica a campanhas políticas e pedidos de visto, tanto quanto à métricas de supermercados. Quando a publicidade se parece com notícias, e notícias parecem entretenimento, todos os tipos de conteúdo são perfilados com base em seus dados.

Então, que história seus dados contam sobre você?

As camadas do seu perfil on-line

Seria muito bom acreditar que temos controle sobre o nosso perfil online. Afinal de contas, somos nós que fornecemos terabytes de dados pessoais em aplicativos para dispositivos móveis e plataformas on-line. Nós decidimos quais fotos queremos compartilhar e quais devem permanecer privadas. Aceitamos ou rejeitamos convites, controlamos tags e pensamos duas vezes antes de publicar uma postagem ou um comentário. Somos críticos e seletivos sobre o conteúdo que gostamos ou compartilhamos. Então, por que não estaríamos no controle?

A má notícia é que, quando se trata do seu perfil digital, os dados que você escolhe compartilhar são apenas a ponta de um iceberg. Nós não vemos o resto que está escondido sob a água das interfaces amigáveis de aplicativos móveis e serviços online. Os dados mais valiosos sobre nós são inferidos além do nosso controle, e sem nosso consentimento. São essas camadas mais profundas que não podemos controlar que realmente tomam as decisões, não nós.

Vamos descascar essa cebola de dados.

As três camadas da sua sombra digital.

(Se quiser ver este gráfico ainda maior, clique aqui.)

A primeira camada é aquela que você controla. Consiste em dados que você alimenta em mídias sociais e aplicativos móveis. Isso inclui o que você revelou em suas informações de perfil, suas postagens públicas e mensagens privadas, curtidas, consultas de pesquisa, fotos enviadas, testes e enquetes que você realizou, eventos que participou, sites visitados e outros tipos de interações conscientes.

A segunda camada é feita de observações comportamentais. Essas não são tantas escolhas que você faz conscientemente, mas os metadados que contextualizam essas escolhas. Ele contém coisas que você provavelmente não deseja compartilhar com todos, como a sua localização em tempo real e uma compreensão detalhada de seus relacionamentos íntimos e profissionais. (Observando os padrões de localização que revelam dispositivos que geralmente se encontram nos mesmos prédios de escritórios ou “dormem” juntos nas mesmas casas, as empresas de tecnologia podem dizer muito sobre com quem você gasta seu tempo.) Ele também rastreia seus padrões de quando você está on-line e off-line, conteúdo em que você clicou, tempo gasto lendo, padrões de compras, dinâmica de digitação, velocidade de digitação e movimentos de seus dedos na tela (que algumas empresas acreditam que revelam emoções e vários recursos psicológicos).

A terceira camada é composta de interpretações da primeira e da segunda. Seus dados são analisados ​​por vários algoritmos e comparados com os dados de outros usuários para correlações estatísticas significativas. Esta camada infere conclusões não apenas sobre o que fazemos, mas sobre quem somos, baseados em nosso comportamento e metadados. É muito mais difícil controlar essa camada, pois embora você possa controlar as entradas (postar fotos do seu recém-nascido), você não conhece o algoritmo que está emitindo a saída (talvez seja necessário solicitar fraldas).

Veja como isso funciona na prática:

A tarefa desses algoritmos de mapeamento de perfil é adivinhar coisas que você provavelmente não revelará de bom grado. Estas incluem suas fraquezas, perfil psicométrico, nível de QI, situação familiar, vícios, doenças, se estamos prestes a separar ou entrar em um novo relacionamento, suas pequenas obsessões (como jogos), e seus compromissos sérios (como projetos de negócios).

Essas previsões e interpretações comportamentais são muito valiosas para o anunciante. Como a publicidade é destinada a criar necessidades e conduzir você a tomar decisões que (ainda) não foram tomadas, os profissionais de marketing tentarão explorar seus mecanismos subconscientes e reações automáticas. Como eles não podem esperar que você lhes diga como fazer isso, eles procuram dados comportamentais e empregam algoritmos para encontrar correlações significativas nesse caos.

As decisões vinculantes feitas por bancos, seguradoras, empregadores e funcionários públicos são tomadas por big data e algoritmos, não por pessoas. Eles economizam muito tempo e dinheiro para analisar os dados, em vez de falar com os humanos, afinal. E parece mais racional colocar as correlações estatísticas sobre uma história individual confusa.

Portanto, há uma crença compartilhada na indústria da publicidade de que o big data não mente – que as correlações estatísticas dizem a “verdade” sobre os humanos, seu comportamento e suas motivações.

Mas e eles?

Quando seus dados duplicam errados

O problema é que nós, como usuários, talvez não gostemos ou não nos reconheçamos nos perfis que são criados para nós. Como você se sentiria se descobrisse que seu “dado duplo” está doente ou emocionalmente instável, não merecedor de crédito, ou simplesmente não é legal o suficiente, tudo por causa da maneira como você digita, suas consultas de pesquisa, ou qualquer relacionamento “estranho” que você possa ter?

Sua simulação on-line pode não se parecer muito com a sua vida real, mas é como a Internet vai tratar você.

Os agentes do mercado não se importam com você, eles se importam com os números. Algoritmos tomam decisões com base em correlações estatísticas. Se acontecer de você não ser um indivíduo típico, mostrando características incomuns, há uma chance de um algoritmo interpretar mal seu comportamento. Pode cometer um erro em relação ao seu emprego, seu empréstimo ou seu direito de cruzar a fronteira. Enquanto essas correlações estatísticas permanecerem verdadeiras, ninguém se importará em revisar este julgamento específico. Você é uma anomalia.

Se o resultado dessa análise algorítmica for discriminatório ou injusta – por exemplo, seu pedido de crédito é recusado porque você mora no bairro “errado” ou seu pedido de emprego é negado porque sua rede social não é “robusta o suficiente” – não há incentivo de mercado para corrigi-lo. Por que eles? Você é um único ponto de dados em uma onda de bilhões. Por que fazer uma exceção no sistema só para você?

Já podemos ver isso acontecendo na China. Como parte de seu sistema de “pontuação de crédito social“, cada cidadão é classificado em interações pessoais e profissionais, atividades on-line e aparições públicas. Esqueceu de pagar um bilhete de estacionamento? Procurou tópicos “proibidos” online? Suas ações na vida real têm efeitos duradouros, como a possibilidade de comprar bilhetes de trem ou mandar seus filhos para boas escolas.

Sistemas de pontuação no Ocidente colocam a mesma confiança cega em big data, ignorando a especificidade e a singularidade de casos individuais. Podemos balançar a cabeça com o absurdo da pontuação de crédito social da China, tudo o que desejamos – mas estamos realmente tão distantes de nós mesmos?

Será que o seu eu digital real irá emergir?

Devemos retomar o controle de nossas sombras digitais. Se não o fizermos, continuaremos a ser incorretamente e injustamente penalizados em nossas vidas, tanto on-line quanto off-line.

Podemos tomar medidas para controlar a primeira camada do nosso perfil online. Apesar de sermos muitas vezes impulsivos ou espontâneos com os dados que compartilhamos, temos as ferramentas para controlar esse processo. Podemos optar por não postar atualizações de status ou curtir páginas. Não precisamos usar sistemas de mensagens integrados em plataformas de mídia social. Podemos criptografar nossa comunicação privada escolhendo determinados aplicativos de mensagens e bloqueando scripts de rastreamento instalando plug-ins simples. Podemos até mesmo desativar os metadados armazenados em nossas fotos alterando as configurações padrão em nossos telefones e garantindo que eles não tenham acesso aos nossos locais.

Mas mesmo que façamos todo este esforço, não podemos controlar o que é observado e interpretado pelos algoritmos. A segunda e terceira camadas de nossos perfis continuarão a ser geradas por máquinas.

A única maneira de recuperar o controle total sobre nossos perfis é convencer aqueles que fazem o perfil, a mudar sua abordagem. Em vez de esconder esses dados de nós, eles poderiam se tornar mais transparentes. Em vez de adivinhar nossa localização, relacionamentos ou desejos ocultos pelas nossas costas, eles poderiam fazer perguntas e respeitar nossas respostas.

Em vez de manipulação, vamos conversar. Imagine que, em vez de ter “data brokers” adivinhando quem você é, você poderia simplesmente dizer a eles. Compartilhar informações reais ajudaria a tornar sua experiência on-line (e qualquer ramificação off-line) mais precisa.

Soa muito radical ou ingênuo? Na verdade não. A lei européia quanto a brasileira, recém aprovada, já exigem que as empresas que se envolvam em rastreamento e criação de perfis tornem tais práticas mais transparente. O regulamento de proteção de dados GDPR, que foi implementado em maio de 2018, e a Lei Geral de Proteção de Dados do Brasil, conhecida como LGPD, aprovada em agosto de 2018, dão aos usuários de suas respectivas jurisdições o direito de acesso aos seus dados, e também de entender de que forma estes são tratados, para o que são utilizados, incluindo perfis de marketing gerados por data brokers, plataformas de internet ou mídia on-line. Embora as empresas ainda possam proteger seus códigos e algoritmos como segredos comerciais, elas não podem mais ocultar dados pessoais que geram sobre seus usuários.

O GDPR e a LGPD e suas lógicas oferecem aos usuários um bom ponto de partida para negociar um novo equilíbrio de forças na indústria orientada por dados. Mas o que tornará possíveis transações adicionais no futuro é a construção de confiança. Enquanto tratarmos data brokers e profissionais de marketing como inimigos, e eles nos tratarem como um recurso explorável, não há espaço para conversas abertas.

Portanto, é hora de tratar os usuários como agentes ativos, não como participantes passivos. Com a GDPR e a LGPD em vigor e novas empresas construindo sua vantagem competitiva na confiança e transparência, novos modelos de marketing e financiamento de conteúdo online se tornam realistas. Soluções que parecem ser contra-intuitivas e arriscadas podem se tornar o caminho mais natural: em vez de dizer aos usuários quem são, tente ouvir o que eles dizem.


Créditos

Katarzyna é co-fundadora da Panoptykon Foundation.

Renato Leite Monteiro é Doutorando pela USP

João Carlos Rebello Caribé é Mestrando em Ciência da Informação pela UFRJ/PPGCI

Este artigo é uma tradução autorizada pela autora, do artigo “Your digital identity has three layers, and you can only protect one of them”, publicado por Katarzyna Szymielewicz, no Quartz.

Conforme determinado pela autora, este artigo traduzido e adaptado está sob licença Creative Commons – Atribuição-Não Comercial 4.0 Internacional.


João Carlos Rebello Caribé

Mestrando em Ciência da Informação pela UFRJ (PPGCI), turma de 2017. Membro do Laboratório em Rede de Humanidades Digitais (LarHud) e do Estudos Críticos em Informação, Tecnologia e Organização Social (Escritos).

Deixe uma resposta

O seu endereço de e-mail não será publicado.