Algoritmos e redes sociais: uma reflexão e alerta sobre manipulação, discriminação e desinformação

Por Débora Foguel, Jade Percassi e Nicole Santos

 Não faz muito tempo, as plataformas das assim chamadas redes sociais funcionavam como murais de perfis pessoais ou institucionais, em que se fixavam publicações a serem apresentadas sob a forma de linha do tempo (timeline) de cada usuário. Tais publicações ou “posts” eram apresentadas obedecendo uma ordem cronológica, de acordo com a data e horário de emissão, e eram acessadas pelos perfis conectados por decisão de cada usuário (por meio da conexão de “amizade” no caso do Facebook, ou da opção “seguir” no Instagram e no Twitter).

Mas isso foi antes. A suposta evolução do gerenciamento das formas de operação nas redes com a utilização da inteligência artificial fez emergir um novo personagem onisciente e onipresente, o famigerado algoritmo. Os algoritmos das redes sociais são um conjunto de códigos de identificação de padrões que operam para determinar quais resultados ou conteúdos ficarão visíveis para os usuários, com que frequência e relevância. Ou seja, quem escreve esses algoritmos imprime nos mesmos um código de prioridade que, muitas vezes, tem como objetivo te apresentar e te vender um produto comercial, mas não só isso. Para escolher que produtos apresentar, os algoritmos "vasculham" a sua vida virtual e seus perfis em busca de informações sobre suas preferências, fragilidades (não resisto a um sapato novo…), fortalezas (poder aquisitivo). Dessa forma, precisamos estar alertas para essas plataformas ditas gratuitas, às quais você se associa sem custo. Lembre-se que nessas plataformas o produto é você, seu perfil, seus dados, suas preferências e essas informações valem muitos milhões, bilhões....

À parte toda a preocupação legítima e necessária de amplos segmentos da sociedade sobre os métodos eventualmente heterodoxos de extração e utilização dos dados de usuários para fins comerciais - que vem gerando marcos regulatórios e legislações específicas em âmbito internacional-, há um aspecto tão ou mais nocivo e digno de atenção no que se refere às consequências materiais das relações virtualmente estabelecidas. Trata-se da manipulação de algoritmos com intencionalidade política, que serve à reprodução de linhas de pensamento e valores hegemônicos que visam a orientar o imaginário coletivo de determinadas categorias de perfis, e as práticas sociais de seus correspondentes humanos.

Teoricamente, a fórmula dos algoritmos nada teria de perversa em si, consistindo na observação da frequência com que cada usuário interage com uma página ou perfil da plataforma, e a consequente concentração ou direcionamento de informações “semelhantes”. No entanto, precisamos chamar a atenção para fatos importantes acerca dos algoritmos: 1. Algoritmos são escritos, na sua maioria, por homens brancos (sim, nessa área, predomina o sexo masculino branco) que imprimem nos mesmos sua visão particular e enviesada de mundo; 2. A inteligência artificial e algoritmos são alimentados e criados valendo-se de dados e informações de 10-20 anos atrás, ou seja, eles incorporam quase nada dos poucos, mas importantes, avanços sociais dos últimos anos (movimentos como #MeToo, conquistas raciais, gênero/orientação sexual etc..) e 3. Nosso desconhecimento sobre como essas tecnologias operam é mínimo ou nulo, sendo as mesmas invisíveis para nós, o que é inadmissível. Nesse último tópico, certamente precisamos levar essa discussão também para nossas escolas, pois, as pessoas jovens, que usam as redes sociais como o ar que respiram, precisam saber como isso tudo opera, para poderem fazer suas escolhas, qualquer escolha, com mais consciência, inclusive questionando essa forma de comunidade social.

Nesse contexto, temos excelentes filmes sobre o tema e deixamos aqui algumas dicas. O filme “A Rede Social”, de 2010, já nos alertava para as consequências, ainda desconhecidas, porém potencialmente nocivas, da implantação de mecanismos internos de determinação da entrega de conteúdo aos usuários. Dez anos depois, com o acúmulo de escândalos de vazamentos de dados, propagação de discurso de ódio e desinformação, novamente a sétima arte instaura o debate: o polêmico “Dilema das Redes” trouxe à tona as evidências sobre os mecanismos criados para manipular emoções e comportamentos e manter usuários conectados, enquanto “Coded Bias” apresentou ao público as violações de direitos devido às falhas na utilização de inteligência artificial para reconhecimento facial, com forte discriminação para pessoas de pele negra, inclusive pela polícia.

Ou seja, para que não haja dúvidas, toda essa discussão não busca qualquer forma de estigmatização da tecnologia, mas apenas reafirmar que ela não é nunca neutra, e tende a reproduzir práticas discriminatórias de raça, de classe e de gênero presentes na sociedade, o que aponta para a necessidade de mudanças estruturais, a começar pela sua transparência e regulamentação. Por mais democráticas e abertas à diversidade que as redes sociais e a tecnologia possam parecer, é preciso atenção às formas de exclusão que estas podem estar reproduzindo ou criando, afinal, inteligências artificiais se comportam e agem com viés da sociedade em que estão inseridas. Ou seja, as máquinas precisam ser ensinadas a serem mais inclusivas, mas isso só será possível se houver uma mudança efetiva por parte de quem está atrás delas!

Débora Foguel, professora da UFRJ e pesquisadora SOU_CIÊNCIA

Jade Percassi, doutora em educação pela USP, pós-doutoranda no SOU_CIÊNCIA

Nicole Santos, estudante de história da arte na Unifesp e bolsista do SOU_CIÊNCIA