Eletrônica e Informática

Programação de algoritmos sugere racismo no universo de Tecnologia da Informação

De tempos em tempos reaviva-se um debate que, apesar do barulho causado, quase nunca se aprofunda dentro da esfera pública. Essa discussão gira em torno da responsabilidade social e das estruturas sociais que impactam diretamente no desenvolvimento e programação de algoritmos, que também aparecem diariamente via redes sociais, contato com grandes empresas (como bancos) e em toda a jornada na web.

Embora muitos sejam os casos que geraram polêmica, o mais recente foi verificado na rede social Twitter. Muitos usuários verificaram que o algoritmo da rede centralizava a prévia das imagens postadas em pessoas brancas, e nunca negras. Diversas foram as tentativas para que o algoritmo centralizasse a foto na timeline em um rosto de homem ou mulher negra, mas a ferramenta sempre “desviava” o foco das imagens. A descoberta levantou questionamentos, e a explicação foi o banco de imagens utilizado para a programação dos algoritmos (em geral com pessoas apenas brancas) e também o perfil dos programadores em questão.

“Esse comportamento dos algoritmos diz muito sobre quem os programou, e muito mais sobre a sociedade em que vivemos, com seus preconceitos e desigualdades estruturais arraigados. A evolução rápida do desenvolvimento dessas tecnologias não acompanha os debates correntes na sociedade. Podemos dizer que a introdução da ética é um movimento a posteriori. Quando, em processos modernos e saudáveis, a toda tecnologia corresponde uma ética desde o seu início”, sinaliza César Souza, um dos líderes técnicos em algoritmo na Certsys.

De acordo com Souza, este tipo de situação escancara também uma falha estrutural inerente ao próprio nicho de TI, onde “estão ainda muito incipientes os debates que levaram ao avanço da questão humanitária e identitária na sociedade contemporânea”. Atitudes como as de ‘robôs racistas’ vão de encontro a uma mudança institucional que é tendência no mercado, relativa à busca por maior diversidade em espaços corporativos e em todos os níveis de trabalho.

Em vista de que os processos mediados por Inteligência Artificial ainda não estejam em um estágio de geração de conteúdo próprio, estes são alimentados com dados prévios. “É fato que toda informação carrega um viés, uma tendência. Essa tendência vai se replicar para o sistema que foi treinado. Em um cenário em que há dados, mas não informações sobre eles, a catalogação se torna outro problema. Neste caso, o problema não é o dado, mas quem está catalogando. Dependendo de quem e como se classifica esse dado, estará induzindo sim esse sistema eletrônico a um determinado tipo de comportamento. Quando surgem temáticas sobre reconhecimento facial, triagem de currículo, sempre reverbera uma polêmica atrelada, porque ainda nenhum desses sistemas consegue garantir que não será enviesado”, continua César.

O meio, a informação, diversos fatores sociais nos quais estamos inseridos afetam a percepção de diversas questões. A IA carrega a estruturalidade dos preconceitos arraigados na nossa sociedade. “Existe pouco diálogo na Academia, no setor de TI e entre os movimentos. É um meio que é um reflexo muito grande da nossa sociedade, e falta acolhimento dentro da área. Tivemos um passo grande tecnologicamente falando, e agora temos que voltar alguns passos para adequar isso a uma ética”, prossegue.

Ainda de acordo com o especialista, dentro do setor de TI, novos grupos surgem para debater este tipo de questão e alinhar o ambiente de tecnologia às temáticas latentes em outras áreas. “É um assunto delicado para as empresas, porque mexe com a imagem delas. Falta uma interdisciplinaridade maior entre as áreas. Alguns currículos de universidades do exterior já incluem certas disciplinas que apontam para esse caminho. É necessário apresentar para quem está saindo da universidade esse outro lado da figura tecnológica”, finaliza César Souza.

Mostrar mais

Artigos relacionados

Botão Voltar ao topo