Racismo Algorítmico: o que é?
Foto: AgeMT-PUC SP/Getty Images
Por Mayza Bendinskas
Revisão de Daniela Osvald
No contexto contemporâneo e diante dos desafios decorrentes das novas tecnologias da informação, sobretudo a inteligência artificial, e das constantes mudanças e trocas sociais, culturais e políticas, é preciso manter o olhar atento para as problemáticas emergentes que permeiam a sociedade. Nas últimas décadas, as discussões sobre o preconceito online se intensificaram, relacionadas à importância que a tecnologia assumiu na vida humana, à complexidade dos sistemas de informação e à maneira de se expressar virtualmente, assim como os discursos que habitam a totalidade da internet. É nessa realidade que o racismo algorítmico surge e se torna um tema essencial a ser conhecido e debatido, principalmente, devido à interferência no modo de funcionamento de outras áreas de conhecimento, por se fazer presente nos bancos de dados, bancos de imagens e inteligências artificiais, constantemente utilizadas por profissionais da comunicação, da gestão, da segurança, da estatística e muitos outros ramos, como também a identificação facial realizada por inteligência artificial.
Termo estudado e popularizado por Tarcízio Silva em seu livro “Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais”, de 2022, o racismo algorítmico, por exemplo, se constitui na discriminação racial perpetuada a partir das noções algorítmicas das tecnologias da informação, reforçando pensamentos e comportamentos preconceituosos já presentes no tecido social. Segundo Tarcízio, quando cita Carone e Bento em seu artigo “Visão Computacional e Racismo Algorítmico: Branquitude e Opacidade No Aprendizado De Máquina”:
As interfaces e sistemas podem materializar, de forma análoga ao que acontece nos fluxos semânticos da sociedade os "preconceitos não manifestos, presentes invisivelmente na cabeça dos indivíduos, e asconsequências dos efeitos da discriminação na estrutura psíquica das pessoas" (2020, p. 431).
Em outras palavras, as tecnologias não são neutras ideologicamente, pois antes de tudo, são elaboradas por seres humanos. O machine learning (aprendizado de máquina) é alimentado a partir dos dados fornecidos e selecionados por alguém, e se esse alguém carrega consigo a ideia de discriminação racial, os processos realizados refletirão isso. Com a formação de, por exemplo, bancos de imagens online constituídos a partir dessa lógica, como estudado por Carvalho e Carrera (2024), a comunicação tenderá dar continuidade a esse pensamento, caso não haja o reconhecimento do preconceito presente nestes sistemas, para então, se agir contra a discriminação e não se contribuir para o reforço dos estereótipos de cor.
No entanto, a violência não se restringe a esfera simbólica e o racismo algorítmico penetra a esfera material na medida em que leva o prejuízo para usuários de aplicativos que apresentam falhas ao realizar a leitura de feições faciais, de filtros que alteram as suas características físicas em sentido embranquecedor, ou para pedestres que correram um maior risco de atropelamento por carros autônomos devido a cor da sua pele (Silva, 2022), impossibilitados de utilizar do aparato tecnológico em sua totalidade e perfeito funcionamento, além do risco físico presente na situação dos automóveis.
Conhecendo e pesquisando o preconceito codificado por algoritmos, o enfrentamento e o combate se tornam essenciais. É possível se opor ao racismo algorítmico mantendo o olhar crítico ao navegar pela internet, consciente da possibilidade de se deparar com conteúdo discriminatório, e não levando estas informações para a frente enquanto comunicador e pesquisador. Já para quem produz tecnologia, refletir sobre formas de representar a diversidade do mundo real e aplicar isto aos sistemas de informação pode contribuir para uma sociedade mais igualitária. Aos educadores, informar e ensinar a respeito do tema pode ser um passo para transformação e a construção do pensamento crítico e consciente.
REFERÊNCIAS:
CARRERA, Fernanda; CARVALHO, Denise. Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais. Galáxia (São Paulo, Online), São Paulo, n. 43, p. 99-114, jan.-abr. 2020. Disponível em: http://dx.doi.org/10.1590/1982-25532020141614. Acesso em: 13 nov. 2025.
DANTAS, Sarah. Racismo algorítmico e os impactos sociais: professor da UFMA explica os desafios no combate à discriminação racial na era da inteligência artificial. Universidade Federal do Maranhão. São Luís, [2025]. Disponível em: https://portalpadrao.ufma.br/site/noticias/racismo-algoritmico-e-os-impactos-sociais-professor-da-ufma-explica-os-desafios-no-combate-a-discriminacao-racial-na-era-da-inteligencia-artificial. Acesso em: 13 nov. 2025.
SILVA, Tarcízio. Visão Computacional e Racismo Algorítmico: Branquitude e Opacidade no Aprendizado de Máquina. Revista da ABPN, 12, 428-448. dez.-fev. 2020.
https://doi.org/10.31418/2177-2770.2020.v12.n.31.p428-448
