From Historical Prejudices to Algorithms: the continuity of racial discrimination in digital platforms
DOI:
https://doi.org/10.5380/rrddis.v6i11.104608Keywords:
Algorithmic racism, Algorithmic oppression, Digital discrimination, Digital platforms, AccountabilityAbstract
ABSTRACT: This article analyzes how algorithms, through digital platforms, perpetuate racial discrimination in contemporary society. The investigation establishes parallels between algorithmic discriminatory practices and patterns of racial discrimination in Brazil (which are routinely eclipsed by the myth of racial democracy), evidencing structural continuities in the oppression of racialized groups. Through bibliographic research grounded in the works of Tarcízio Silva and Safiya Umoja Noble, the study examines the concepts of algorithmic racism and algorithmic oppression. Tarcízio Silva conceptualizes algorithmic racism as the racialized ordering of social classification, resources, and violence carried out through technologies and sociotechnical imaginaries in a world shaped by white supremacy. Noble, in turn, defines algorithmic oppression as algorithm-driven data failures that underscore the structural forms through which racism and sexism have become explicit in digital technologies. The research demonstrates that algorithmic discrimination constitutes a manifestation of structural racism rooted in society, reproducing and amplifying historical inequalities in the digital environment. Through the analysis of concrete cases on platforms such as Facebook and LinkedIn, the study reveals how Black women and other marginalized groups are systematically directed toward subordinate positions by algorithmic recommendation systems. Finally, the article examines Brazilian and comparative normative frameworks, identifying possibilities for legal accountability of digital platforms and proposing pathways to confront algorithmic racism through transparency and accountability of Big Tech companies.
Keywords: Algorithmic racism. Algorithmic oppression. Digital discrimination. Digital platforms. Accountability.
References
BENTO, Maria Aparecida da Silva. Pactos narcísicos no racismo: branquitude e poder nas organizações empresariais e no poder público. 2002. Tese (Doutorado em Psicologia) – Instituto de Psicologia, Universidade de São Paulo, São Paulo, 2002. Disponível em: https://teses.usp.br/teses/disponiveis/47/47131/tde-18062019-181514/pt-br.php. Acesso em: 05 mai. 2026.
BONILLA-SILVA, Eduardo. Racism without racists: colorblind racism and the persistence of racial inequality in the United States. Maryland: Rowman & Littlefield, 2006. Disponível em: http://ndl.ethernet.edu.et/bitstream/123456789/32178/1/2669.pdf. Acesso em: 05 mai. 2026.
BRASIL. Conselho Nacional de Justiça. Protocolo para julgamento com perspectiva racial. Brasília: CNJ, 2024. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2024/11/protocolo-para-julgamento-com-perspectiva-racial-2.pdf. Acesso em: 07 mai. 2026.
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 07 mai. 2026.
BRASIL. Decreto nº 10.932, de 10 de janeiro de 2022. Promulga a Convenção Interamericana contra o Racismo, a Discriminação Racial e Formas Correlatas de Intolerância. Brasília, DF: Presidência da República, 2010. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2022/decreto/d10932.htm. Acesso em: 08 mai. 2026.
BRASIL. Lei nº 12.288, de 20 de julho de 2010. Institui o Estatuto da Igualdade Racial. Brasília, DF: Presidência da República, 2010. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2007-2010/2010/lei/l12288.htm. Acesso em: 07 mai. 2026.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 07 mai. 2026.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou de cor. Brasília, DF: Presidência da República, 1989. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em: 07 mai. 2026.
DANIELS, Jessie; NKONDE, Mutale; MIR, Darakhshan. Advancing Racial Literacy in Tech. Relatório do Data & Society Fellowship Program, 2019. Disponível em: https://datasociety.net/wp-content/uploads/2019/05/Racial_Literacy_Tech_Final_0522.pdf. Acesso em: 06 mai. 2026.
DIWAN, Pietra. Raça pura: uma história da eugenia no Brasil e no mundo. São Paulo: Contexto, 2015.
FRAZÃO, Ana. Discriminação algorítmica: por que algoritmos preocupam quando acertam e erram? Jota, 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-por-que-algoritmos-preocupam-quando-acertam-e-erram. Acesso em: 06 mai. 2026.
HASENBALG, Carlos. Discriminação e desigualdades raciais no Brasil. Tradução de Patrick Burglin. Belo Horizonte: UFMG; Rio de Janeiro: IUPERJ, 2005.
JACCOUD, Luciana. Racismo e República: o debate sobre o branqueamento e a discriminação racial no Brasil. In: THEODORO, Mário (org.). As políticas públicas e a desigualdade racial no Brasil: 120 anos após a abolição. Brasília: IPEA, 2008.
MOREIRA, Adilson José. O que é discriminação? 2. ed. reimpressa. Belo Horizonte: Letramento, 2017.
NASCIMENTO, Abdias do. O genocídio do negro brasileiro: processo de um racismo mascarado. Rio de Janeiro: Paz e Terra, 1978.
NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. São Paulo: Rua do Sabão, 2021.
NOBLE, Safiya Umoja; ROBERTS, Sarah T. Elites tecnológicas, meritocracia e mitos pós-raciais no Vale do Silício. Fronteiras – estudos midiáticos, v. 22, n. 1, 2020. Disponível em: https://revistas.unisinos.br/index.php/fronteiras/article/view/fem.2020.221.04/60747748. Acesso em: 05 mai. 2026.
REVISTA AFIRMATIVA. 'Vagas que combinam com seu perfil': o racismo algorítmico no LinkedIn. 2025. Disponível em: https://www.brasildedireitos.org.br/atualidades/vagas-que-combinam-com-seu-perfil-o-racismo-algoritmico-no-linkedin/. 06 mai. 2026.
RIOS, Roger Raupp. Direito da antidiscriminação: discriminação direta, indireta e ações afirmativas. Porto Alegre: Livraria do Advogado, 2008.
ROSSINI, Selma Regina Carloto Martins Guedes. Discriminação algorítmica em processos seletivos eletrônicos e uma metodologia para eliminação de vieses discriminatórios. 2023. Tese (Doutorado em Engenharia da Informação) – Universidade Federal do ABC, Santo André, 2023. Disponível em: https://sig.ufabc.edu.br/sigaa/public/programa/defesas.jsf?lc=en_US&id=204. Acesso em: 06 mai. 2026.
SCHIPPERS, Laurianne-Marie. Algoritmos que discriminam: uma análise jurídica da discriminação no âmbito das decisões automatizadas e seus mitigadores. 2018. Trabalho de Conclusão de Curso (Graduação em Direito) – Fundação Getúlio Vargas, São Paulo, 2018. Disponível em: https://repositorio.fgv.br/items/0778ae90-0a4b-4d6a-94e7-07e66c7159ad. 05 mai. 2026.
SILVA, Tarcízio (ed.) et al. Mapeamento de danos e discriminação algorítmica. Desvelar, 2025. Disponível em: https://desvelar.org/casos-de-discriminacao-algoritmica/. Acesso em: 05 mai. 2026.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022.
TELLES, Edward. Racismo à brasileira: uma nova perspectiva sociológica. Tradução de Ana Arruda Callado, Nadjeda Rodrigues Marques e Camila Olsen. Rio de Janeiro: Relume Dumará; Fundação Ford, 2003.
THEODORO, Mário. A formação do mercado de trabalho e a questão racial no Brasil. In: THEODORO, Mário (org.). As políticas públicas e a desigualdade racial no Brasil: 120 anos após a abolição. Brasília: IPEA, 2008.
UNIÃO EUROPEIA. Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016. Relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados. Jornal Oficial da União Europeia, 2016. Disponível em: https://eur-lex.europa.eu/. Acesso em: 08 mai. 2026.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho. Estabelece regras harmonizadas em matéria de inteligência artificial. Jornal Oficial da União Europeia, 2024. Disponível em: https://eur-lex.europa.eu/. Acesso em: 08 mai. 2026.
WACHTER-BOETTCHER, Sara. Technically wrong: sexist apps, biased algorithms, and other threats of toxic tech. New York: W. W. Norton & Company, 2017
Downloads
Published
How to Cite
Issue
Section
Categories
License
Copyright (c) 2026 Stéfany Pina, Pablo Biondi
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
Os autores declaram que qualquer texto apresentado, se aceito, não será publicado em outro meio/lugar, em inglês ou em qualquer outra língua, e inclusive por via eletrônica, salvo mencione expressamente que o trabalho foi originalmente publicado na RRDDIS - Revista Rede de Direito Digital, Intelectual & Sociedade. A Revista RRDDIS desde a sua primeira publicação, licencia todos os textos sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista;
DECLARAÇÃO DE DIREITO AUTORAL Os autores que publicam na Revista RRDDIS concordam com os seguintes termos: – os autores mantêm os direitos autorais e transferem à Revista o direito de primeira publicação, com o trabalho licenciado sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista; – os autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada na Revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento da autoria e da publicação inicial na Revista; – qualquer pessoa é livre para compartilhar (copiar e redistribuir o trabalho em qualquer suporte ou formato) e para adaptar (remixar, transformar e criar a partir do trabalho) para qualquer fim, mesmo que comercial, devendo todavia, em qualquer caso, dar o crédito apropriado, prover um link para a licença e indicar se mudanças foram feitas no trabalho original, nos termos da Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR e respeitados a Lei nº 9.610, de 19 de fevereiro de 1998, e outros normativos vigentes.
