Dos Preconceitos Históricos aos Algoritmos: a continuidade da discriminação racial em plataformas digitais
DOI:
https://doi.org/10.5380/rrddis.v6i11.104608Palavras-chave:
Racismo algorítmico, Opressão algorítmica, Discriminação digital, Plataformas digitais, ResponsabilizaçãoResumo
RESUMO: Este artigo analisa como os algoritmos, por meio das plataformas digitais, perpetuam discriminações raciais na contemporaneidade. A investigação estabelece paralelos entre as práticas discriminatórias algorítmicas e os padrões de discriminação racial no Brasil (os quais são corriqueiramente eclipsados pelo mito da democracia racial), evidenciando continuidades estruturais na opressão de grupos racializados. Mediante pesquisa bibliográfica fundamentada nos trabalhos de Tarcízio Silva e Safiya Umoja Noble, o estudo examina os conceitos de racismo algorítmico e opressão algorítmica. Tarcízio Silva conceitua o racismo algorítmico como a ordenação racializada de classificação social, recursos e violência realizada por meio de tecnologias e imaginários sociotécnicos em um mundo moldado pela supremacia branca. Noble, por sua vez, define opressão algorítmica como falhas de dados guiadas por algoritmos que sublinham as formas estruturais pelas quais o racismo e o sexismo tornaram-se explícitos nas tecnologias digitais. A pesquisa demonstra que a discriminação algorítmica constitui manifestação do racismo estrutural enraizado na sociedade, reproduzindo e amplificando desigualdades históricas no ambiente digital. Por meio da análise de casos concretos em plataformas como Facebook e LinkedIn, o estudo evidencia como mulheres negras e outros grupos minorizados são sistematicamente direcionados a posições subalternas pelos sistemas de recomendação algorítmica. Por fim, o artigo examina os marcos normativos brasileiros e comparados, identificando possibilidades de responsabilização jurídica das plataformas digitais e propondo caminhos para o enfrentamento do racismo algorítmico mediante transparência e responsabilidade das Big Techs.
Palavras-chave: Racismo algorítmico. Opressão algorítmica. Discriminação digital. Plataformas digitais. Responsabilização.
Referências
BENTO, Maria Aparecida da Silva. Pactos narcísicos no racismo: branquitude e poder nas organizações empresariais e no poder público. 2002. Tese (Doutorado em Psicologia) – Instituto de Psicologia, Universidade de São Paulo, São Paulo, 2002. Disponível em: https://teses.usp.br/teses/disponiveis/47/47131/tde-18062019-181514/pt-br.php. Acesso em: 05 mai. 2026.
BONILLA-SILVA, Eduardo. Racism without racists: colorblind racism and the persistence of racial inequality in the United States. Maryland: Rowman & Littlefield, 2006. Disponível em: http://ndl.ethernet.edu.et/bitstream/123456789/32178/1/2669.pdf. Acesso em: 05 mai. 2026.
BRASIL. Conselho Nacional de Justiça. Protocolo para julgamento com perspectiva racial. Brasília: CNJ, 2024. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2024/11/protocolo-para-julgamento-com-perspectiva-racial-2.pdf. Acesso em: 07 mai. 2026.
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 07 mai. 2026.
BRASIL. Decreto nº 10.932, de 10 de janeiro de 2022. Promulga a Convenção Interamericana contra o Racismo, a Discriminação Racial e Formas Correlatas de Intolerância. Brasília, DF: Presidência da República, 2010. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2022/decreto/d10932.htm. Acesso em: 08 mai. 2026.
BRASIL. Lei nº 12.288, de 20 de julho de 2010. Institui o Estatuto da Igualdade Racial. Brasília, DF: Presidência da República, 2010. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2007-2010/2010/lei/l12288.htm. Acesso em: 07 mai. 2026.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 07 mai. 2026.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou de cor. Brasília, DF: Presidência da República, 1989. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em: 07 mai. 2026.
DANIELS, Jessie; NKONDE, Mutale; MIR, Darakhshan. Advancing Racial Literacy in Tech. Relatório do Data & Society Fellowship Program, 2019. Disponível em: https://datasociety.net/wp-content/uploads/2019/05/Racial_Literacy_Tech_Final_0522.pdf. Acesso em: 06 mai. 2026.
DIWAN, Pietra. Raça pura: uma história da eugenia no Brasil e no mundo. São Paulo: Contexto, 2015.
FRAZÃO, Ana. Discriminação algorítmica: por que algoritmos preocupam quando acertam e erram? Jota, 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-por-que-algoritmos-preocupam-quando-acertam-e-erram. Acesso em: 06 mai. 2026.
HASENBALG, Carlos. Discriminação e desigualdades raciais no Brasil. Tradução de Patrick Burglin. Belo Horizonte: UFMG; Rio de Janeiro: IUPERJ, 2005.
JACCOUD, Luciana. Racismo e República: o debate sobre o branqueamento e a discriminação racial no Brasil. In: THEODORO, Mário (org.). As políticas públicas e a desigualdade racial no Brasil: 120 anos após a abolição. Brasília: IPEA, 2008.
MOREIRA, Adilson José. O que é discriminação? 2. ed. reimpressa. Belo Horizonte: Letramento, 2017.
NASCIMENTO, Abdias do. O genocídio do negro brasileiro: processo de um racismo mascarado. Rio de Janeiro: Paz e Terra, 1978.
NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. São Paulo: Rua do Sabão, 2021.
NOBLE, Safiya Umoja; ROBERTS, Sarah T. Elites tecnológicas, meritocracia e mitos pós-raciais no Vale do Silício. Fronteiras – estudos midiáticos, v. 22, n. 1, 2020. Disponível em: https://revistas.unisinos.br/index.php/fronteiras/article/view/fem.2020.221.04/60747748. Acesso em: 05 mai. 2026.
REVISTA AFIRMATIVA. 'Vagas que combinam com seu perfil': o racismo algorítmico no LinkedIn. 2025. Disponível em: https://www.brasildedireitos.org.br/atualidades/vagas-que-combinam-com-seu-perfil-o-racismo-algoritmico-no-linkedin/. 06 mai. 2026.
RIOS, Roger Raupp. Direito da antidiscriminação: discriminação direta, indireta e ações afirmativas. Porto Alegre: Livraria do Advogado, 2008.
ROSSINI, Selma Regina Carloto Martins Guedes. Discriminação algorítmica em processos seletivos eletrônicos e uma metodologia para eliminação de vieses discriminatórios. 2023. Tese (Doutorado em Engenharia da Informação) – Universidade Federal do ABC, Santo André, 2023. Disponível em: https://sig.ufabc.edu.br/sigaa/public/programa/defesas.jsf?lc=en_US&id=204. Acesso em: 06 mai. 2026.
SCHIPPERS, Laurianne-Marie. Algoritmos que discriminam: uma análise jurídica da discriminação no âmbito das decisões automatizadas e seus mitigadores. 2018. Trabalho de Conclusão de Curso (Graduação em Direito) – Fundação Getúlio Vargas, São Paulo, 2018. Disponível em: https://repositorio.fgv.br/items/0778ae90-0a4b-4d6a-94e7-07e66c7159ad. 05 mai. 2026.
SILVA, Tarcízio (ed.) et al. Mapeamento de danos e discriminação algorítmica. Desvelar, 2025. Disponível em: https://desvelar.org/casos-de-discriminacao-algoritmica/. Acesso em: 05 mai. 2026.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022.
TELLES, Edward. Racismo à brasileira: uma nova perspectiva sociológica. Tradução de Ana Arruda Callado, Nadjeda Rodrigues Marques e Camila Olsen. Rio de Janeiro: Relume Dumará; Fundação Ford, 2003.
THEODORO, Mário. A formação do mercado de trabalho e a questão racial no Brasil. In: THEODORO, Mário (org.). As políticas públicas e a desigualdade racial no Brasil: 120 anos após a abolição. Brasília: IPEA, 2008.
UNIÃO EUROPEIA. Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016. Relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados. Jornal Oficial da União Europeia, 2016. Disponível em: https://eur-lex.europa.eu/. Acesso em: 08 mai. 2026.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho. Estabelece regras harmonizadas em matéria de inteligência artificial. Jornal Oficial da União Europeia, 2024. Disponível em: https://eur-lex.europa.eu/. Acesso em: 08 mai. 2026.
WACHTER-BOETTCHER, Sara. Technically wrong: sexist apps, biased algorithms, and other threats of toxic tech. New York: W. W. Norton & Company, 2017
Downloads
Publicado
Como Citar
Edição
Seção
Categorias
Licença
Copyright (c) 2026 Stéfany Pina, Pablo Biondi
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
Os autores declaram que qualquer texto apresentado, se aceito, não será publicado em outro meio/lugar, em inglês ou em qualquer outra língua, e inclusive por via eletrônica, salvo mencione expressamente que o trabalho foi originalmente publicado na RRDDIS - Revista Rede de Direito Digital, Intelectual & Sociedade. A Revista RRDDIS desde a sua primeira publicação, licencia todos os textos sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista;
DECLARAÇÃO DE DIREITO AUTORAL Os autores que publicam na Revista RRDDIS concordam com os seguintes termos: – os autores mantêm os direitos autorais e transferem à Revista o direito de primeira publicação, com o trabalho licenciado sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista; – os autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada na Revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento da autoria e da publicação inicial na Revista; – qualquer pessoa é livre para compartilhar (copiar e redistribuir o trabalho em qualquer suporte ou formato) e para adaptar (remixar, transformar e criar a partir do trabalho) para qualquer fim, mesmo que comercial, devendo todavia, em qualquer caso, dar o crédito apropriado, prover um link para a licença e indicar se mudanças foram feitas no trabalho original, nos termos da Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR e respeitados a Lei nº 9.610, de 19 de fevereiro de 1998, e outros normativos vigentes.
