Deepfakes e plataformização
a violência digital de gênero como fenômeno transnacional
DOI:
https://doi.org/10.5380/am.v32i1.104014Resumo
O artigo debate a recorrência da violência digital de gênero a partir de imagens sintéticas produzidas por inteligência artificial em diferentes contextos socioculturais. Por meio de pesquisa bibliográfica, mobiliza exemplos documentados em publicações acadêmicas que investigaram situações de violência contra mulheres por meio de deepfakes, em casos registrados em todos os continentes. Transnacional, esse fenômeno chama a atenção para a forma como a circulação de conteúdos manipulados tem sido potencializada pela lógica da plataformização e insere a violência digital pornográfica contra mulheres como um produto comum da cultura digital contemporânea. Investigações de diferentes áreas do conhecimento mostram como casos de violência digital de gênero por meio de deepfakes geram efeitos graves sobre a saúde mental, a reputação e a trajetória das vítimas, com impactos que se estendem ao plano coletivo ao reforçar desigualdades de gênero. Tais estudos colocam luz, principalmente, na ausência de legislação e consequentes dificuldades de controlar a disseminação desses conteúdos e de responsabilizar agressores e big techs pelas ações.
Referências
AJDER, Henry; PATRINI, Giorgio; CAVALLI, Francesco; CULLEN, Laurence. The state of deepfakes: landscape, threats, and impact. [S. l.]: DeepTrace Lab, 2019.
AMARAL, Inês; SIMÕES, Rita Basílio. Violence, misogyny, and racism: young adults' perceptions of online hate speech. In: SÁNCHEZ, José Sixto; BARRIENTOS, Almudena (ed.). Cosmovisión de la comunicación en redes sociales en la era postdigital. [S. l.]: McGraw-Hill, 2021. p. 869-881.
ANTHROPIC. Claude: versão Sonnet 4.6. Ferramenta de Inteligência Artificial Generativa. São Francisco: Anthropic, 2025. Disponível em: https://www.claude.ai. Acesso em: 25 jun. 2026.
ASSIS, Francisco Fagner da Costa. O nosso rosto ainda é nosso? 2024. Dissertação (Mestrado em Tecnologias da Inteligência e Design Digital) — Pontifícia Universidade Católica de São Paulo, São Paulo, 2024.
AYYUB, Rana. I was the victim of a deepfake porn plot intended to silence me. 2018. Disponível em: https://www.huffingtonpost.co.uk/entry/deepfake-porn_uk_5bf2c126e4b0f32bd58ba316. Acesso em: 25 fev. 2026.
BAYM, Nancy. Creator culture: an introduction to global social media entertainment. New York: NYU Press, 2021.
BRAUN, Joshua; GILLESPIE, Tarleton. Hosting the public discourse, hosting the public: when online news and social media converge. Journalism Practice, [S. l.], v. 5, n. 4, p. 383-398, 2011.
BRIEGER, Alexandra. Taking back their faces: the damages of non-consensual deepfake pornography on female journalists. 2021. Trabalho de Conclusão de Curso (Bacharelado em Artes) — Media Study Program, School of Journalism and Communication, Uppsala University, Uppsala, 2021.
CANCLINI, Néstor García. Ciudadanos reemplazados por algoritmos. Bielefeld: Bielefeld University Press, 2019.
CASTRO, Renan. As humanidades digitais além de uma abordagem previsível: delineando um conceito em construção. Liinc em Revista, [S. l.], v. 15, n. 1, 2019.
CITRON, Danielle Keats. Sexual privacy. The Yale Law Journal, [S. l.], n. 2018-25, p. 1874-1938, 2018. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3233805. Acesso em: 25 fev. 2026.
CUNNINGHAM, Stuart; CRAIG, David. Social media entertainment: the new intersection of Hollywood and Silicon Valley. New York: NYU Press, 2019.
DING, Michelle; SURESH, Harini; VENKATASUBRAMANIAN, Suresh. How to stop playing whack-a-mole: mapping the ecosystem of technologies facilitating AI-generated non-consensual intimate images. arXiv, 2026. Disponível em: https://arxiv.org/pdf/2602.04759. Acesso em: 25 jun. 2026.
FIDALGO, Adriano Augusto. As deepfakes e as deepnudes como modalidades de cyberbullying, a sua ocorrência no ambiente escolar e a violação da dignidade da pessoa humana. Aracê, [S. l.], v. 6, n. 4, p. 13206-13224, 2024.
FLYNN, Asher; POWELL, Anastasia; SCOTT, Adrian; CAMA, Elena. Deepfakes and digitally altered imagery abuse: a cross-country exploration of an emerging form of image-based sexual abuse. The British Journal of Criminology, [S. l.], v. 62, n. 6, p. 1341-1358, 2022. DOI: 10.1093/bjc/azab111.
GABRIEL, Karen. Power of porn cultures. The Transnational Institute Sixth Annual State of Power Report, [S. l.], 2017.
GILLESPIE, Tarleton. The politics of ‘platforms’. New Media & Society, [S. l.], v. 12, n. 3, p. 347-364, 2010.
GING, Debbie; SIAPERA, Eugenia. Special issue on online misogyny. Feminist Media Studies, [S. l.], v. 18, n. 4, p. 515-524, 2018. DOI: 10.1080/14680777.2018.1447345.
GUTIERREZ, Abel. Fabricating misogyny: how deepfakes are weaponized to maintain political, social, and economic gender inequalities. 2023. Dissertação (Mestrado em Artes) — Department of Human Communication Studies, California State University, Fullerton, 2023.
HATEAID GMBH. Boundless hate on the internet: dramatic situation across Europe. [S. l.]: HateAid, 2021. Relatório. Disponível em: https://hateaid.org/wp-content/uploads/2022/04/HateAid-Report-2021_EN.pdf. Acesso em: 11 mar. 2026.
HELMOND, Anne. The platformization of the web: making web data platform ready. Social Media + Society, [S. l.], v. 1, n. 2, p. 2056305115603080, 2015.
HWANG, Tim. Deepfakes: primer and forecast. Riga: NATO Strategic Communications Centre of Excellence, 2020. Disponível em: https://dom.lndb.lv/data/obj/file/29120837.pdf.
JANKOWICZ, Nina. The deepfake porn problem. Entrevista concedida a Chris Stokel-Walker. Techtonic, n. 3, 21 ago. 2023. Podcast. Article 19. Disponível em: https://www.article19.org/resources/techtonic-deepfake-porn-caught-in-the-crosshairs/. Acesso em: 25 mar. 2026.
JI, Seung Gyeong. #MeToo in an AI-generated deepfake sexual violence era in South Korea. Women's Studies International Forum, [S. l.], v. 112, 2025.
LEE, Yenn. The digital misogyny pipeline: deepfake-based sexual violence in South Korean schools and universities. Gender and Education, [S. l.], v. 38, n. 2, 2026. Preprint.
MANOVICH, Lev. After effects or the velvet revolution. Millennium Film Journal, [S. l.], p. 5-19, 2006.
MARTIN, Noelle. Image-based sexual abuse and deepfakes: a survivor turned activist’s perspective. In: POWELL, Anastasia; FLYNN, Asher; SUGIURA, Lisa (ed.). The Palgrave handbook of gendered violence and technology. Cham: Palgrave Macmillan, 2021.
MARTIN, Noelle. Online safety regulation of deepfake abuse: a case study on Australia’s eSafety Commissioner. Griffith Law Review, [S. l.], v. 34, n. 1, p. 23-46, 2025.
MAYOYO, Nancy. The influence of social media use in the wake of deepfakes on Kenyan female university students’ perceptions on sexism, their body image and participation in politics. In: LANGMIA, Kehbuma (ed.). Black communication in the age of disinformation. Cham: Palgrave Macmillan, 2023.
MITTAL, Saurabh; SINGH, Tejinder. Gender-based violence during COVID-19 pandemic: a mini-review. Frontiers in Global Women's Health, [S. l.], v. 1, n. 4, p. 1-7, 2020. DOI: 10.3389/fgwh.2020.00004.
MNISI, Amu. “Where you want her, how you want her”: understanding the violence of deepfake pornography. SAICAIR 2025 Proceedings, [S. l.], p. 307-325, 2025.
MOON, Minyoung. Digital sex crime, online misogyny, and digital feminism in South Korea. Georgetown Journal of International Affairs, [S. l.], v. 25, p. 186-192, 2024. DOI: https://dx.doi.org/10.1353/gia.2024.a934902.
MURILLO, Juan Carlos Rosalles. Deepfakes: análisis del uso de la IA para la creación de videos e imágenes pornográficas de mujeres, niñas, niños y adolescentes desde el ordenamiento jurídico penal ecuatoriano. 2024. Trabalho de Conclusão de Curso (Bacharelado em Direito) — Escuela de Derecho, Universidad del Azuay, Cuenca, 2024.
NADIM, Marjan; FLADMOE, Audun. Silencing women? Gender and online harassment. Social Science Computer Review, [S. l.], v. 39, n. 2, p. 245-258, 2021. DOI: 10.1177/0894439319865518.
NEGREIRO, Mar. Children and deepfakes. Bruxelas: European Parliamentary Research Service, jul. 2025. EPRS Briefing, PE 775.855. Disponível em: https://www.europarl.europa.eu/RegData/etudes/BRIE/2025/775855/EPRS_BRI(2025)775855_EN.pdf. Acesso em: 25 jun. 2026.
NIEBORG, David; POELL, Thomas. The platformization of cultural production: theorizing the contingent cultural commodity. New Media & Society, [S. l.], v. 20, n. 11, p. 4275-4292, 2018.
PAASONEN, Susanna. Platform economies, reputational stains, and the in/conveniences of porn. In: NEVES, Joshua; STEINBERG, Marc (ed.). In/convenience: inhabiting the logistical surround. Amsterdam: Institute of Network Cultures, 2024. p. 100-114.
PAVAN, Elena. Internet intermediaries and online gender-based violence. In: SEGRAVE, Marie; VITIS, Laura (ed.). Gender, technology and violence. Londres: Routledge, 2017. p. 62-78.
PITTI, Rodolfo. The synthetic libido: an analysis of pornography's evolution from static image to algorithmic desire and the implications of deepfakes and AI. 2025. Disponível em: https://www.academia.edu/143993735/The_Synthetic_Libido_An_Analysis_of_Pornographys_Evolution_from_Static_Image_to_Algorithmic_Desire_and_the_Implications_of_Deepfakes_and_AI. Acesso em: 25 mar. 2026.
POELL, Thomas; NIEBORG, David; DUFFY, Brooke Erin. Platforms and cultural production. Cambridge: Polity Press, 2021.
POELL, Thomas; NIEBORG, David; VAN DIJCK, José. Plataformização. Fronteiras — Estudos Midiáticos, [S. l.], v. 22, n. 1, 2020.
REIS, Arthur Ferreira. As humanidades digitais no Brasil e no mundo: o estado da arte. Revista Convergências: Estudos em Humanidades Digitais, [S. l.], v. 1, n. 1, p. 32-48, 2023.
SAFATLE, Vladimir. O circuito dos afetos: corpos políticos, desamparo e o fim do indivíduo. São Paulo: Cosac Naify, 2015.
SALTER, Michael. From geek masculinity to Gamergate: the technological rationality of online abuse. Crime, Media, Culture, [S. l.], v. 14, n. 2, p. 247-264, 2017.
SECURITY HERO. State of deepfakes: realities, threats, and impact. [S. l.]: Security Hero, 2023. Relatório. Disponível em: https://www.securityhero.io/state-of-deepfakes/. Acesso em: 11 mar. 2026.
SILVA, Michele. O risco das deepfakes para o direito de imagem: uma análise sobre a legislação e a proteção à criança e ao adolescente. 2024. Trabalho de Conclusão de Curso (Graduação em Direito) — Unileão, Juazeiro do Norte, 2024.
SIMÕES, Rita Basílio; AMARAL, Inês; SANTOS, Sílvio; ALCANTARA, Juliana. Violência online contra as mulheres: relatos a partir da experiência da pandemia da COVID-19. Comunicação e Sociedade, [S. l.], v. 42, p. 179-203, 2022. DOI: https://doi.org/10.17231/comsoc.42(2022).3981.
SOUSA, Janara; ÁVILA, Nuria Rodríguez; MARTÍNEZ, Pilar Rodríguez. Ciberviolencia en España: tipos, víctimas y agresores. Revista de Comunicación de la SEECI, [S. l.], v. 57, p. 1-21, 2024.
VAN DIJCK, José; POELL, Thomas; DE WAAL, Martijn. The platform society: public values in a connective world. Oxford: Oxford University Press, 2018.
VELOZ, Byron Andino. Deepfake, cinismo y diversión en la crueldad: un caso de colegiales y pornografía en Ecuador. Revista de Comunicación y Cultura, [S. l.], v. 11, p. 8-28, 2025.
VIOLA, Marco; VOTO, Cristina. Designed to abuse? Deepfakes and the non-consensual diffusion of intimate images. Synthese, [S. l.], v. 20, 2023.
WIJESIRIWARDENA, Subha. The machine that fosters shame: the weaponisation of sexuality in anti-gender anti-democracy disinformation. [S. l.]: Association for Progressive Communications, 2024. Disponível em: https://www.genderit.org/media/22. Acesso em: 25 mar. 2026.
WOHLIN, Claes. Guidelines for snowballing in systematic literature studies and a replication in software engineering. In: INTERNATIONAL CONFERENCE ON EVALUATION AND ASSESSMENT IN SOFTWARE ENGINEERING, 18., 2014, New York. Proceedings [...]. New York: ACM, 2014. p. 1-10. Disponível em: https://dl.acm.org/doi/10.1145/2601248.2601268. Acesso em: 25 jun. 2026.
ZUBOFF, Shoshana. A era do capitalismo de vigilância. Rio de Janeiro: Intrínseca, 2021.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Os Direitos Autorais para artigos publicados são de direito da Revista Ação Midiática. Em virtude da aparecerem nesta revista de acesso público, os artigos são de uso gratuito, com atribuições próprias, em aplicações educacionais e não-comerciais. A revista se reserva o direito de efetuar, nos originais, alterações de ordem normativa, ortográfica e gramatical, com vistas a manter o padrão culto da língua e a credibilidade do veículo. Respeitará, no entanto, o estilo de escrever dos autores. Alterações, correções ou sugestões de ordem conceitual serão encaminhadas aos autores, quando necessário. Nesses casos, os artigos, depois de adequados, deverão ser submetidos a nova apreciação. As opiniões emitidas pelos autores dos artigos são de sua exclusiva responsabilidade.
Esta licença permite que outros remixem, adaptem e criem a partir do seu trabalho para fins não comerciais, e embora os novos trabalhos tenham de lhe atribuir o devido crédito e não possam ser usados para fins comerciais, os usuários não têm de licenciar esses trabalhos derivados sob os mesmos termos.
Esta obra está licenciada com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.
