Deepfakes, realidade sintetizada, confiança abalada:

análise de conteúdo de casos públicos e implicações para governança orientada por risco

Autores

DOI:

https://doi.org/10.5380/rrddis.v6i11.103186

Palavras-chave:

Deepfakes, Integridade informacional, Governança orientada por risco, Manipulação audiovisual, Confiança digital

Resumo

A difusão de sistemas de Inteligência Artificial generativa ampliou a produção e a circulação de conteúdos sintéticos hiper-realistas, intensificando riscos à integridade informacional e à credibilidade de registros audiovisuais. Apesar do avanço de debates sobre governança e desinformação, permanecia limitada a produção de evidências empíricas que sistematizassem, sob enfoque ético, como deepfakes geravam danos individuais e riscos coletivos em diferentes contextos. Assim, o estudo teve como objetivo investigar os dilemas éticos e os riscos sociais envolvidos na geração e disseminação de deepfakes. Adotou-se pesquisa aplicada, com abordagem mista e predominância qualitativa, baseada em análise documental de casos públicos e análise de conteúdo, com apoio de planilhas para codificação e síntese descritiva, além de consolidação de dados sobre ferramentas de criação. Os resultados identificaram eixos temáticos recorrentes, com predominância de ocorrências de alto impacto associadas à desinformação político-institucional, fraudes e violência reputacional, bem como usos condicionados a transparência e salvaguardas. Conclui-se que deepfakes configuram risco sociotécnico relevante e demandam mitigação orientada por risco, contribuindo para tipologias aplicáveis a políticas, organizações e práticas de verificação.

Biografia do Autor

Wesley Antonio Gonçalves, Instituto Federal do Triângulo Mineiro - IFTM

Professor Titular no Instituto Federal do Triângulo Mineiro (IFTM). Pós-Doutor em Educação Tecnológica. Doutor, Mestre, Especialista e Bacharel em Administração. Bacharel e Especialista em Computação. Licenciatura em Educação Profissional e Tecnológica.

Lucas Daniel Santana Rosa, Instituto Federal do Triângulo Mineiro

Graduando em Análise e Desenvolvimento de Sistemas, Pesquisador e bolsista CNPq - PIBIC.CNPq Edital 04.2025. 

Referências

BARDIN, Laurence. Análise de conteúdo. Lisboa: edições 70, 2011.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (marco civil da internet). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 17 out. 2025.

CALDEIRA, Júlia. Deepfakes no cenário brasileiro: efeitos e estratégias de mitigação. In: Souza, Gustavo; Silva, Tarcízio (org.). Enfrentando deepfakes. 1. ed. Brasília, DF: desvelar, 2025. p. 23-41. Disponível em: https://desvelar.org/enfrentando-deepfakes. Acesso em: 17 out. 2025.

CANADA. Canadian Security Intelligence Service. The evolution of disinformation: a deepfake future. Ottawa: CSIS, 2023. Disponível em: https://www.canada.ca/en/security-intelligence-service/corporate/publications/the-evolution-of-disinformation-a-deepfake-future/the-evolution-of-disinformation-a-deepfake-future.html. Acesso em: 11 out. 2025.

CANADA. Canadian Security Intelligence Service. Deepfakes: a real threat to a Canadian future. Ottawa: CSIS, 2025. Disponível em: https://www.canada.ca/en/security-intelligence-service/corporate/publications/the-evolution-of-disinformation-a-deepfake-future/deepfakes-a-real-threat-to-a-canadian-future.html. Acesso em 11.03.2026

C2PA. C2PA technical specification (content credentials). Coalition for content provenance and authenticity, 2025. Disponível em: https://spec.c2pa.org/specifications/specifications/2.2/specs/_attachments/C2PA_Specification.pdf. Acesso em: 17 mar. 2026.

CENTRO DE GESTÃO E ESTUDOS ESTRATÉGICOS (CGEE). MINISTÉRIO DA CIÊNCIA, TECNOLOGIA E INOVAÇÃO (MCTI). IA para o bem de todos: plano brasileiro de inteligência artificial. Brasília, DF: MCTI; CGEE, 2025. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/ia/plano-brasileiro-de-inteligencia-artificial. Acesso em: 17 out. 2025.

CHESNEY, Robert; CITRON, Danielle Keats. Deep fakes: a looming challenge for privacy, democracy, and national security. Rochester, NY: SSRN, 2018. Disponível em: https://papers.ssrn.com/abstract=3213954. Acesso em: 17 mar. 2026.

CRESWELL, John W. Projetos de pesquisa: métodos qualitativo, quantitativo e misto. 3. ed. Porto Alegre: penso, 2013.

EUROPEAN UNION. REGULATION (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a single market for digital services and amending Directive 2000/31/EC (digital services act). Official Journal of the European Union, Brussels, 2022. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:32022R2065. Acesso em: 17 mar. 2026.

EUROPEAN UNION. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (artificial intelligence act). Official Journal of the European Union, Brussels, 2024a. Disponível em: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/. Acesso em: 17 mar. 2026.

EUROPEAN UNION. AI act – article 50 (transparency obligations). Brussels: artificialintelligenceact.eu, 2024b. Disponível em: https://artificialintelligenceact.eu/article/50/. Acesso em: 17 mar. 2026.

GONÇALVES, Wesley Antônio; ROSA, Lucas Daniel Santana. Banco de casos deepfake - PIBIC/CNPq 2025. Patrocínio, MG: IFTM, 2025. Base de dados em planilha eletrônica.

ISO/IEC. ISO/IEC 23894:2023 – information technology – artificial intelligence – guidance on risk management. Geneva: iso, 2023. Disponível em: https://www.iso.org/standard/77304.html. Acesso em: 23 nov. 2025.

MORAES, Cristiane Pantoja de. “Deepfake” como ferramenta de manipulação e disseminação de “fakenews” em formato de vídeo nas redes sociais. Biblios, Pittsburgh, n. 79, p. 1-15, 2020. DOI: 10.5195/biblios.2020.864. Disponível em: https://biblios.pitt.edu/ojs/biblios/article/view/864. Acesso em: 12 out. 2025.

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY (NIST). Artificial intelligence risk management framework (AI RMF 1.0). Gaithersburg, MD: NIST, 2023. Disponível em: https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf. Acesso em: 17 mar. 2026.

OECD. Artificial intelligence in society. Paris: oecd, 2019. Disponível em: https://www.oecd.org/content/dam/oecd/en/publications/reports/2019/06/artificial-intelligence-in-society_c0054fa1/eedfee77-en.pdf. Acesso em: 17 mar. 2026.

PARTNERSHIP ON AI. Responsible practices for synthetic media: a framework for collective action. San Francisco, CA: partnership on ai, 2023. Disponível em: https://partnershiponai.org/wp-content/uploads/2023/02/PAI_synthetic_media_framework.pdf. Acesso em: 17 mar. 2026.

SEVERINO, Antônio Joaquim. Metodologia do trabalho científico. 24. ed. São Paulo: cortez, 2014.

SOCIEDADE BRASILEIRA DE COMPUTAÇÃO (SBC). Plano de inteligência artificial da sociedade brasileira de computação. Porto Alegre: SBC, 2024. DOI: 10.5753/sbc.rt.2024.141. Disponível em: https://doi.org/10.5753/sbc.rt.2024.141. Acesso em: 14 out. 2025.

SOUZA, Gustavo; SILVA, Tarcízio (org.). Enfrentando deepfakes. 1. ed. Brasília, DF: desvelar, 2025. Disponível em: https://desvelar.org/enfrentando-deepfakes. Acesso em: 14 out. 2025.

SUPREMO TRIBUNAL FEDERAL (STF). Guia ilustrado contra as deepfakes. Brasília, DF: STF, 2024. Disponível em: https://www.stf.jus.br/arquivo/cms/cddConteudoTextual/anexo/Guia_Deepfakes.pdf. Acesso em: 17 out. 2025.

UNITED NATIONS. Information integrity on digital platforms. New York: united nations, 2023. Disponível em: https://www.un.org/en/content/digital-cooperation-roadmap/assets/pdf/our-common-agenda-policy-brief-information-integrity-on-digital-platforms-en.pdf. Acesso em: 17 mar. 2026.

UNITED STATES. Executive order 14110: safe, secure, and trustworthy development and use of artificial intelligence. Federal Register, Washington, DC, 2023. Disponível em: https://www.federalregister.gov/documents/2023/11/01/2023-24283/safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence. Acesso em: 17 mar. 2026.

UNESCO. Recommendation on the ethics of artificial intelligence. Paris: unesco, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000380455. Acesso em: 17 mar. 2026.

VACCARI, Cristian; CHADWICK, Andrew. Deepfakes and disinformation: exploring the impact of synthetic political video on deception, uncertainty, and trust in news. Social media + society, London, v. 6, n. 1, 2020. DOI: 10.1177/2056305120903408. Disponível em: https://journals.sagepub.com/doi/10.1177/2056305120903408. Acesso em: 17 mar. 2026.

VERDOLIVA, Luisa. Media forensics and deepfakes: an overview. arXiv, 2020. Disponível em: https://arxiv.org/abs/2001.06564. Acesso em: 17 mar. 2026.

WESTERLUND, Mika. The emergence of deepfake technology: a review. Technology innovation management review, Ottawa, v. 9, n. 11, p. 40-53, 2019. DOI: 10.22215/timreview/1282. Disponível em: https://timreview.ca/article/1282. Acesso em: 17 mar. 2026.

Downloads

Publicado

2026-07-06

Como Citar

Gonçalves, W. A., & Rosa, L. D. S. (2026). Deepfakes, realidade sintetizada, confiança abalada:: análise de conteúdo de casos públicos e implicações para governança orientada por risco. Revista Rede De Direito Digital, Intelectual & Sociedade, 6(11), 339–378. https://doi.org/10.5380/rrddis.v6i11.103186

Edição

v. 6 n. 11 (2026)

Seção

Parte IV - Estudos de caso, jurisprudência e legislação

Categorias

Licença

Copyright (c) 2026 Wesley Antonio Gonçalves, Lucas Daniel Santana Rosa

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.

Os autores declaram que qualquer texto apresentado, se aceito, não será publicado em outro meio/lugar, em inglês ou em qualquer outra língua, e inclusive por via eletrônica, salvo mencione expressamente que o trabalho foi originalmente publicado na RRDDIS - Revista Rede de Direito Digital, Intelectual & Sociedade. A Revista RRDDIS desde a sua primeira publicação, licencia todos os textos sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista;

 

DECLARAÇÃO DE DIREITO AUTORAL Os autores que publicam na Revista RRDDIS concordam com os seguintes termos: – os autores mantêm os direitos autorais e transferem à Revista o direito de primeira publicação, com o trabalho licenciado sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista; – os autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada na Revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento da autoria e da publicação inicial na Revista; – qualquer pessoa é livre para compartilhar (copiar e redistribuir o trabalho em qualquer suporte ou formato) e para adaptar (remixar, transformar e criar a partir do trabalho) para qualquer fim, mesmo que comercial, devendo todavia, em qualquer caso, dar o crédito apropriado, prover um link para a licença e indicar se mudanças foram feitas no trabalho original, nos termos da Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR e respeitados a Lei nº 9.610, de 19 de fevereiro de 1998, e outros normativos vigentes.