DEEPFAKES, SYNTHETIC REALITY, SHAKEN TRUST:
CONTENT ANALYSIS OF PUBLIC CASES AND IMPLICATIONS FOR RISK-BASED GOVERNANCE
DOI:
https://doi.org/10.5380/rrddis.v6i11.103186Keywords:
Deepfakes, Information integrity, Risk-oriented governance, Audiovisual manipulation, Digital trustAbstract
The widespread adoption of generative artificial intelligence has increased the production and circulation of highly realistic synthetic content, intensifying risks to information integrity and public trust in audiovisual records. Despite the growth of governance and misinformation debates, empirical evidence remains limited regarding how synthetic media generate ethical dilemmas and social risks across different contexts. This study aims to investigate the ethical dilemmas and social risks involved in the creation and dissemination of AI-generated synthetic media, with emphasis on threats to informational veracity and broader social implications. The research is applied, with a mixed-method design and qualitative predominance, combining documentary analysis of publicly documented cases and content analysis supported by spreadsheet-based coding and descriptive synthesis, alongside consolidation of data about widely used creation tools. The findings identify recurring thematic axes, with a predominance of high-impact occurrences linked to political-institutional manipulation, fraud, and reputational harm, as well as ambivalent uses conditioned by transparency and safeguards. The study contributes an empirically grounded typology to support risk-oriented mitigation in policies, organizations, and verification practices.
References
BARDIN, Laurence. Análise de conteúdo. Lisboa: edições 70, 2011.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (marco civil da internet). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 17 out. 2025.
CALDEIRA, Júlia. Deepfakes no cenário brasileiro: efeitos e estratégias de mitigação. In: Souza, Gustavo; Silva, Tarcízio (org.). Enfrentando deepfakes. 1. ed. Brasília, DF: desvelar, 2025. p. 23-41. Disponível em: https://desvelar.org/enfrentando-deepfakes. Acesso em: 17 out. 2025.
CANADA. Canadian Security Intelligence Service. The evolution of disinformation: a deepfake future. Ottawa: CSIS, 2023. Disponível em: https://www.canada.ca/en/security-intelligence-service/corporate/publications/the-evolution-of-disinformation-a-deepfake-future/the-evolution-of-disinformation-a-deepfake-future.html. Acesso em: 11 out. 2025.
CANADA. Canadian Security Intelligence Service. Deepfakes: a real threat to a Canadian future. Ottawa: CSIS, 2025. Disponível em: https://www.canada.ca/en/security-intelligence-service/corporate/publications/the-evolution-of-disinformation-a-deepfake-future/deepfakes-a-real-threat-to-a-canadian-future.html. Acesso em 11.03.2026
C2PA. C2PA technical specification (content credentials). Coalition for content provenance and authenticity, 2025. Disponível em: https://spec.c2pa.org/specifications/specifications/2.2/specs/_attachments/C2PA_Specification.pdf. Acesso em: 17 mar. 2026.
CENTRO DE GESTÃO E ESTUDOS ESTRATÉGICOS (CGEE). MINISTÉRIO DA CIÊNCIA, TECNOLOGIA E INOVAÇÃO (MCTI). IA para o bem de todos: plano brasileiro de inteligência artificial. Brasília, DF: MCTI; CGEE, 2025. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/ia/plano-brasileiro-de-inteligencia-artificial. Acesso em: 17 out. 2025.
CHESNEY, Robert; CITRON, Danielle Keats. Deep fakes: a looming challenge for privacy, democracy, and national security. Rochester, NY: SSRN, 2018. Disponível em: https://papers.ssrn.com/abstract=3213954. Acesso em: 17 mar. 2026.
CRESWELL, John W. Projetos de pesquisa: métodos qualitativo, quantitativo e misto. 3. ed. Porto Alegre: penso, 2013.
EUROPEAN UNION. REGULATION (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a single market for digital services and amending Directive 2000/31/EC (digital services act). Official Journal of the European Union, Brussels, 2022. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:32022R2065. Acesso em: 17 mar. 2026.
EUROPEAN UNION. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (artificial intelligence act). Official Journal of the European Union, Brussels, 2024a. Disponível em: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/. Acesso em: 17 mar. 2026.
EUROPEAN UNION. AI act – article 50 (transparency obligations). Brussels: artificialintelligenceact.eu, 2024b. Disponível em: https://artificialintelligenceact.eu/article/50/. Acesso em: 17 mar. 2026.
GONÇALVES, Wesley Antônio; ROSA, Lucas Daniel Santana. Banco de casos deepfake - PIBIC/CNPq 2025. Patrocínio, MG: IFTM, 2025. Base de dados em planilha eletrônica.
ISO/IEC. ISO/IEC 23894:2023 – information technology – artificial intelligence – guidance on risk management. Geneva: iso, 2023. Disponível em: https://www.iso.org/standard/77304.html. Acesso em: 23 nov. 2025.
MORAES, Cristiane Pantoja de. “Deepfake” como ferramenta de manipulação e disseminação de “fakenews” em formato de vídeo nas redes sociais. Biblios, Pittsburgh, n. 79, p. 1-15, 2020. DOI: 10.5195/biblios.2020.864. Disponível em: https://biblios.pitt.edu/ojs/biblios/article/view/864. Acesso em: 12 out. 2025.
NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY (NIST). Artificial intelligence risk management framework (AI RMF 1.0). Gaithersburg, MD: NIST, 2023. Disponível em: https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf. Acesso em: 17 mar. 2026.
OECD. Artificial intelligence in society. Paris: oecd, 2019. Disponível em: https://www.oecd.org/content/dam/oecd/en/publications/reports/2019/06/artificial-intelligence-in-society_c0054fa1/eedfee77-en.pdf. Acesso em: 17 mar. 2026.
PARTNERSHIP ON AI. Responsible practices for synthetic media: a framework for collective action. San Francisco, CA: partnership on ai, 2023. Disponível em: https://partnershiponai.org/wp-content/uploads/2023/02/PAI_synthetic_media_framework.pdf. Acesso em: 17 mar. 2026.
SEVERINO, Antônio Joaquim. Metodologia do trabalho científico. 24. ed. São Paulo: cortez, 2014.
SOCIEDADE BRASILEIRA DE COMPUTAÇÃO (SBC). Plano de inteligência artificial da sociedade brasileira de computação. Porto Alegre: SBC, 2024. DOI: 10.5753/sbc.rt.2024.141. Disponível em: https://doi.org/10.5753/sbc.rt.2024.141. Acesso em: 14 out. 2025.
SOUZA, Gustavo; SILVA, Tarcízio (org.). Enfrentando deepfakes. 1. ed. Brasília, DF: desvelar, 2025. Disponível em: https://desvelar.org/enfrentando-deepfakes. Acesso em: 14 out. 2025.
SUPREMO TRIBUNAL FEDERAL (STF). Guia ilustrado contra as deepfakes. Brasília, DF: STF, 2024. Disponível em: https://www.stf.jus.br/arquivo/cms/cddConteudoTextual/anexo/Guia_Deepfakes.pdf. Acesso em: 17 out. 2025.
UNITED NATIONS. Information integrity on digital platforms. New York: united nations, 2023. Disponível em: https://www.un.org/en/content/digital-cooperation-roadmap/assets/pdf/our-common-agenda-policy-brief-information-integrity-on-digital-platforms-en.pdf. Acesso em: 17 mar. 2026.
UNITED STATES. Executive order 14110: safe, secure, and trustworthy development and use of artificial intelligence. Federal Register, Washington, DC, 2023. Disponível em: https://www.federalregister.gov/documents/2023/11/01/2023-24283/safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence. Acesso em: 17 mar. 2026.
UNESCO. Recommendation on the ethics of artificial intelligence. Paris: unesco, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000380455. Acesso em: 17 mar. 2026.
VACCARI, Cristian; CHADWICK, Andrew. Deepfakes and disinformation: exploring the impact of synthetic political video on deception, uncertainty, and trust in news. Social media + society, London, v. 6, n. 1, 2020. DOI: 10.1177/2056305120903408. Disponível em: https://journals.sagepub.com/doi/10.1177/2056305120903408. Acesso em: 17 mar. 2026.
VERDOLIVA, Luisa. Media forensics and deepfakes: an overview. arXiv, 2020. Disponível em: https://arxiv.org/abs/2001.06564. Acesso em: 17 mar. 2026.
WESTERLUND, Mika. The emergence of deepfake technology: a review. Technology innovation management review, Ottawa, v. 9, n. 11, p. 40-53, 2019. DOI: 10.22215/timreview/1282. Disponível em: https://timreview.ca/article/1282. Acesso em: 17 mar. 2026.
Downloads
Published
How to Cite
Issue
Section
Categories
License
Copyright (c) 2026 Wesley Antonio Gonçalves, Lucas Daniel Santana Rosa
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
Os autores declaram que qualquer texto apresentado, se aceito, não será publicado em outro meio/lugar, em inglês ou em qualquer outra língua, e inclusive por via eletrônica, salvo mencione expressamente que o trabalho foi originalmente publicado na RRDDIS - Revista Rede de Direito Digital, Intelectual & Sociedade. A Revista RRDDIS desde a sua primeira publicação, licencia todos os textos sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista;
DECLARAÇÃO DE DIREITO AUTORAL Os autores que publicam na Revista RRDDIS concordam com os seguintes termos: – os autores mantêm os direitos autorais e transferem à Revista o direito de primeira publicação, com o trabalho licenciado sob a Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR, que permite o compartilhamento do trabalho com reconhecimento da autoria e da publicação inicial na Revista; – os autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada na Revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento da autoria e da publicação inicial na Revista; – qualquer pessoa é livre para compartilhar (copiar e redistribuir o trabalho em qualquer suporte ou formato) e para adaptar (remixar, transformar e criar a partir do trabalho) para qualquer fim, mesmo que comercial, devendo todavia, em qualquer caso, dar o crédito apropriado, prover um link para a licença e indicar se mudanças foram feitas no trabalho original, nos termos da Licença Creative Commons — Atribuição 4.0 Brasil — CC BY 4.0 BR e respeitados a Lei nº 9.610, de 19 de fevereiro de 1998, e outros normativos vigentes.
