Open Journal Systems

O uso de inteligência artificial na tomada de decisão judicial

Cláudia Toledo, Daniel Alves Pessoa

Resumo

Neste artigo, é apresentada a síntese de análises críticas realizadas em pesquisas coordenadas pelos autores sobre a falta de transparência e o problema dos vieses no uso de sistemas de inteligência artificial (IA) como apoio ou para a efetiva tomada de decisão judicial. Do ponto de vista metodológico, foram desenvolvidas pesquisas bibliográficas, documentais e empíricas nas investigações. Foram feitos exames analítico-interpretativos acerca dos materiais levantados para alicerçar as considerações. Na abordagem, foi elaborada uma breve descrição acerca do estado da arte quanto ao uso de IA pelo Judiciário nacional, seguida pelas análises sobre a opacidade dos algoritmos e os vieses cognitivos, conforme os tópicos relacionados com a incompatibilidade estrutural entre o processamento de dados pela IA e a aplicação do Direito; a incapacidade da IA realizar juízos de valor; a acentuação dos vieses cognitivos pela IA; e a falta de transparência em relação aos algoritmos e aos dados utilizados pela IA. Ao final, são apresentadas propostas para enfrentamento dos problemas com o uso de IA para a tomada de decisão judicial.

Palavras-chave

inteligência artificial; transparência; vieses; decisão judicial.

Texto completo:

PDF

Referências

ABRANCHES, Carlos Alberto Dunshee de. A aplicação cibernética ao direito e a administração da justiça. In: Conferência Nacional da Ordem dos Advogados do Brasil, 4., São Paulo. Anais [...], 1970, p. 322-339.

ANDRADE, André; JOIA, Luiz Antônio. Organizational structure and ICT strategies in the brazilian judiciary system. Government Information Quarterly, v. 29, s. 1, 2012, p. 32-42. Disponível em: https://www.sciencedirect.com/science/article/pii/S0740624X11000694. Acesso em: 20 fev. 2023.

ANGWIN, Julia; LARSON, Jeff. Machine bias: there’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, Nova York, 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 04 dez. 2021.

ALEXY, Robert. Justicia como corrección. Doxa, v. 26, p. 161-171, 2003.

ALEXY, Robert. Teoria dos Direitos Fundamentais. São Paulo: Malheiros, 2008.

ALEXY, Robert. Legal certainty and correctness. Ratio Juris, v. 28, n. 4, p. 441-451, 2015.

BAVITZ, Christopher et al. Assessing the assessments: Lessons from early state experiences in the procurement and implementation of risk assessment tools. Berkman Klein Center for Internet & Society research publication, 2018. Disponível em: https://dash.harvard.edu/ handle/1/37883502. Acesso em: 22 jun. 2021.

BOBBIO, Noberto. O Positivismo Jurídico: lições de Filosofia do Direito. São Paulo: Ícone, 1995.

BOEING, Daniel H. Arruda. Ensinando um robô a julgar: pragmática, discricionariedade e vieses no uso de aprendizagem de máquina no judiciário. Florianópolis, 2019. 84 f. Monografia (Graduação) – Curso de Direito da Universidade Federal de Santa Catarina.

BRAGANÇA, Fernanda; BRAGANÇA, Laurinda Fátima F. P. G. Revolução 4.0 no poder judiciário: levantamento do uso de inteligência artificial nos tribunais brasileiros. Auditorium. 2019. Disponível em: http://revistaauditorium.jfrj.jus.br/index.php/revistasjrj/article/%20 view/256/194. Acesso em: 05 mai. 2020.

BRASIL. Projeto de lei nº 2338. Dispõe sobre o uso da Inteligência Artificial. Diário do Senado Federal. Brasília, 4 mai. 2023. Disponível em: https://www25.senado.leg.br/web/ atividade/materias/-/materia/157233. Acesso em: 04 out. 2023.

BRUCH, Tiago Bruno. Judiciário brasileiro e inteligência artificial. Curitiba: CRV, 2021.

CASTELLS, Manuel. Sociedade em rede. 21. ed. São Paulo: Paz e Terra, 2020.

CAVALCANTI, João Carlos Gonçalves. Controle e resistências no processo de informatização da corte de justiça pernambucana (1983-1992). Recife, 2020. 232 f. Dissertação (Mestrado) – Programa de Pós-graduação em História da Universidade Católica de Pernambuco.

CICUREL, Ronald; NICOLELIS, Miguel. O cérebro relativístico: como ele funciona e por que ele não pode ser simulado por uma máquina de Turing. Natal, Montreux, Durhan, São Paulo: Kio Press, 2015.

COMISSÃO de Juristas Responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil (CJSUBIA). Relatório final. Brasília, dez. 2022. Disponível em: https://www6g.senado.leg.br/busca/?portal=Atividade+Legislativa&q=relat%C3%B3rio+ final+cjusbia Acesso em: 04 mai. 2023.

COSTA-ABREU, Márjory da; SILVA, Bruno dos Santos F. A critical analysis of “law 4.0”: the use of automation and artificial intelligence and their impact on the judicial of Brazil. RDFT, 2020. Disponível em: http://www.rdft.com.br/revista/article/view/30. Acesso em: 12 mai. 2021.

DEZAN, Sandro Lúcio. Desafios à transparência, à publicidade e à motivação da decisão jurídica assistida por sistemas de inteligência artificial no processo administrativo valorativo. In: PINTO, Henrique Alves et al. Inteligência artificial aplicada ao processo de tomada de decisões. Belo Horizonte: D’Plácido, 2020, p. 513-537.

ESPOSITO, Elena. Artificial communication: how algorithms produce social intelligence. Cambridge: MIT Press, 2022.

FINATEC. Fundação de Empreendimentos Científicos e Tecnológicos. Edital de Seleção Pública n. 053/2018, de 19 jul. 2018. Brasília: FINATEC, 2018. Disponível em: http://www.finatec.org.br/editais_finatec/files/licitacoes/2018/edital_selecao_053_2018.pdf. Acesso em: 18 mai. 2020.

FRÖLICH, Afonso Vinício Kirschner; ENGELMANN, Wilson. Panorama da utilização da inteligência artificial nos tribunais de justiça brasileiros. Revista Brasileira de Inteligência Artificial e Direito, RBIAD, 2020. Disponível em: https://rbiad.com.br/index.php/rbiad. Acesso em: 02 jun. 2020.

GARCIA, Dinio de Santis. Introdução à informática jurídica. São Paulo: USP, 1976.

KAHNEMAN, Daniel. Rápido e devagar: duas formas de pensar. Rio de Janeiro: Objetiva, 2012.

LAGE, Fernanda de Carvalho. Manual de inteligência artificial no direito brasileiro. Salvador: JusPODIVM, 2021.

LOSANO, Mario G. Lições de informática jurídica. São Paulo: Editora Resenha Tributária, 1974.

LÖW, Marieta Marks. Da automatização à virtualização: a criação do processo eletrônico no Brasil. Scire, Zaragoza, v. 18, p. 143-6, 2012.

MAGALHÃES, Renato Vasconcelos. Automatización del raciocinio jurídico: perspectivas y límites en la aplicación de la inteligencia artificial al derecho. Burgos, 2004. 627 f. Tese (Doutorado) – Faculdade de Direito da Universidade de Burgos.

MARTÍN, Nuria Belloso. Los desafíos iusfilosóficos de los usos de la inteligencia artificial en los sistemas judiciales: a propósito de la decisión judicial robótica vs. decisión judicial humana. In: MARTÍN, Nuria Belloso; IORIO FILHO, Rafael Mario; PINTO, Adriano Moura da Fonseca. Sociedad plural y nuevos retos del derecho. Pamplona: Editorial Aranzadi, 2021, arquivo Kindle, p. 416-515.

NUNES, Dierle; LUD, Natanael; PEDRON, Flávio Quinaud. Desconfiando da imparcialidade dos sujeitos processuais: um estudo sobre os vieses cognitivos, a mitigação de seus efeitos e o debiasing. 2. ed. Salvador: JusPodivm, 2020.

O’NEIL, Cathy. Armas de destrucción matemática. Madrid: Capitán Swing, 2020, arquivo Kindle.

PAINEL DE PROJETOS DE INTELIGÊNCIA ARTIFICIAL. Conselho Nacional de Justiça (CNJ). 2020. Disponível em: https://paineisanalytics.cnj.jus.br/single/?appid=29d710f7-8d8f-47be-8af8-a9152545b771&sheet=b8267e5a-1f1f-41a7-90ff-d7a2f4ed34ea〈=pt-BR&opt=ctxmenu,currsel. Acesso em: 08 nov. 2021.

PAULO, Euflázio. Secretaria de Tecnologia de Informação do STF. RES: Ofício – solicitação de informações sobre Projeto Victor. Destinatário: Daniel Pessoa, Brasília, 2 jun. 2021, mensagem eletrônica.

PEIXOTO, Fabiano Hartmann; SILVA, Roberta Zumblick Martins da. Inteligência artificial e direito. Curitiba: Alteridade Editora, 2019.

PESSOA, Daniel. O uso de inteligências artificiais no sistema judicial brasileiro: cenário de disputas. Unisul de Fato e de Direito. 2020, p. 41-56. Disponível em: https://portaldeperiodicos. unisul.br/index.php/%20U_Fato_Direito/article/view/9818. Acesso em: 18 out. 2020.

PESSOA, Daniel. Projeto Esperança Garcia: relatos e propostas para uma pesquisa empírica sobre a inteligência artificial no modo de produção das decisões judiciais. In: CASTRO, F.A.; MAIA, M.S.F. Observatório de práticas sociojurídicas: programas de pesquisas para o campo jurídico profissional. Curitiba: CRV, 2021, p. 121-146.

PESSOA, Daniel. Algumas contribuições da neurociência cognitiva para explicar a decisão judicial. Campina Grande: EDUEPB, 2021a.

PESSOA, Daniel. Ofício – solicitação de informações sobre Projeto Victor. Destinatários: Ministro Presidente do STF, Luiz Fux; Pedro Felipe de Oliveira Santos; e Venício Glebson Dantas Silva. Mossoró, 18 mai. 2021b, mensagem eletrônica.

RAMOS, Janine Vilas Boas Gonçalves. Inteligência artificial no poder judiciário brasileiro: projetos de IA nos tribunais e o sistema de apoio ao processo decisório judicial. São Paulo: Editora Dialética, 2022.

RUFINO, Humberto d’Ávila. A informática jurídica e a prestação jurisdicional trabalhista: uma proposta concreta. Florianópolis, 1985. 170 f. Dissertação (Mestrado) – Pós-graduação em Direito, Universidade Federal de Santa Catarina.

SALOMÃO, Luís Felipe. (coord.). Tecnologia Aplicada à Gestão dos Conflitos no Âmbito do Poder Judiciário Brasileiro. Rio de Janeiro: FGV, 2020. Disponível em: https://ciapj.fgv. br/sites/ciapj.fgv.br/files/estudos_e_pesquisas_ia_1afase.pdf. Acesso em: 08 mai. 2021.

SALOMÃO, Luís Felipe. (coord.). Inteligência artificial: tecnologia aplicada à gestão dos conflitos no âmbito do poder judiciário brasileiro. 2. ed. Rio de Janeiro: FGV, 2022. Disponível em: https://conhecimento.fgv.br/sites/default/files/2022-08/publicacoes/relatorio_ia_2fase.pdf. Acesso em: 20 jun. 2023.

SALOMÃO, Luís Felipe (coord.); TAUK, Caroline Somesom (coord.) et al. Inteligência artificial: tecnologia aplicada à gestão de conflitos no âmbito do Poder Judiciário brasileiro. 3. ed. Rio de Janeiro: FGV, 2023. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/ relatorio_ia_3a_edicao_0.pdf. Acesso em: 02 out. 23.

SCHWAB, Klaus. A quarta revolução industrial. São Paulo: Edipro, 2016.

SILVA, Nilton Correia et. al. Document type classification for Brazil’s supreme court using a convolutional neural network. In: International Conference on Forensic Computer and Cyber Law, 10., São Paulo, 2018, p. 7-11. Disponível em: http://icofcs.org/2018/ICoFCS-2018-001.pdf. Acesso em: 08 nov. 2021.

SOUSA, Rosalina F. Martins de; CÂMARA, Maria Amélia Arruda; RODRIGUES, Walter de Macedo. Inteligência artificial no âmbito do poder judiciário: a participação democrática e a transparência algorítmica. In: PINTO, Henrique Alves et al. Inteligência artificial aplicada ao processo de tomada de decisões. Belo Horizonte: D’Plácido, 2020, p. 191-206.

STF, CENTRAL DO CIDADÃO. Notificação – sua solicitação (36882 – acesso à informação) foi concluída. Destinatária: Cláudia Toledo. Brasília, 20/08/2021, mensagem eletrônica.

STF, CENTRAL DO CIDADÃO. Notificação – sua solicitação (88321 – acesso à informação – STI) foi concluída. Destinatário: Daniel Pessoa. Brasília, 16/02/2023, mensagem eletrônica.

SUSSKIND, Richard. Online courts and the future of justice. Oxford: Oxford University Press, 2019.

SUSSKIND, Richard; SUSSKIND, Daniel. O futuro das profissões: como a tecnologia transformará o trabalho dos especialistas humanos. Lisboa: Gradiva, 2019.

TENÓRIO, Igor. Direito e cibernética. 3. ed. Rio de Janeiro: Editora Rio, 1975.

TJMG. Tribunal de Justiça de Minas Gerais. TJMG utiliza inteligência artificial em julgamento virtual. Notícia no site oficial, Belo Horizonte, 07 nov. 2018. Disponível em: https://www.tjmg.jus.br/portal-tjmg/noticias/tjmg-utiliza-inteligencia-artificial-em-julgamento-virtual.htm. Acesso em: 08 nov. 2021.

TJMG. Tribunal de Justiça de Minas Gerais. Consulta – Fale com o TJMG. Destinatário: Cláudia Toledo. Belo Horizonte, 24 jun. 2020, mensagem eletrônica.

TOLEDO, Cláudia. Direito Adquirido e Estado Democrático de Direito. São Paulo: Landy, 2003.

TOLEDO, Cláudia. Inteligência Artificial e sua aplicabilidade em decisões judiciais. In: PEIXOTO, F.H. (org.). Inteligência Artificial: Estudos de Inteligência Artificial. Curitiba: Alteridade, 2021, p. 57-90.

TOLEDO, Cláudia; ALVES, Michelle. 2021. Inteligência Artificial Aplicada ao Direito. In: SEMINÁRIO DO OBSERVATÓRIO DE PRÁTICAS SOCIOJURÍDICAS, 1., 2021a, UFERSA, Mossoró. Disponível em: https://ppgd.ufersa.edu.br/wp-content/uploads/sites/ 168/2021/05/Lista-de-Trabalhos-Aprovados-nos-GTs-do-ISeminario-de-Pesquisa-do-OPS.pdf Acesso em: 08 nov. 2021.

TOLEDO, Cláudia. Solicitação 36882 – acesso à informação. Destinatário: Central do Cidadão do STF. Juiz de Fora, 28 ago. 2021b, mensagem eletrônica.

VALENTINI, Rômulo Soares. Julgamento por computadores? As novas possibilidades no século XXI e suas implicações para o futuro do direito e do trabalho dos juristas. Belo Horizonte, 2017. 150 f. Tese (Doutorado) – Programa de Pós-graduação em Direito, Universidade Federal de Minas Gerais.

VARELA, Francisco J. Conhecer: as ciências cognitivas: tendências e perspectivas. Lisboa: Instituto Piaget, 1995.

DOI: http://dx.doi.org/10.5380/rinc.v10i1.86319