The use of artificial intelligence in the judiciary: research on potential risks to human rights
DOI:
https://doi.org/10.5433/1980-511X.2026.v21.52325Keywords:
Artificial intelligence, Decision algorithms, Brazilian judicial system, Algorithmic discriminationAbstract
The article discusses the use of artificial intelligence in the Brazilian judicial system, examining the existence of violations in the use of automated decisions through algorithms. Therefore, it questions the use of these technologies in the judicial system, asking: “What are the implications of using Artificial Intelligence as a substitute in the formulation of judicial decisions?”, “Are there ethical implications that would limit its use?” and “Could Artificial Intelligence be the answer to achieving impartial decisions?”. The hypothesis is that the use of artificial intelligence may constitute a new form of human rights violation, turning people into numerical data if there is no necessary ethical discussion and legal oversight in the construction of this disruptive technology. The hypothetical-deductive method and bibliographic research were used. It concludes that it is necessary to apply an ethical bias concerned with human rights to ensure that the use of these technologies does not harm the judicial system.
Downloads
References
ALENCAR, Carolina Cavalcante de. O direito de explicação frente à decisões automatizadas the right to explanation of automated decisions. In: CONGRESSO RECAJ-UFMG, 11., 2020, Belo Horizonte. Anais [...]. Belo Horizonte: UFMG, 2020. p. 12-18. Disponível em: http://site.conpedi.org.br/publicacoes/05sx3fe1/p1429102/8kaUt0939Ck7tFle.pdf. Acesso em: 24 set. 2026.
ARBIX, Glauco. Algoritmos não são inteligentes nem têm ética, nós temos: a transparência no centro da construção de uma IA ética. In: COZMAN, Fabio G.; PLONSKI Guilherme Ary; NERI, Hugo. Inteligência artificial: avanços e tendências. São Paulo: Instituto de Estudos Avançados, 2021. p. 260-284.
BIGATON, Tainá Rafaela; TEIXEIRA, Marcelo Markus; BILHALVA, João Vítor Massaro. A ética de dados como uma possível resposta para alguns desafios do direito internacional frente a inteligência artificial. Revista Eletrônica do Curso de Direito da UFSM, Santa Maria, v. 17, n. 1, p. e65051-e65051, 2022. DOI: https://doi.org/10.5902/1981369465051.
BOBBIO, Norberto. A era dos direitos. Rio de Janeiro: Elsevier, 2004.
BRASIL, Guilherme Maciulevicius Mungo.; URQUIZA, Antonio Hilario Ahuilera. O que são Direitos Humanos? uma proposta de alteridade, pluralismo, interculturalidade e descolonialidade. Revista Videre, Dourados, v. 12, n. 24, p. 171–195, 2020. DOI: https://doi.org/10.30612/videre.v12i24.11225.
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 24 set. 2026.
BRASIL. Supremo Tribunal Federal. Ação Direta de Inconstitucionalidade 4.277 DF. Arguição de descumprimento de preceito fundamental (ADPF). Perda parcial de objeto. Recebimento, na parte remanescente, como ação direta de inconstitucionalidade. Relator: Min. Ayres Britto. Brasília, DF: STF, 2011. Disponível em: http://redir.stf.jus.br/paginadorpub/paginador.jsp?docTP=AC&docID=628635. Acesso em 24 set. 2026.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY AND TRANSPARENCY, 2018, New York. Proceedings […]. New York: PMLR, 2018. p. 77-91. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 24 set. 2026.
CARDOSO, Henrique Ribeiro; PESSOA, Flávia Moreira Guimarães; MELO, Bricio Luis da Anunciação. Inteligência artificial e julgamento por computadores: uma análise sob a perspectiva de um acesso a justiça substancial. Revista Jurídica Unicuritiba. Curitiba, v. 5, n. 72, p.75–101, set. 2022. Disponível em: https://revista.unicuritiba.edu.br/index.php/RevJur/article/view/6241. Acesso em: 23 set. 2026.
CASSINO, João Francisco; AVELINO, Rodolfo da Silva; SILVEIRA, Sérgio Amadeu da. Direitos Humanos, inteligência artificial e privacidade. Monções: Revista de Relações Internacionais da UFGD, Dourados, v. 8, n. 15, p. 573–596, 2019. DOI: https://doi.org/10.30612/rmufgd.v8i15.11546.
CNJ - CONSELHO NACIONAL DE JUSTIÇA. Justiça em números 2024. Brasília: CNJ, 2024. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2024/05/justica-em-numeros-2024.pdf. Acesso em: 24 set. 2026.
CNJ - CONSELHO NACIONAL DE JUSTIÇA. Inteligência artificial: no poder judiciário brasileiro. Brasília: CNJ, 2019.
COSTA, Diego Carneiro. O viés do algoritmo e a discriminação por motivos relacionados à sexualidade. 2020. Dissertação (Mestrado em Direito) – Universidade Federal da Bahia, Salvador, 2020. Disponível em: https://repositorio.ufba.br/handle/ri/34394. Acesso em: 23 set. 2027.
COSTA, Fabrício Veiga; BARROS, Frederico Kern Ferreira; SANTOS, João Manoel Miranda Gomes dos. Contornos sobre a responsabilidade civil das grandes empresas de tecnologia “BIG TECHS” em casos de violação ao direito fundamental a proteção de dados. Revista Brasileira de Direito Civil em Perspectiva, Florianópolis, v. 8, n. 1, 2022. DOI: https://doi.org/10.26668/IndexLawJournals/2526-0243/2022.v8i1.8602.
DOMINGUES, Ivan. Ética, ciência e tecnologia. Kriterion, Belo Horizonte, V. 45, n. 109, p. 159-174, jun. 2004. DOI: https://doi.org/10.1590/S0100-512X2004000100007.
DONEDA, Danilo Cesar Maganhoto; MENDES, Laura Schertel; SOUZA, Carlos Affonso Pereira de; AN, Norberto Nuno Martin Becerra Gomes. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar-Revista de Ciências Jurídicas, Fortaleza, v. 23, n. 4, p. 1-17, 2018. DOI: https://doi.org/10.5020/2317-2150.2018.8257.
DUARTE, Alan; NEGÓCIO, Ramon de Vasconcelos. Todos são iguais perante o algoritmo? Uma resposta cultural do direito à discriminação algorítmica. Direito Público, Brasília-DF, v. 18, n. 100, 2021. DOI: https://doi.org/10.11117/rdp.v18i100.5869.
FONSECA, Andrio Portuguez. A disrupção do direito pela inteligência artificial e os seus reflexos no ativismo judicial. 2022. Tese (Doutorado em Ciências Jurídicas e Sociais) - Universidade Federal do Rio Grande do Sul, Porto Alegre, 2022. Disponível em: https://lume.ufrgs.br/handle/10183/253303. Acesso em: 24 set. 2026.
KLEIN, Lara Carrera Arrabal; CHAI, Cassius Guimarães. Efeito backlash: ativismo judicial entre democracia e desconfiança na efetivação de direitos e garantias de minorias. Revista Brasileira de Teoria Constitucional, Florianópolis, v. 8, n. 1, 2022. Disponível em: https://www.indexlaw.org/index.php/teoriaconstitucional/article/view/8739. Acesso em 24 set. 2026.
LUCCIONI, Alexandra; BENGIO, Yoshua. On the morality of artificial intelligence. arXiv Preprint, 2019. Disponível em: https://arxiv.org/abs/1912.11945. Acesso em: 24 set. 2026.
MACHADO, Fernanda Vargas. Inteligência artificial centrada no ser humano e sua aplicação no poder judiciário brasileiro: o exemplo do projeto do TRT da 4ª Região. 2022. Dissertação (Mestrado em Direito) – Universidade do Vale do Rio dos Sinos, Porto Alegre, 2022. Disponível em: http://www.repositorio.jesuita.org.br/handle/UNISINOS/12026. Acesso em: 24 set. 2026.
MAIA, Paulo Roberto Fontenele; BEZERRA, Stéfani Clara da Silva; FERREIRA, Helio Rios. Cognição humana versus inteligência artificial: uma abordagem heideggeriana sobre o projeto do primeiro juiz robô na Estônia. Revista Brasileira de Filosofia do Direito, Florianópolis, v. 7, n. 2, jul./dez. 2021. DOI: https://doi.org/10.26668/IndexLawJournals/2526-012X/2021.v7i2.8192.
MARCONI, Marina de Andrade; LAKATOS, Eva Maria. Fundamentos de metodologia científica. 9. ed. São Paulo: Atlas, 2022.
MARGRAF, Alencar Frederico; FRANCO, Tiago Arantes. Inteligência Artificial na produção de decisões humanizadas: uma verdadeira quimera da busca pela decisão perfeita. RJLB, Lisboa, Ano 5, n. 5, 2019.
MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação algorítmica: conceito, fundamento legal e tipologia. Direito Público, Porto Alegre, v. 16, n. 90, p. 39-64, nov./dez. 2019.
NASCIMENTO, Arthur Ramos do; ALVES, Fernando de Brito. Vulnerabilidade de grupos minoritários entre cenários de crise e proteção de direitos. Revista da Faculdade de Direito do Sul de Minas, Pouso Alegre, v. 36, n. 2, 2020. Disponível em: https://revista.fdsm.edu.br/index.php/revistafdsm/article/view/110. Acesso em: 23 set. 2026.
O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. São Paulo: Ediora Rua do Sabão, 2020.
OLIVEIRA, Nathália Alves. A integração da inovação disruptiva para o desenvolvimento regional do estado de Mato Grosso do Sul. 2021. Dissertação (Mestrado em Fronteiras e Direitos Humanos) - Universidade Federal da Grande Dourados, Dourados-MS, 2021.
PEIXOTO, Fabiano Hartmann. Direito e inteligência artificial. coleção inteligência artificial e jurisdição. Brasília, DF: 2020. v. 2. Disponível em: https://repositorio.unb.br/handle/10482/43421. Acesso em 24 set. 2026.
PIOVESAN, Flávia; CRUZ, Julia Cunha. Curso de direitos humanos: sistema interamericano. Rio de Janeiro: Editora Forense, 2021.
RIBEIRO, Márcio Vinicius Machado. Inteligência artificial no Poder Judiciário: ética e eficiência em debate. 2021. Dissertação (Mestrado em Direito) – Pontifícia Universidade Católica de São Paulo, São Paulo, 2021.
RODRIGUES, Paula do Amaral Ferraz. Inteligência artificial no direito: pelo uso ético das novas tecnologias. Revista Eletrônica OAB/RJ, Rio de Janeiro, v. 31, n. 2, jul./ago. 2021.
SEGATO, Rita Laura. Antropologia e direitos humanos: alteridade e ética no movimento de expansão dos direitos universais. Mana, Rio de Janeiro, v. 12, n. 1, p. 207-236, 2006. DOI: https://doi.org/10.1590/S0104-93132006000100008.
SILVA, Tarcízio. Comunidades, algoritmos e ativismos digitais: olhares afrodiaspóricos. São Paulo: Editora LiteraRUA, 2020.
SOARES, Marcelo Negri; KAUFFMAN Marcos Eduardo; CHAO Kuo-Ming. Inteligência Artificial: impactos no Direito e na advocacia. Direito Público, Brasília, DF, v. 17, n. 93, 2020. Disponível em: https://www.portaldeperiodicos.idp. edu.br/direitopublico/article/view/3555. Acesso em: 24 set. 2026.
TOFFOLI, José Antonio Dias; MARTINS, Humberto. Inteligência artificial: na gestão do sistema de justiça. In: SALOMÃO, Luiz Felipe (org.). FÓRUM SOBRE DIREITO E TECNOLOGIA: Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário Brasileiro., 1., 2020, Rio de Janeiro. Anais [...]. Rio de Janeiro: Fundação Getúlio Vargas, 2020. Disponível em: https://repositorio.fgv.br/items/1cdabcf7-f235-4c9f-a7e2-6fc992603a08. Acesso em: 23 set. 2026.
ZAGURSKI, Adriana Timoteo dos Santos. Backlash: uma reflexão sobre deliberação judicial em casos polêmicos. Revista da AGU, Brasília, DF, v. 16, n. 3. p. 87-108, jul./set. 2017. Disponível em: https://www.cjf.jus.br/caju/Efeito.Backlash.Jurisdicao.Constitucional_4.pdf. Acesso em: 24 set. 2026.
ZUBOFF, Shoshana. The age of surveillance capitalism: the fight for a human future at the new frontier of power. Nova York:Public Affairs, 2019.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2026 Renata Akemi Otake, Alaerte Antonio Martelli Contini, Arthur Ramos do Nascimento
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Os autores cedem à Revista do Direito Público, direitos exclusivos de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Atribuição-NãoComercial-CompartilhaIgual 4.0 Internacional. Esta licença permite que terceiros façam download e compartilhem os trabalhos em qualquer meio ou formato, desde que atribuam o devido crédito de autoria, mas sem que possam alterá-los de nenhuma forma ou utilizá-los para fins comerciais. Se você remixar, transformar ou desenvolver o material, não poderá distribuir o material modificado.
Licença atribuída: CC BY NC ND e suas respectivas permissões de uso para os conteúdos da revista. Link: http://creativecommons.org/licenses/by-nc-nd/4.0
