Erro judiciário algorítmico e responsabilidade estatal no Poder Judiciário brasileiro

Como Citar:

SCARANO, Giordana de Oliveira; GONDIM, Ítalo Lopes; DE FREITAS, Marcela Melo. Erro judiciário algorítmico e responsabilidade estatal no Poder Judiciário brasileiro. Revista Sociedade Científica, vol. 9, n. 1, p. 880-902, 2026. https://doi.org/10.61411/rsc2026130419

DOI: 10.61411/rsc2026130419

Área do conhecimento:

Ciências Sociais Aplicadas

Sub-área:

Direito; Direito Público

Palavras-chave: Inteligência Artificial; Poder Judiciário; Responsabilidade Civil do Estado; Decisão Automatizada; Erro Judiciário.

Publicado: 15 de abril de 2026.

.

.

.

Resumo

A crescente incorporação de sistemas de inteligência artificial no Poder Judiciário brasileiro tem transformado a dinâmica da atividade jurisdicional, introduzindo novas possibilidades de automação e gestão processual. Todavia, a mediação algorítmica da decisão judicial também suscita questionamentos relevantes acerca da responsabilização estatal por eventuais danos decorrentes do uso dessas tecnologias. Nesse contexto, o presente artigo analisa a responsabilidade civil do Estado diante da utilização de sistemas de inteligência artificial no âmbito da função jurisdicional, investigando se o regime jurídico tradicional é suficiente para lidar com os riscos decorrentes da automação decisória. A pesquisa adota o método hipotético-dedutivo, com abordagem qualitativa e técnica bibliográfica, fundamentada em doutrina especializada, legislação, projetos de lei e documentos institucionais do Conselho Nacional de Justiça (CNJ). Sustenta-se que a adoção institucional de sistemas de inteligência artificial pelo Poder Judiciário implica a assunção de novos riscos tecnológicos pelo Estado, o que exige a releitura do regime de responsabilidade civil à luz da teoria do risco administrativo, bem como o desenvolvimento de mecanismos de governança algorítmica capazes de assegurar transparência, explicabilidade e proteção efetiva aos jurisdicionados.

Algorithmic judicial error and state liability in the brazilian Judiciary

Abstract

The increasing incorporation of artificial intelligence systems within the Brazilian Judiciary has significantly transformed the dynamics of judicial activity, introducing new possibilities for automation and procedural management. However, the algorithmic mediation of judicial decision-making also raises important questions regarding State liability for potential damages arising from the use of such technologies. In this context, this study examines the civil liability of the State in situations involving the use of artificial intelligence systems in the exercise of judicial functions, investigating whether the traditional legal framework is sufficient to address the risks associated with automated decision-making. The research adopts a hypothetical-deductive method, with a qualitative approach and bibliographic research technique, based on specialized legal doctrine, legislation, legislative proposals, and institutional documents issued by the National Council of Justice (CNJ). The study argues that the institutional adoption of artificial intelligence systems by the Judiciary entails the assumption of new technological risks by the State, requiring a reinterpretation of the regime of State liability in light of the administrative risk theory, as well as the development of algorithmic governance mechanisms capable of ensuring transparency, explainability, and effective protection of litigants.

Keywords: Artificial Intelligence; Algorithmic Decision-Making; Judicial Error; State Liability; Algorithmic Governance.

• Introdução

O desenvolvimento e a incorporação de tecnologias de inteligência artificial têm provocado profundas transformações na estrutura e no funcionamento das instituições públicas contemporâneas. No âmbito do Poder Judiciário brasileiro, esse processo se manifesta de forma particularmente intensa por meio da adoção de sistemas algorítmicos destinados à automação de tarefas, análise de grandes volumes de dados e auxílio à tomada de decisões. Iniciativas institucionais como o programa Victor, desenvolvido pelo Supremo Tribunal Federal para a triagem automatizada de recursos extraordinários, e o projeto Justiça 4.0, coordenado pelo Conselho Nacional de Justiça, refletem uma política pública voltada à digitalização e à racionalização da atividade jurisdicional, com o objetivo de ampliar a eficiência, reduzir custos operacionais e conferir maior celeridade à prestação jurisdicional.

A incorporação dessas tecnologias, entretanto, não se limita a uma mera inovação administrativa ou tecnológica. Ao intermediar atividades tradicionalmente exercidas por agentes humanos, os sistemas de inteligência artificial passam a influenciar diretamente o modo como decisões judiciais são produzidas, classificadas ou priorizadas. Esse cenário inaugura um novo conjunto de desafios jurídicos e institucionais, especialmente no que se refere à transparência, à confiabilidade e à responsabilidade decorrente do uso de algoritmos no exercício da função jurisdicional.

Nesse contexto, emerge uma tensão entre dois valores centrais do sistema de justiça contemporâneo. De um lado, encontra-se a necessidade de modernização e eficiência administrativa, frequentemente associada ao uso de ferramentas automatizadas capazes de lidar com o crescente volume de processos judiciais. De outro, surgem dilemas éticos e jurídicos relacionados à opacidade dos sistemas algorítmicos, frequentemente descritos como “caixas-pretas” decisórias, à possibilidade de reprodução de vieses presentes nos dados utilizados para treinamento dos modelos e ao risco de ocorrência de erros automatizados capazes de afetar direitos fundamentais dos jurisdicionados.

Consequentemente a utilização de inteligência artificial na atividade jurisdicional, portanto, desloca parte do debate tradicional sobre erro judiciário. Se, historicamente, o erro jurisdicional esteve associado à atuação individual do magistrado, a mediação tecnológica da decisão introduz novas fontes de risco, relacionadas ao desenho, à implementação e à governança dos sistemas algorítmicos utilizados pelo Poder Judiciário. Nessas circunstâncias, o erro deixa de ser apenas um fenômeno humano e passa a assumir, em determinadas hipóteses, uma dimensão sistêmica e tecnológica, podendo decorrer de falhas na modelagem do algoritmo, no treinamento das bases de dados ou na ausência de mecanismos adequados de supervisão institucional.

Diante desse cenário, torna-se necessário investigar de que forma o ordenamento jurídico brasileiro responde aos danos eventualmente decorrentes do uso dessas tecnologias no exercício da jurisdição, haja vista a responsabilidade objetiva do Estado pelos danos causados por seus agentes [1].

Assim, o presente estudo tem como objetivo analisar a aplicabilidade do regime de responsabilidade objetiva do Estado diante de danos causados por falhas algorítmicas no âmbito do Poder Judiciário. Parte-se da hipótese de que a adoção institucional de sistemas de inteligência artificial na atividade jurisdicional implica a assunção, pelo Estado, de novos riscos tecnológicos, os quais podem ensejar a ampliação do campo da responsabilidade estatal sempre que tais tecnologias contribuírem para a produção de decisões ou atos judiciais capazes de gerar prejuízos aos jurisdicionados.

• Desenvolvimento e discussão

  • O panorama da IA no judiciário brasileiro

Antes de analisar a incorporação de sistemas de inteligência artificial no Poder Judiciário brasileiro, é necessário compreender, ainda que brevemente, as bases conceituais dessa tecnologia. A inteligência artificial, enquanto campo científico, remonta aos estudos desenvolvidos ao longo do século XX, especialmente às contribuições do matemático britânico Alan Turing, considerado um dos pioneiros na reflexão acerca da possibilidade de máquinas reproduzirem comportamentos inteligentes.

Conforme observa João de Fernandes Teixeira [2], Turing formulou a célebre indagação: “Pode uma máquina pensar?”, questionamento que inaugura um dos debates centrais da inteligência artificial moderna e conduz à formulação do chamado teste de Turing, segundo o qual uma máquina poderia ser considerada inteligente quando seu comportamento se tornasse indistinguível daquele apresentado por um ser humano.

A partir dessas bases teóricas, o desenvolvimento da inteligência artificial evoluiu significativamente nas últimas décadas, culminando na criação de sistemas capazes de processar grandes volumes de dados e auxiliar processos decisórios complexos, circunstância que tem favorecido sua progressiva incorporação em instituições públicas, especialmente no Poder Judiciário.

No Brasil, a adoção de tecnologias baseadas em inteligência artificial integra um movimento mais amplo de digitalização e modernização da Justiça, intensificado nas últimas décadas com o desenvolvimento de políticas institucionais voltadas à gestão tecnológica do sistema judicial. Nesse contexto, iniciativas como o programa Justiça 4.0 [3], coordenado pelo Conselho Nacional de Justiça (CNJ), buscam promover maior eficiência administrativa, racionalização de fluxos processuais e melhoria na gestão de grandes volumes de processos, por meio da incorporação de soluções tecnológicas e ferramentas de automação.

Atualmente, diversos tribunais brasileiros vêm implementando sistemas algorítmicos destinados principalmente à triagem processual, organização de dados, automação de tarefas repetitivas e apoio à atividade jurisdicional. De acordo com levantamento realizado pelo Conselho Nacional de Justiça [4], já existem dezenas de sistemas de inteligência artificial em funcionamento no Poder Judiciário, refletindo um cenário de crescente experimentação institucional dessas tecnologias.

Nesse contexto, quando da análise temática desenvolvida por Caroline Tauk [5], é possível identificar que a arquitetura tecnológica do Judiciário brasileiro pode ser compreendida a partir de quatro grupos funcionais distintos, conforme a finalidade desempenhada por tais sistemas. Importa destacar que, segundo a autora, não há, até o momento, registro documentado de discriminação algorítmica no Judiciário brasileiro, sobretudo porque as ferramentas atualmente utilizadas operam majoritariamente em atividades de suporte e triagem, sem substituição direta da função decisória humana.

O primeiro grupo corresponde às chamadas atividades-meio, que envolvem sistemas voltados à gestão administrativa e à segurança institucional. Nesse âmbito, destacam-se ferramentas como o Chatbot DIGEP, desenvolvido pelo Tribunal de Justiça do Rio Grande do Sul para prestar suporte a servidores, e o sistema AMON, do Tribunal de Justiça do Distrito Federal e Territórios, utilizado para reconhecimento facial e monitoramento da segurança institucional.

O segundo grupo refere-se às ferramentas de apoio à gestão e às secretarias judiciais, destinadas principalmente à automação de tarefas repetitivas e à organização de acervos processuais. Exemplos representativos são o sistema Athos, do Superior Tribunal de Justiça, responsável pela triagem e monitoramento de temas repetitivos, e o Hércules, do Tribunal de Justiça de Alagoas, voltado à triagem de execuções fiscais.

Já no terceiro grupo, há ainda sistemas voltados à elaboração de minutas e conteúdos decisórios, aproximando-se de atividades diretamente relacionadas à função jurisdicional e objeto do nosso estudo. Nesse conjunto encontram-se ferramentas como o Victor, do Supremo Tribunal Federal, utilizado para identificação de temas de repercussão geral; o Elis, do Tribunal de Justiça de Pernambuco, que auxilia na conferência automatizada de petições iniciais; e o Aslan, do Tribunal de Justiça de Alagoas, sistema empregado na triagem de execuções fiscais de pequeno valor e na elaboração automatizada de minutas de sentenças de extinção.

Por fim, identificam-se ferramentas voltadas à solução adequada de conflitos, capazes de analisar dados históricos e estimar probabilidades de conciliação em determinados tipos de demandas. Entre os exemplos citados estão o sistema ICIA, utilizado no Tribunal Regional do Trabalho da 4ª Região, e o Concilia JT, desenvolvido no âmbito da Justiça Federal da 1ª Região.

Esse panorama evidencia que, embora o uso de inteligência artificial no Judiciário brasileiro ainda esteja majoritariamente concentrado em atividades de apoio e gestão processual, a crescente sofisticação dessas ferramentas tende a ampliar sua influência sobre a dinâmica decisória do sistema de justiça. Tal cenário torna indispensável a reflexão acerca dos riscos associados à mediação algorítmica da atividade jurisdicional, especialmente no que se refere à possibilidade de opacidade decisória, reprodução de vieses e eventual produção de erros decorrentes da atuação de sistemas automatizados. Essas questões serão examinadas no tópico seguinte, dedicado à análise do erro judiciário algorítmico e de suas implicações jurídicas.

• • Erro judiciário algorítmico: vieses e opacidade

A crescente incorporação de sistemas de inteligência artificial no funcionamento do Poder Judiciário, ainda que majoritariamente direcionada a atividades de apoio e gestão processual, inaugura um novo campo de reflexão acerca dos riscos associados à mediação tecnológica da atividade jurisdicional. Se, por um lado, essas ferramentas têm sido concebidas com o propósito de aumentar a eficiência administrativa e otimizar o tratamento de grandes volumes de processos, por outro, sua utilização introduz desafios relevantes relacionados à confiabilidade dos resultados produzidos, à transparência dos critérios utilizados e à possibilidade de reprodução de vieses presentes nas bases de dados utilizadas para o treinamento dos sistemas.

Nesse contexto, emerge a noção de “erro judiciário algorítmico”, expressão que designa distorções decisórias ou classificatórias decorrentes da atuação de sistemas automatizados no processo de produção ou organização da atividade jurisdicional. Diferentemente do erro judiciário tradicional, historicamente associado à atuação humana do magistrado, o erro algorítmico pode decorrer de múltiplos fatores, tais como falhas no desenvolvimento do modelo computacional, utilização de bases de dados enviesadas, limitações metodológicas dos sistemas de aprendizado de máquina ou ausência de mecanismos adequados de supervisão institucional.

A literatura especializada tem destacado que os sistemas de inteligência artificial não são tecnicamente neutros, uma vez que refletem escolhas humanas realizadas durante as etapas de design, treinamento e implementação do algoritmo [6]. Nesse sentido, os modelos algorítmicos tendem a reproduzir padrões presentes nos dados que alimentam seu funcionamento, o que pode resultar na amplificação de desigualdades ou na produção de classificações enviesadas. Tal fenômeno é frequentemente descrito como viés algorítmico, entendido como a incorporação, consciente ou não, de distorções estatísticas ou padrões discriminatórios nas decisões ou recomendações produzidas por sistemas automatizados, conforme observado por Cathy O’Neil, “algoritmos podem reproduzir ou amplificar desigualdades presentes nos dados utilizados para seu treinamento” [7].

No contexto judicial, esses riscos adquirem especial relevância, uma vez que a atividade jurisdicional envolve a tutela de direitos fundamentais e a produção de decisões que impactam diretamente a esfera jurídica dos indivíduos. Ainda que, conforme observado no panorama apresentado no capítulo anterior, os sistemas atualmente utilizados no Judiciário brasileiro estejam predominantemente concentrados em tarefas de triagem, classificação e apoio administrativo, a crescente sofisticação dessas ferramentas pode ampliar sua influência sobre a dinâmica decisória do sistema de justiça. À luz desse contexto, eventuais falhas algorítmicas podem repercutir na forma como processos são priorizados, classificados ou encaminhados, produzindo efeitos indiretos sobre o resultado da atividade jurisdicional.

Outro aspecto central do debate diz respeito à opacidade algorítmica, frequentemente descrita na literatura como o fenômeno da “caixa-preta” (black box) [8]. Sistemas baseados em técnicas avançadas de aprendizado de máquina, especialmente aqueles estruturados a partir de redes neurais profundas ou grandes modelos de linguagem, podem apresentar elevado grau de complexidade técnica, dificultando a compreensão dos critérios utilizados para a produção de determinados resultados. Essa opacidade desafia princípios estruturantes do processo judicial, como a exigência de motivação das decisões, a transparência institucional e a possibilidade de controle e revisão das decisões estatais.

Como observa Frank Pasquale, muitos sistemas de inteligência artificial operam como verdadeiras “caixas-pretas”, uma vez que “mesmo seus desenvolvedores não conseguem explicar integralmente como determinadas decisões são produzidas” [6].

A opacidade algorítmica também dificulta a identificação precisa das causas de eventuais erros ou distorções. Diferentemente de um erro humano tradicional, cuja origem pode ser atribuída a uma decisão individual do magistrado, o erro algorítmico frequentemente resulta da interação entre diversos fatores técnicos e institucionais, incluindo a arquitetura do sistema, os dados utilizados para treinamento, os parâmetros definidos pelos desenvolvedores e a forma como a ferramenta é incorporada aos fluxos de trabalho do tribunal. Essa multiplicidade de elementos contribui para a complexificação do nexo causal, tema que assume especial relevância quando se discute a responsabilidade jurídica por danos eventualmente decorrentes da utilização dessas tecnologias.

Logo, Daniel Katz observa que “a utilização de inteligência artificial no Direito tende a modificar profundamente a forma como decisões jurídicas são analisadas e produzidas” [8], pois a mediação algorítmica da atividade jurisdicional pode produzir aquilo que parte da literatura denomina efeito de automação, fenômeno caracterizado pela tendência de agentes humanos atribuírem elevado grau de confiança aos resultados produzidos por sistemas automatizados. Em ambientes institucionais marcados por elevada carga de trabalho e pressão por produtividade, como ocorre em muitos tribunais, existe o risco de que recomendações algorítmicas passem a exercer influência significativa sobre a tomada de decisões, ainda que formalmente submetidas à revisão humana.

Diante desse cenário, torna-se evidente que a discussão sobre erro judiciário algorítmico não se limita à análise de eventuais falhas técnicas isoladas. Trata-se, antes, de compreender como a incorporação institucional de sistemas de inteligência artificial altera a própria estrutura de produção da decisão judicial, introduzindo novos fatores de risco e novas formas de mediação tecnológica da atividade jurisdicional. Tal realidade exige a construção de mecanismos normativos e institucionais capazes de assegurar transparência, auditabilidade e controle humano significativo sobre o funcionamento dessas ferramentas.

Nessa conjuntura, a reflexão acerca dos limites jurídicos da automação decisória e da necessidade de mecanismos de governança algorítmica torna-se elemento central para garantir que a utilização de inteligência artificial no Poder Judiciário permaneça compatível com os princípios constitucionais que orientam a atividade jurisdicional. A análise desses desafios revela-se particularmente relevante quando se examina a possibilidade de imputação de responsabilidade ao Estado por eventuais danos decorrentes do uso dessas tecnologias.

• • Marco regulatório brasileiro

A crescente incorporação de sistemas de inteligência artificial na atuação estatal, particularmente no âmbito do Poder Judiciário, exige uma interpretação de sua utilização orientada pelos parâmetros constitucionais. Sem essa filtragem constitucional, há risco de comprometimento das garantias que estruturam o Estado Democrático de Direito.

No plano infraconstitucional, o ordenamento jurídico brasileiro já dispõe de instrumentos normativos que incidem, direta ou indiretamente, sobre o uso de sistemas algorítmicos pelo poder público. Entre eles destaca-se a Lei Geral de Proteção de Dados Pessoais [9], que estabelece princípios para o tratamento de dados pessoais e prevê garantias relevantes diante de decisões automatizadas, como o direito de revisão de decisões tomadas unicamente com base em tratamento automatizado de dados. Embora a LGPD não tenha sido concebida especificamente para regular a inteligência artificial no Judiciário, seus dispositivos oferecem parâmetros importantes para a discussão sobre transparência, governança e responsabilização no uso dessas tecnologias.

No âmbito específico do Poder Judiciário, merece destaque a Resolução nº 332/2020 do Conselho Nacional de Justiça [10], que institui diretrizes éticas para o desenvolvimento e a utilização de inteligência artificial nos tribunais brasileiros. A norma estabelece princípios como transparência, explicabilidade, supervisão humana, segurança e prevenção de discriminações algorítmicas, reconhecendo que a adoção dessas tecnologias deve ser compatível com os direitos fundamentais e com os valores que orientam a atividade jurisdicional.

Nesse seguir, a Resolução CNJ nº 615, de 11 de março de 2025 [11], representa o estágio mais recente do processo de regulamentação do uso da inteligência artificial no Poder Judiciário brasileiro. A norma atualiza e amplia o alcance da Resolução nº 332/2020, especialmente diante da crescente utilização de sistemas de inteligência artificial generativa baseados em grandes modelos de linguagem. Elaborada a partir dos trabalhos do Grupo de Trabalho instituído pela Portaria CNJ nº 338/2023 e precedida de debate público com participação da sociedade civil e da comunidade acadêmica, a resolução estabelece diretrizes voltadas à transparência, governança, gestão de riscos e supervisão humana no uso dessas tecnologias.

Embora represente avanço relevante na estruturação de parâmetros institucionais para a adoção de sistemas algorítmicos no Judiciário, a norma apresenta limites quando analisada sob a perspectiva da responsabilidade civil do Estado. O texto concentra-se principalmente em aspectos organizacionais e procedimentais de governança tecnológica, sem estabelecer critérios claros para a imputação de danos decorrentes do uso institucional de sistemas de inteligência artificial na atividade jurisdicional. Ademais, a multiplicidade de agentes envolvidos no desenvolvimento e na utilização dessas tecnologias, como tribunais, magistrados, desenvolvedores e fornecedores, aliada à opacidade e à natureza probabilística dos modelos algorítmicos, tende a dificultar a reconstrução do nexo causal nos moldes tradicionais da responsabilidade civil. Nesse contexto, evidencia-se a necessidade de reflexão dogmática acerca da adequação do regime de responsabilidade estatal diante dos riscos sistêmicos associados à automação decisória no Poder Judiciário.

Além disso, o debate regulatório brasileiro encontra-se em processo de consolidação com a tramitação do Projeto de Lei nº 2.338/2023 [12], que busca instituir um marco legal para a inteligência artificial no país. Inspirado em experiências regulatórias internacionais, o projeto propõe uma abordagem baseada em níveis de risco, prevendo obrigações diferenciadas para sistemas de IA conforme o potencial de impacto sobre direitos fundamentais. Nesse contexto, aplicações de inteligência artificial capazes de influenciar decisões judiciais tendem a ser enquadradas entre os sistemas de alto risco, o que implica a necessidade de requisitos mais rigorosos de governança, transparência e responsabilização.

Dessa forma, observa-se que o marco regulatório brasileiro relacionado à inteligência artificial ainda se encontra em construção, sendo composto por um conjunto heterogêneo de normas constitucionais, legislações infraconstitucionais e diretrizes institucionais. Esse arranjo normativo evidencia a preocupação crescente do ordenamento jurídico em estabelecer mecanismos de controle e responsabilização para o uso dessas tecnologias na esfera pública, especialmente em contextos sensíveis como o da atividade jurisdicional. Nesse cenário, a análise da responsabilidade estatal por eventuais danos decorrentes da utilização de sistemas algorítmicos no Judiciário torna-se questão central para compreender se o atual regime jurídico é capaz de oferecer respostas adequadas aos riscos tecnológicos emergentes.

• • Responsabilidade Civil do Estado e erro judiciário algorítmico

A incorporação de sistemas de inteligência artificial ao funcionamento do Poder Judiciário, ainda que orientada por objetivos legítimos de eficiência administrativa, celeridade processual e racionalização da gestão jurisdicional, não afasta a necessidade de análise jurídica acerca das consequências decorrentes de eventuais falhas produzidas por essas tecnologias, especialmente quando tais sistemas passam a influenciar a organização do fluxo processual, a classificação de demandas ou a elaboração preliminar de conteúdos decisórios.

Nesse contexto, a discussão sobre erro judiciário algorítmico exige a reinterpretação dos fundamentos tradicionais da responsabilidade civil do Estado, uma vez que a mediação tecnológica da atividade jurisdicional introduz novas fontes de risco no exercício da função pública.

Desse modo, sob a perspectiva constitucional, o ponto de partida dessa análise encontra-se no artigo 37, §6º da Constituição Federal de 1988, segundo o qual “as pessoas jurídicas de direito público e as de direito privado prestadoras de serviços públicos responderão pelos danos que seus agentes, nessa qualidade, causarem a terceiros”, assegurado o direito de regresso contra o responsável nos casos de dolo ou culpa [1]. Ela consagra o modelo de responsabilidade civil objetiva do Estado, estruturado a partir da chamada teoria do risco administrativo [13], segundo a qual o dever de indenizar independe da comprovação de culpa do agente público, bastando a demonstração da ocorrência do dano e do nexo causal entre a atuação estatal e o prejuízo suportado pelo particular.

Assim sendo, a lógica subjacente a esse regime jurídico repousa na ideia de que o Estado, ao exercer atividades que impactam diretamente a esfera jurídica dos indivíduos, assume os riscos inerentes à organização e ao funcionamento de seus serviços, devendo suportar os ônus decorrentes de eventuais danos causados em razão dessa atuação. Sob tal perspectiva, a doutrina observa que “a responsabilidade objetiva do Estado decorre da própria atividade administrativa, fundada na ideia de que quem exerce atividade que cria riscos para terceiros deve responder pelos danos dela decorrentes” [14].

Tal racionalidade mostra-se particularmente relevante quando se examina a introdução de tecnologias complexas no interior das instituições públicas, pois a adoção institucional de sistemas de inteligência artificial representa uma escolha administrativa que altera a estrutura de funcionamento da atividade jurisdicional e cria novos riscos associados à automação de determinadas etapas do processo decisório.

Nessa perspectiva, a utilização de sistemas algorítmicos no Poder Judiciário não pode ser compreendida como fator capaz de afastar ou atenuar o dever de reparação estatal. Ao contrário, considerando que tais tecnologias são desenvolvidas, adquiridas ou implementadas no âmbito da estrutura institucional do Estado, sua utilização integra a própria organização do serviço público jurisdicional, de modo que eventuais danos decorrentes de seu funcionamento devem ser analisados à luz do regime constitucional de responsabilidade objetiva. Como observa Sérgio Cavalieri Filho, “a responsabilidade objetiva do Estado prescinde da demonstração de culpa, bastando a comprovação do dano e do nexo causal entre a conduta estatal e o prejuízo experimentado pela vítima” [15].

Assim, sendo o Estado o responsável pela implementação, supervisão e utilização dessas ferramentas no âmbito de suas atividades, o dever de indenizar não depende da demonstração de dolo ou culpa do programador, do desenvolvedor ou mesmo do magistrado que eventualmente utilize o sistema como instrumento de apoio.

O reconhecimento dessa responsabilidade torna-se ainda mais relevante quando se considera que o erro algorítmico frequentemente resulta de fatores estruturais e sistêmicos, relacionados não apenas ao funcionamento técnico do sistema, mas também às escolhas institucionais que orientam sua implementação, aos dados utilizados para treinamento do modelo, aos parâmetros definidos para seu funcionamento e à forma como tais ferramentas são incorporadas aos fluxos de trabalho dos tribunais. Em outras palavras, o dano decorrente da utilização de inteligência artificial na atividade jurisdicional tende a emergir da própria organização do risco tecnológico assumido pelo Estado, e não exclusivamente da atuação individual de um agente específico.

Além disso, a própria complexidade dos sistemas de inteligência artificial, marcada pela opacidade de determinados modelos computacionais e pela multiplicidade de agentes envolvidos em seu desenvolvimento e utilização, contribui para a dificuldade de identificação precisa da origem de eventuais falhas. Por conseguinte, Frank Pasquale destaca que “muitos sistemas algorítmicos operam como verdadeiras caixas-pretas, nas quais os critérios de decisão permanecem opacos mesmo para aqueles responsáveis por seu desenvolvimento”. Diferentemente do erro judiciário tradicional, que pode ser diretamente associado a uma decisão humana identificável, o erro algorítmico frequentemente resulta da interação entre diferentes elementos técnicos e institucionais, o que pode dificultar a reconstrução do nexo causal nos moldes tradicionais da responsabilidade civil.

Ainda assim, tais dificuldades probatórias não podem servir de fundamento para afastar a responsabilização estatal, sobretudo porque o particular não possui acesso às informações técnicas necessárias para compreender integralmente o funcionamento desses sistemas. Como observa Luciano Floridi, “sistemas de inteligência artificial exigem estruturas robustas de governança capazes de assegurar transparência, responsabilidade e supervisão humana significativa” [14].

Dessa forma, a adoção institucional de tecnologias algorítmicas no Poder Judiciário deve ser acompanhada por mecanismos adequados de controle, auditoria e responsabilização, de modo a evitar que a complexidade técnica dessas ferramentas produza zonas de irresponsabilidade jurídica.

• • Salvaguardas obrigatórias: transparência, explicabilidade, auditabilidade e supervisão humana

O reconhecimento da possibilidade de ocorrência de erro judiciário mediado por sistemas algorítmicos impõe a necessidade de estabelecer salvaguardas institucionais aptas a compatibilizar a utilização de tecnologias de inteligência artificial com os princípios estruturantes do Estado Democrático de Direito. Se, por um lado, a incorporação dessas ferramentas tecnológicas pode contribuir para o aprimoramento da gestão judicial e para a racionalização do fluxo processual, por outro, sua utilização não pode comprometer garantias fundamentais que estruturam a atividade jurisdicional, especialmente a transparência decisória, a motivação das decisões e o controle da atuação estatal.

Nesse contexto, a legitimidade da jurisdição mediada por sistemas de inteligência artificial depende da observância rigorosa de mecanismos normativos destinados a assegurar a governança responsável dessas tecnologias. No âmbito do Poder Judiciário brasileiro, tais salvaguardas encontram expressão normativa no artigo 4º da Resolução nº 615/2025 do Conselho Nacional de Justiça [11], que estabelece parâmetros para o desenvolvimento, implementação e utilização de sistemas algorítmicos no sistema de justiça.

A primeira dessas salvaguardas refere-se ao princípio da transparência. A utilização de sistemas de inteligência artificial no âmbito judicial deve ser acompanhada do dever institucional de publicidade quanto à existência, finalidade e forma de funcionamento dessas tecnologias. Tal exigência encontra fundamento na própria lógica constitucional que rege a atividade jurisdicional, segundo a qual a atuação estatal deve permanecer acessível ao escrutínio público. Nesse sentido, a transparência algorítmica implica a divulgação de informações sobre o uso desses sistemas, suas finalidades institucionais, as estruturas de governança responsáveis por sua supervisão e os parâmetros gerais que orientam sua operação.

Associada à transparência encontra-se a exigência de explicabilidade. A explicabilidade consiste na capacidade de tornar inteligíveis os fatores que influenciam a produção de determinado resultado algorítmico, permitindo que os usuários e os órgãos de controle compreendam as razões subjacentes ao funcionamento do sistema. No contexto jurisdicional, essa exigência assume especial relevância, pois a atividade judicial está intrinsecamente vinculada ao dever de fundamentação das decisões, previsto no artigo 93, inciso IX, da Constituição Federal. Sistemas que operam de forma completamente opaca, sem oferecer condições mínimas de compreensão de seus critérios decisórios, tendem a comprometer a própria lógica argumentativa que sustenta a jurisdição.

Outro elemento essencial desse regime de salvaguardas é a auditabilidade. Sistemas de inteligência artificial utilizados no Poder Judiciário devem permanecer sujeitos a mecanismos periódicos de avaliação técnica, capazes de examinar tanto os dados utilizados em seu treinamento quanto os parâmetros empregados na construção de seus modelos algorítmicos. A auditabilidade constitui instrumento indispensável para a identificação de vieses indevidos, distorções estruturais ou inconsistências técnicas que possam comprometer a confiabilidade dos resultados produzidos pelos sistemas.

Igualmente relevante é a exigência de supervisão humana significativa. A Resolução nº 615/2025 estabelece que a supervisão humana deve estar presente em todo o ciclo de vida dos sistemas de inteligência artificial, desde as etapas iniciais de concepção e desenvolvimento até sua eventual descontinuidade [11]. Tal exigência reafirma a vedação à chamada “jurisdição das máquinas”, assegurando que a inteligência artificial seja utilizada exclusivamente como ferramenta de apoio à atividade jurisdicional, e não como substituta da decisão humana. A preservação do controle humano sobre os sistemas algorítmicos constitui, portanto, elemento indispensável para garantir que as decisões judiciais permaneçam vinculadas a critérios jurídicos, constitucionais e argumentativos próprios da função jurisdicional.

Além dessas salvaguardas, a proteção de dados pessoais configura requisito essencial para a utilização legítima de sistemas de inteligência artificial no âmbito judicial. A implementação dessas tecnologias deve observar os princípios de privacy by design e privacy by default [16], assegurando que a proteção de dados seja incorporada desde a fase de concepção dos sistemas. Tal exigência envolve, entre outros aspectos, a anonimização de dados sensíveis ou sigilosos utilizados em bases de treinamento e o respeito aos parâmetros estabelecidos pela Lei Geral de Proteção de Dados Pessoais [9].

Dessa forma, a construção de um regime jurídico adequado para a utilização de inteligência artificial no Poder Judiciário não se limita à definição de hipóteses de responsabilidade civil do Estado por eventuais danos decorrentes de falhas algorítmicas. Mais do que isso, exige a implementação de estruturas normativas e institucionais capazes de prevenir a ocorrência desses danos, assegurando que o desenvolvimento e a aplicação dessas tecnologias estejam permanentemente submetidos a padrões de transparência, explicabilidade e supervisão humana. Somente a partir da consolidação dessas salvaguardas será possível compatibilizar os benefícios potenciais da inovação tecnológica com a preservação das garantias que estruturam a função jurisdicional.

• Considerações finais

A incorporação de sistemas de inteligência artificial ao funcionamento do Poder Judiciário representa uma transformação relevante na organização contemporânea da atividade jurisdicional, visto que as ferramentas algorítmicas oferecem potencial significativo para aprimorar a gestão processual, racionalizar fluxos de trabalho e ampliar a eficiência administrativa dos tribunais. Todavia, a adoção dessas tecnologias não pode ser conduzida sob uma lógica meramente instrumental. A implementação da inteligência artificial no sistema de justiça exige prudência institucional e constante vigilância normativa, de modo a assegurar que a inovação tecnológica permaneça compatível com as garantias fundamentais que estruturam o exercício da jurisdição.

Nesse cenário, a confiabilidade do sistema de justiça no século XXI depende, em grande medida, da preservação de sua inteligibilidade humana, uma vez que a legitimidade da prestação jurisdicional está diretamente relacionada à possibilidade de compreensão das razões que fundamentam as decisões judiciais por aqueles a quem elas se destinam.

A utilização de sistemas algorítmicos não pode, portanto, resultar na formação de uma “justiça algorítmica” caracterizada pela opacidade decisória ou pela substituição da argumentação jurídica por processos automatizados inacessíveis ao controle institucional. A tecnologia deve permanecer como instrumento auxiliar da atividade jurisdicional, e não como elemento capaz de obscurecer a racionalidade que sustenta a decisão judicial.

Sob essa perspectiva, a construção de um modelo responsável de utilização da inteligência artificial no Poder Judiciário exige um maior fortalecimento de mecanismos institucionais voltados à prevenção de riscos e à garantia de governança tecnológica adequada, como por exemplo, a realização periódica de auditorias independentes sobre os sistemas algorítmicos empregados pelos tribunais, analisando a estrutura dos modelos utilizados, avaliando a qualidade das bases de dados e identificar eventuais vieses ou distorções que possam comprometer a imparcialidade dos resultados produzidos.

Igualmente relevante é a capacitação crítica dos magistrados e demais operadores do sistema de justiça, pois a utilização responsável dessas tecnologias pressupõe que seus usuários sejam capazes de compreender suas limitações técnicas e seus potenciais riscos. Diante desse contexto, a formação continuada dos magistrados deve contemplar conteúdos relacionados à governança da inteligência artificial, permitindo que atuem como supervisores efetivos do funcionamento desses sistemas e evitando a formação de uma confiança acrítica ou automática nas respostas produzidas por ferramentas computacionais.

Outro elemento muito importante diz respeito à promoção de práticas institucionais de transparência ativa: a divulgação de relatórios de impacto algorítmico, elaborados em linguagem clara e acessível ao jurisdicionado, constitui medida relevante para ampliar a transparência da utilização dessas tecnologias no sistema de justiça. A publicidade dessas informações contribui para fortalecer o controle social sobre a atuação judicial e para assegurar que a sociedade compreenda as condições sob as quais sistemas algorítmicos são utilizados no âmbito jurisdicional.

Por fim, a qualidade das bases de dados utilizadas no treinamento e na operação desses sistemas constitui fator determinante para a confiabilidade dos resultados produzidos. A curadoria rigorosa das informações empregadas na construção de modelos algorítmicos, com preferência por bases de dados institucionais e tecnicamente representativas, é medida essencial para evitar a reprodução ou amplificação de desigualdades históricas presentes em dados sociais. A ausência desse cuidado pode resultar na perpetuação de vieses estruturais e comprometer a legitimidade da utilização dessas tecnologias na esfera judicial.

Dessa forma, a utilização da inteligência artificial no Poder Judiciário deve ser compreendida como processo que demanda permanente equilíbrio entre inovação tecnológica e responsabilidade institucional. A adoção de sistemas algorítmicos somente se revela juridicamente legítima quando acompanhada de estruturas robustas de governança, transparência e controle. Nesse sentido, a preservação da centralidade da decisão humana, aliada à implementação de salvaguardas técnicas e institucionais adequadas, constitui condição indispensável para que a inteligência artificial contribua para o aprimoramento da atividade jurisdicional sem comprometer os fundamentos do Regime Constitucional Democrático.

• Biografia(s)