Resolução 615 do CNJ: vedação de valoração de risco sobre indivíduos é decisão acertada

A crescente incorporação da inteligência artificial (IA) no sistema de justiça tem levantado questões fundamentais sobre transparência, imparcialidade e respeito aos direitos fundamentais. No âmbito do Poder Judiciário brasileiro, a regulamentação do uso de IA foi objeto da Resolução nº 615 do Conselho Nacional de Justiça (CNJ), aprovada neste ano, com o objetivo de estabelecer diretrizes para o desenvolvimento e a utilização de sistemas inteligentes no âmbito dos tribunais e demais órgãos jurisdicionais.

Dentre as disposições estabelecidas pela Resolução 615, destaca-se a vedação expressa ao uso de programas de IA que façam valoração de traços da personalidade, características ou comportamentos de indivíduos ou grupos para prever o cometimento de crimes ou a probabilidade de reiteração delitiva. A norma também proíbe a classificação ou ranqueamento de pessoas com base em atributos sociais, comportamentais ou de personalidade para avaliação da plausibilidade de direitos e méritos judiciais.

A resolução tem sido alvo de algumas críticas — o que é esperado e saudável para o debate democrático, diga-se —, seja pela sua origem em um órgão de controle externo, que possui competência limitada aos órgãos do Poder Judiciário, seja pela complexidade da própria regulamentação de ferramentas tecnológicas de IA em um sistema jurídico ainda em adaptação à revolução digital. No entanto, a inclusão da mencionada vedação reflete um compromisso com a preservação dos princípios constitucionais, especialmente os direitos fundamentais à dignidade humana, à presunção de inocência, ao devido processo legal e à não discriminação.

O objetivo deste artigo é, portanto, discutir o contexto da Resolução 615 do CNJ e justificar o porquê de a proibição ao uso da IA para classificação de risco de indivíduos é uma medida necessária para evitar a deterioração das já tão frágeis garantias processuais no processo penal.

O que é a valoração de risco sobre indivíduos?

A valoração de risco de indivíduos consiste na utilização de algoritmos para estimar a probabilidade de uma pessoa cometer determinados atos no futuro, a partir da análise de padrões comportamentais, históricos criminais, perfis socioeconômicos e outras variáveis. Esse tipo de classificação é amplamente utilizado em sistemas de policiamento preditivo e modelos de avaliação de risco na justiça criminal e trabalhista, muitas vezes reforçando estigmas e aprofundando desigualdades estruturais.

Um exemplo concreto dessa prática é o uso de softwares como o Correctional Offender Management Profiling for Alternative Sanctions (Compas) nos Estados Unidos. Esse sistema atribui uma pontuação de risco a indivíduos com base em suas histórias criminais, antecedentes familiares e fatores socioeconômicos.

Outro amplamente utilizado na Espanha é o sistema VioGén, que atribui um risco de cometimento de crime por um agressor em casos de violência doméstica, também “rankeando” o risco de uma vítima ser revitimizada, tanto na fase pré-processual quanto na fase judicial.

Na Catalunha, essa valoração de risco é feita na fase da execução da pena, com o sistema RisCanvi, utilizando a mesma metodologia para avaliar o risco de comportamento violento para avaliar se um determinando reeducando poderá progredir de regime, poderá ter uma saída temporária concedida etc. [1]

Todos os sistemas têm algo em comum: valoram aspectos da história, do pano de fundo social e da personalidade dos potenciais autores. E tudo isso é feito com base num cálculo probabilístico (que é como a imensa maioria das tecnologias mais sofisticadas de inteligência artificial operam).

É nesse ponto que a resolução do CNJ tem um grande acerto: ela veda, no âmbito do Poder Judiciário, o uso de IAs de tal natureza. As questões sobre vieses discriminatórios e transparência dessas decisões tem sido amplamente debatidas no próprio judiciário e na academia, motivos esses que certamente integram os motivos pelos quais a vedação foi feita.

Contudo, há algo ainda mais profundo — componente da própria estrutura da dogmática penal e processual penal — que não pode ar despercebida.

Do Direito Penal do fato ao Direito Penal do autor

O cerne da questão reside na mudança paradigmática do direito penal do fato para o direito penal do autor. Tradicionalmente, o direito penal moderno se fundamenta na responsabilização do indivíduo por atos que ele efetivamente cometeu, respeitando a tipicidade e, por óbvio, autoria e materialidade. Entretanto, a valoração de risco baseada em IA desloca essa lógica para uma punição baseada em previsões estatísticas, tratando o indivíduo como um potencial infrator antes mesmo da ocorrência de qualquer fato criminoso.

Esse desvirtuamento é profundamente danoso aos direitos e garantias fundamentais, especialmente no que diz respeito à presunção de inocência, ao devido processo legal, à ampla defesa e ao contraditório. Essas garantias, enraizadas na concepção liberal do direito (ou seja, que surgiram no contexto das revoluções burguesas europeias como mecanismos de contenção do poder estatal) simplesmente se veem inócuas diante dessa mudança de eixo.

Quando o direito penal a a se fundamentar na previsão de comportamento futuro, e não na punição por atos concretamente cometidos, ele mina os alicerces do Estado de Direito, transformando o indivíduo em alvo de um sistema que o julga por quem ele é, e não pelo que ele fez.

E diga-se: tudo isso é feito sem nenhuma modificação legislativa concreta. Em teoria, tais direitos e garantias estão vigentes e aplicáveis no ordenamento jurídico, mas se encontram num limbo de “suspensão tácita”, num “estado de exceção” não explicitado. Dito de outra forma: elas existem, mas têm sua efetividade mitigada em prol de um ideal de segurança total construído a partir do medo [2].

Limites da regulação e necessidade de avanço

Por todos os motivos apresentados, a vedação imposta pela Resolução 615 do CNJ é absolutamente acertada. No entanto, pode não ser suficiente. Isso porque o CNJ possui competência para regulamentar apenas os órgãos do Poder Judiciário, deixando de fora outras instâncias e atores que interagem com a justiça, como órgãos auxiliares, instituições de segurança pública e istração pública em geral.

A necessidade de uma regulamentação geral para a inteligência artificial no Brasil é inegável e urgente. A regulação deve garantir que a tecnologia seja utilizada como um instrumento que respeite os direitos fundamentais e não como um mecanismo de reprodução de desigualdades e ampliação do poder repressivo do Estado.

Jamais podemos encarar a tecnologia como uma tábua de salvação para os males da morosidade, como alguns a apresentam, e ineficácia do sistema judicial. A prestação jurisdicional não pode ser reduzida a um mero cálculo de custo-benefício, em que garantias fundamentais são relativizadas em nome de uma suposta eficiência.

O avanço tecnológico deve se moldar às garantias fundamentais já estabelecidas pelo Estado de Direito — e não o contrário.

[1] Esses sistemas têm seu funcionamento brilhantemente explicado por Mercedes Llorente Sánchez-Arjona e Miguel Ángel Presno Linera, ambos na obra: CAMPUZANO, Alfonso de Julios; BOLZAN DE MORAIS, José Luis; MAFRA, Lígia Kunzendorff (orgs.). Conexões globais: desafios para o direito na era digital. São Paulo: Tirant lo Blanch, 2024.

[2] Já me demorei mais sobre o assunto em artigo publicado em coautoria com o professor José Luis Bolzan de Morais intitulado “A revolução da internet e o estado de direito: garantias fundamentais e valoração de risco no processo penal”, originalmente publicado no livro “Ciência, tecnologia e inovação para um Espírito Santo justo, sustentável e desenvolvido. Contribuições da etapa estadual para a 5a conferência nacional de CT&I”, organizado pela Profa. Elda Coelho de Azevedo Bussinguer, publicada pela editora Tirant lo Blanch em 2024. Trecho desse trabalho está disponível em https://www.cyberleviathan.com.br/post/a-revolução-da-internet-e-o-estado-de-direito-garantias-fundamentais-e-valoração-de-risco-no-proces