A Inteligência Artificial (IA) representa uma profunda revolução tecnológica da nossa era. Benefícios são percebidos em diversos segmentos da sociedade: aceleração de diagnósticos na medicina, otimização de cadeias produtivas, desburocratização de rotinas operacionais, entre outros. O fascínio com as novas possibilidades é justificado.
Contudo, a “nova” tecnologia traz consigo robustos desafios; um dos principais é o abalo à fidedignidade do que vemos no mundo digital. Estamos imersos na chamada era da “pós-verdade”, eleita a palavra do ano pelo Dicionário Oxford em 2016. Trata-se de um terreno movediço no qual fatos objetivos frequentemente perdem espaço para narrativas distorcidas por crenças e apelos emocionais.
Por décadas, cultivamos no imaginário social a assertiva de que “uma imagem vale mais do que mil palavras”. Hoje, essa máxima ruiu. A IA pode ser instrumentalizada para a desinformação, permitindo alterações da realidade com verossimilhança assustadora em fotos, áudios e vídeos.
A expansão da IA exige, portanto, uma governança muitíssimo bem definida. Nos campos da confiabilidade epistêmica da prova penal, na atuação da mídia e no risco de automação de preconceitos isto é, sem dúvidas, premente.
1. Confiabilidade epistêmica da prova penal e a falência da autoevidência
A existência de registro audiovisual de um fato criminoso já pôde ser considerada uma “bala de prata” para a acusação; atualmente, fotos ou vídeos já não trazem consigo este cariz de autoevidência. Como registros de voz ou imagem podem ser fabricados ou adulterados em poucos segundos, a presunção de veracidade é abalada.
Diante disso, necessita-se um esforço institucional do Poder Judiciário para a elaboração de protocolos rigorosos de verificação das provas digitais. Não se trata de engessar a prestação jurisdicional ou desacelerar a modernização tecnológica, mas de estabelecer parâmetros técnicos mínimos para a sua validade, evitando casuísmos e a formação de precedentes divergentes entre si, o que, em última análise, gera grave insegurança jurídica.
É claro que isto não exime as partes de fazerem o seu dever de casa: advogados, magistrados e membros do Ministério Público devem estar atentos à legitimidade daquilo que apresentam. O recente caso ocorrido em um julgamento desportivo, no qual um advogado apresentou como legítimo um áudio fake criado para fins humorísticos, ilustra a urgência do tema. Na ocasião, a inidoneidade era grosseira e não tardou a ser verificada. Contudo, outros casos poderão trazer elementos de maior verossimilhança e é preciso que estejamos preparados antes que erros sejam cometidos e comprometam a lisura dos julgamentos, especialmente os criminais.
2. Automação de preconceitos e a repetição de padrões sob o mito da imparcialidade
Há outro ponto de atenção na era da IA: a ilusão de que a máquina é imparcial. O modelo de IA aprende a partir de instruções, dados e inputs inicialmente oferecidos por nós, humanos. Por conseguinte, absorve vieses e padrões internalizados nos sistemas que a alimentam. Posteriormente, o modelo artificial pode até mesmo aprender a partir de outros modelos similares, intensificando a falsa impressão de imparcialidade e distanciamento humano.
Assim é que a utilização da IA na segurança pública, no âmbito jurídico, na alimentação de bancos de dados, enfim, em tantos ambientes, pode gerar a automação de preconceitos. Vivemos em uma sociedade estruturalmente marcada pela discriminação, notadamente de raça, gênero e classe social. Sendo assim, a governança exigida deve se preocupar com a criação e aplicação de uma programação antidiscriminatória, uma vez que municiar os softwares de forma pretensamente neutra poderá significar, em verdade, chancelar a automação de padrões preconceituosos.
3. Mídia, fake news e disputas eleitorais
No ecossistema da informação, a mídia exerce uma função social insubstituível na filtragem e checagem dos fatos. Com a democratização do acesso às ferramentas de criação de conteúdo, jornais e emissoras recebem considerável volume de imagens, vídeos e áudios enviados por fontes anônimas, colaboradores ou espectadores.
Sem mecanismos internos bem estruturados de verificação de autenticidade e detecção de manipulações digitais, a imprensa corre o risco iminente de atuar como linha de transmissão de conteúdos falsificados. Esse alerta ganha contornos ainda mais dramáticos no contexto de um ano eleitoral, no qual a circulação de mídias adulteradas com o intuito de desgastar candidaturas ou manipular a opinião pública pode ferir gravemente a higidez do processo eleitoral.
4. A responsabilidade das plataformas e a pronta-resposta contra deepfakes
Também, a proliferação de deepfakes impõe respostas enérgicas. Há casos estarrecedores de mulheres que tiveram fotos banais do cotidiano transformadas, por meio de softwares de IA, em imagens pornográficas, posteriormente divulgadas de forma criminosa.
Os sites, redes sociais e plataformas que dão visibilidade a esse tipo de conteúdo não devem adotar um comportamento passivo, em postura de pretensa neutralidade. Exige-se das empresas de tecnologia a efetivação de protocolos de pronta-resposta, capazes de promover a remoção imediata e efetiva do material ou mesmo impedir a própria disponibilização por meio de filtragem prévia.
5. Governança como pressuposto essencial de uso ético da IA
A implementação de mecanismos rígidos de controle e auditabilidade mostra-se como pressuposto essencial para conferir idoneidade às provas digitais, mas não se limita a isso. Tudo o que for produzido com o auxílio de Inteligência Artificial deve ser objeto de um filtro humano, sejam as tarefas mais complexas, sejam as cotidianas, como a elaboração de uma petição simples, a condução de uma pesquisa jurisprudencial, a transcrição de um áudio etc.
Acompanhou-se recentemente o caso de uma proeminente consultoria internacional que teve de reembolsar valores expressivos a um governo estrangeiro após um relatório institucional apresentar diagnósticos e análises distorcidas geradas por ferramentas automatizadas. O caso é emblemático porque demonstra, justamente em um serviço de auditoria, uma falha na governança de quem havia sido contratado para revisão técnica dos sistemas internos do contratante.
Como visto, a IA está em toda parte. Não basta pensar em uma forma de uso ético das ferramentas. A postura de todos os atores sociais (operadores do Direito, veículos de imprensa, empresas de auditoria, plataformas tecnológicas etc.) deve abraçar uma responsabilidade institucional ativa em todos os segmentos.
Especificamente no processo penal, área da qual estamos mais próximos, a reformulação dos padrões de cadeia de custódia para admissão e valoração da prova digital mostra-se urgente. De toda forma, fato é que, em qualquer ramo, jurídico ou não, a criação e a observância de protocolos estritos de governança, aliados à inegociável centralidade do filtro humano, são primordiais para um uso ético e adequado da inteligência artificial.
Bibliografia:
CORBO, Wallace. Constituição, discriminação e o ambiente digital: uma agenda para o direito antidiscriminatório no século XXI. Revista Publicum, Rio de Janeiro, v. 11, n. 1, p. 217-252, 2025. Disponível em: http://www.e-publicacoes.uerj.br/index.php/publicum. DOI: 10.12957/publicum.2025.95594.