A 5ª Turma do Superior Tribunal de Justiça (STJ) decidiu que relatórios produzidos por inteligência artificial generativa, sem validação técnico-científica, não podem ser utilizados como prova em processos penais.
O caso que motivou a decisão envolve uma denúncia por injúria racial feita com base na interpretação de um vídeo após uma partida de futebol em Mirassol, no interior de São Paulo.
A perícia oficial não identificou a expressão atribuída ao réu, mas um relatório gerado por inteligência artificial apontou conclusão oposta e foi utilizado como base para a denúncia. O tribunal determinou a exclusão do material e o encerramento do processo.
Ao analisar o tema, o colegiado indicou que a admissibilidade de provas no processo penal exige não apenas licitude, mas também confiabilidade e capacidade de sustentação lógica.
O entendimento considera que sistemas de IA generativa operam com base em probabilidades e podem produzir informações imprecisas com aparência de veracidade, o que limita sua utilização sem validação técnico-científica.
Para Fabiano Carvalho, especialista em Transformação Digital e CEO da Ikhon, o problema decorre de uma confusão no uso do termo inteligência artificial, que abrange tecnologias distintas.
“É por isso que, antes de usar qualquer ferramenta de IA, é preciso entender que problema ela foi treinada para resolver e em que condições ela pode falhar. Também é essencial o uso de uma documentação metodológica: toda análise produzida com IA precisa ter trilha de auditoria, evidências e critérios de validação registrados”, afirma Fabiano.
A interpretação do tribunal está alinhada com práticas de governança adotadas no setor de tecnologia, que indicam a necessidade de supervisão humana em aplicações de inteligência artificial, especialmente em decisões de alto impacto.
Nesse contexto, o uso da tecnologia tende a ser condicionado ao nível de criticidade da decisão, à possibilidade de reversão de eventuais erros e à capacidade de auditoria dos sistemas utilizados.
O setor público já vem adotando a IA em áreas como atendimento ao cidadão, análise de documentos, fiscalização e gestão urbana.
O movimento de cautela não se restringe ao Brasil. Casos recentes em diferentes jurisdições indicam dificuldades no uso de inteligência artificial em processos judiciais. Nos Estados Unidos, no caso Mata v Avianca, advogados apresentaram decisões judiciais inexistentes geradas por IA.
Em outro episódio, no Tribunal Superior das Ilhas Cayman, o processo Bradley & Chuang v Linda Frye-Chaikin registrou a presença de informações incorretas em alegações escritas atribuídas ao uso da tecnologia.
Já no Reino Unido, no caso Olsen & Anor v Finansiel Stabilitet A/S, partes utilizaram jurisprudência inexistente, situação que levou o tribunal a avaliar possíveis sanções processuais.
O entendimento do STJ reforça a exigência de critérios técnicos para o uso de inteligência artificial em decisões que exigem validação e precisão. Como alerta o CEO da Ikhon.
“Não é preciso ter medo, mas sim estabelecer mecanismos de revisão para atividades executadas por sistemas que usam inteligência artificial. Vão sair na frente os negócios que desenvolverem e adotarem padrões de confiabilidade e transparência na supervisão dos resultados gerados por softwares. A adoção de padrões de governança será cada vez mais exigida para a validação dos conteúdos gerados por IA”.
Siga @leadnotícia
