O Tribunal de Contas da União realizou uma auditoria no Tribunal Regional do Trabalho da 4ª Região para avaliar o uso do sistema Galileu, que utiliza inteligência artificial para auxiliar na elaboração de minutas judiciais. O objetivo foi examinar a governança, segurança da informação, gestão de dados e a infraestrutura do sistema.
Durante a auditoria, foram identificadas vulnerabilidades de segurança que foram corrigidas ao longo do processo. Também foram observadas alucinações nas minutas geradas pela IA, mas sem gravidade alta. Não foram encontradas evidências de viés de gênero ou ocupação nos testes realizados.
O TCU destacou a necessidade de melhorias na explicabilidade do sistema, na aferição de fidelidade das informações e no apoio à supervisão humana. Além disso, foi apontada uma dependência de um único provedor e visibilidade parcial dos custos envolvidos. O tribunal fez recomendações e continuará monitorando a situação.
Essas medidas visam garantir que o uso de inteligência artificial no sistema judicial seja seguro e eficiente, beneficiando tanto os operadores do direito quanto a sociedade em geral.