Popular e descentralizado, uso de IA generativa nos tribunais é pouco transparente

Uma pesquisa realizada pelo Conselho Nacional de Justiça mostra que ferramentas de inteligência artificial generativa já são bastante conhecidas entre magistrados e servidores do Judiciário brasileiro, mas o uso efetivo ainda é esporádico. O estudo ‘O uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro‘ ressalta, porém, que há pouca clareza sobre a utilização real dessa tecnologia, uma vez que a disseminação também implicou em uso descentralizado e sem controle.

“A popularidade das IAs generativas descentralizou a decisão sobre o seu uso em organizações, e seu emprego deixou de ser transparente, tornando necessários, em função dos riscos, a adoção de medidas para levantamento dos usos realizados e o estabelecimento de políticas de governança próprias para essa tecnologia”, diz o documento.

Ou seja, embora a aplicação de ferramentas de IA tenha se popularizado, com cerca de metade dos profissionais já tendo utilizado IA generativa em alguma capacidade, ainda há desafios e preocupações éticas que precisam ser abordados.

Nesse sentido, o estudo ressalta a falta de transparência no uso das IAGs. Grande parte dos profissionais não comunica aos superiores ou colegas o uso dessas ferramentas, o que dificulta a revisão do conteúdo gerado e pode levar a falhas nos processos judiciais. A pesquisa recomenda ações para promover maior clareza, incluindo a oferta de ferramentas oficiais pelos tribunais e o estímulo à transparência entre pares.

O estudo aponta que o uso de IA generativa no Judiciário exige uma atualização nas políticas de governança e regulamentação vigentes. A tecnologia apresenta riscos associados à opacidade, discriminação, privacidade de dados e impactos no mercado de trabalho e meio ambiente. O relatório sugere que as medidas tradicionais de mitigação de riscos aplicáveis à IA descritiva não são suficientes para lidar com as especificidades das IAGs, que demandam uma revisão das diretrizes do CNJ.

Os principais riscos identificados incluem vieses de automação, falta de transparência e a possibilidade de erros graves devido às “alucinações” da IA, nas quais a ferramenta gera informações incorretas ou inexistentes. Essas falhas podem ter consequências diretas na qualidade das decisões judiciais e na prestação de serviços.

A pesquisa revelou que o uso das IAs generativas pelos magistrados e servidores ainda é pouco frequente, com a maioria utilizando as ferramentas de forma esporádica. No entanto, há um interesse crescente em adotar essas tecnologias no futuro, principalmente em atividades de busca de jurisprudência e pesquisa de precedentes. A falta de familiaridade e treinamento adequado é vista como um dos principais obstáculos à adoção plena.

Um dos pontos mais enfatizados pelos profissionais foi a necessidade de capacitação para o uso adequado dessas tecnologias. Muitos manifestaram interesse em participar de programas de treinamento que abordem os limites e as potencialidades das IAGs. O relatório sugere a criação de orientações e guias para garantir o uso responsável e ético dessas ferramentas.