Da Redação
O Conselho Nacional de Justiça (CNJ) aprovou esta semana nota técnica estabelecendo a adoção de medidas para preservar a segurança jurídica no contexto de uso de Inteligência Artificial na Justiça. As orientações, conforme informações dos conselheiros, têm como objetivo reduzir os riscos de interferência de comandos escondidos inseridos em arquivos processuais – chamados de prompt injection – que afetem o funcionamento de sistemas de IA dos tribunais.
De acordo com o conselheiro do CNJ Rodrigo Badaró, relator da nota e presidente do Comitê Nacional de Inteligência Artificial no Judiciário, as orientações demonstram que o CNJ está atento à segurança jurídica e às mudanças tecnológicas, além de estimular os tribunais a adotarem medidas nesse sentido. A proposta acompanha a manifestação técnica aprovada pelo Comitê Nacional sobre o uso de ferramentas para ampliar a prevenção e a resposta a tentativas de manipulação desses sistemas.
Avanços e desafios
O presidente do CNJ e do Supremo Tribunal Federal (STF), ministro Edson Fachin, enalteceu a diligência e a celeridade da resposta com uma nota técnica para orientar os tribunais sobre a questão. “É importante pensar nesses avanços porque a tecnologia, apesar de trazer benefícios, também traz desafios”, destacou Fachin.
Entre as medidas está o chamado ‘Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA)’, que cria uma frente permanente para lidar com riscos de manipulação no uso de IA em processos judiciais.
Plataforma Sinapse
A orientação é incorporar ao Proseg-IA requisitos de “ingestão segura” de documentos processuais, com preservação de metadados visuais e estruturais.
A proposta também indica a Plataforma Sinapse como solução nacional para a realização, consolidação e manutenção do inventário nacional e sistemas judiciais de IA e de sua exposição a riscos adversariais.
— Com informações do site do CNJ
