Em 01/09/2020

CNJ - Judiciário quer uso de IA com ética e transparência

A Inteligência Artificial (IA) cresce a cada dia no Poder Judiciário

E, para garantir o uso da tecnologia com ética, transparência e governança, o Conselho Nacional de Justiça (CNJ) publicou na segunda-feira (25/8), no Diário de Justiça Eletrônico, a Resolução nº 332/2020.

A norma, aprovada pelo Plenário do CNJ na 71ª Sessão Virtual, estabelece as diretrizes para o desenvolvimento e uso de IA no Poder Judiciário. A Inteligência Artificial tem sido aplicada para contribuir com agilidade e coerência no processo de tomada de decisão nos órgãos judiciais. E seu uso deve observar a compatibilidade com os direitos fundamentais.

As decisões judiciais apoiadas por IA devem preservar a igualdade, a não-discriminação, a pluralidade, a solidariedade e o julgamento justo, eliminando ou minimizando a opressão, a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos. O CNJ ainda estabelece que o conhecimento associado à Inteligência Artificial deve estar à disposição da Justiça para promover e aprofundar a compreensão entre a lei e o agir humano e entre a liberdade e as instituições judiciais.

Segundo a resolução, os dados utilizados no processo de aprendizado de máquina devem ser provenientes de fontes seguras, preferencialmente governamentais, passíveis de serem rastreados e auditados. E, em seu processo de tratamento, os dados devem ser protegidos de forma eficaz contra riscos de destruição, modificação e transmissões não-autorizadas.

Segurança jurídica

Na relação entre essa inovação e os direitos fundamentais, a Resolução CNJ nº 332/2020 define que o uso de modelos de IA deve buscar garantir segurança jurídica. E que, quando o desenvolvimento exigir, as amostras devem ser representativas e observar as cautelas necessárias quanto aos dados pessoais sensíveis e ao segredo de Justiça.

Os critérios dos modelos de IA devem ser homologados para identificar se preconceitos ou generalizações influenciaram seu desenvolvimento. Os sistemas tecnológicos que utilizem modelos de IA como ferramenta auxiliar para a elaboração de decisão judicial deverão conter a explicação dos passos que conduziram ao resultado.

Os órgãos do Judiciário envolvidos em projetos dessa natureza devem informar o CNJ sobre a pesquisa, o desenvolvimento, a implantação e uso de IA, bem como os objetivos e resultados pretendidos. Para isso, os tribunais devem fazer esforços para atuar em modelo comunitário e depositar o modelo de IA na plataforma Sinapses, disponibilizada pelo Conselho para desenvolvimento e produção em larga escala de modelos de inteligência artificial. A relação dos modelos de IA desenvolvidos e utilizados pelos órgãos do Judiciário serão divulgados no Portal do CNJ.

Sistema penal

A Resolução orienta que o uso de modelos de IA em matéria penal não deve ser estimulada. Isso, no entanto, não se aplica quando se tratar do uso dessas soluções para automação e subsídio para cálculo de penas, prescrição, verificação de reincidência, mapeamentos, classificações e triagem dos autos para fins de gerenciamento de acervo.

O Conselho também estabelece que os modelos destinados à verificação de reincidência penal não devem indicar conclusão mais prejudicial ao réu do que aquela que o magistrado chegaria sem sua utilização.

O desenvolvimento e o uso dessa tecnologia em desconformidade com os princípios e regras estabelecidos na Resolução CNJ nº 332/2020 será objeto de apuração e, se for o caso, de punição dos responsáveis, sendo que o CNJ deverá ser informado sobre os registros de eventos adversos no uso dessa tecnologia.

Fonte: Conselho Nacional de Justiça