Neste ano, o CNJ divulgou o relatório sobre o “O Uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro” ¹, sem a perspectiva de ser um guia orientador. O propósito, de acordo com o sumário executivo, foi constatar que os “riscos de erros, opacidade, discriminação, violações à privacidade e à proteção de dados, impactos sobre o trabalho e o meio ambiente, não são suficientes para lidar com os desafios trazidos pelo desenvolvimento e pelo emprego de IAGs, o que justifica a revisão de políticas de governança nos tribunais e da regulamentação vigente do CNJ”. O relatório traz como destaque pesquisa realizada com magistrados e servidores sobre como avaliam o uso das ferramentas tecnológicas de IA Gen. A maioria dos respondentes aponta a pesquisa jurisprudencial como sendo seu principal uso, preterindo outros, como predição de decisões, elaboração de minutas de documentos etc.  As dificuldades para ampliar o uso da IA Gen no Judiciário brasileiro está ligada à   necessidade de treinamento, falta de confiança e de regulamentação, dentre outras. Nesta esfera de uso tecnológico, o CNJ promulgou a resolução 332/20 e a portaria 271/20 sobre o uso da IA na prática judicial.

VEJA MAIS: O que é a IA Generativa

Embora o Brasil seja cauteloso quanto ao uso da IA Gen na justiça, crescem os exemplos de países que estão traçando uma linha de orientação sobre o uso do IA no Judiciário, ajudando a afastar possíveis temores. Entre os países que já definiram diretrizes sobre o uso do IA Generativa no segmento jurídico estão Cingapura² e a Nova Zelândia³.

Editado em outubro deste ano, o guia da Suprema Corte de Cingapura atinge todos os tribunais e instância daquele país. O documento destaca que os usuários do Tribunal serão responsáveis por qualquer conteúdo gerado por IA Gen, a não ser nos casos de ser solicitado pelo tribunal. Os operadores do direito devem levar em conta se o documento é preciso, relevante e se não viola direitos autorais. O usuário também pode ser solicitado a revelar ao tribunal se usou IA Gen para preparar os documentos legais, fazer uma declaração de conformidade com as diretrizes e declaração juramentada.

Já na Nova Zelândia, as diretrizes são detalhadas e orientam juízes, oficiais de justiça, membros de tribunais e advogados. Inicialmente, faz um alerta sobre as limitações da tecnologia de IA Gen, lembrando que não são motores de busca, mas geram um algoritmo baseado nas solicitações (prompts) e que a resposta será a combinação mais provável diante dos dados em que foram treinados: Os chatbots da AI Gen atualmente disponíveis parecem ter tido acesso limitado a dados de formação sobre a legislação da Nova Zelândia ou sobre os requisitos processuais aplicáveis ??nos tribunais da Nova Zelândia. ” A qualidade de quaisquer respostas que você receber dependerá de como o chatbot GenAI foi treinado, da confiabilidade dos dados de treinamento e de como você interage com o chatbot GenAI relevante, incluindo a ‘qualidade’ das solicitações inseridas.   Mesmo com as melhores sugestões, o resultado pode ser impreciso, incompleto, enganoso ou tendencioso”, alerta o guia.

As orientações para os operadores jurídicos na Nova Zelândia, ainda incluem as melhores práticas de segurança para uso nos tribunais, ressaltando que devem privilegiar dispositivos de trabalho e não pessoais para acesso a sistemas de IA Gen. Há ressalvas para advogados, que devem ter “obrigação profissional de garantir que qualquer material que apresente ao tribunal (independentemente de como é gerado) seja preciso”, especialmente pesquisas e citações geradas pela IA Gen.

Se Cingapura tem diretrizes neutras diante do uso da IA Gen no Judiciário, Estados norte-americanos, como a Califórnia, consideram essa tecnologia uma prioridade para justiça e divulgaram um FAQ (perguntas e respostas) para alinhar o debate. De acordo com o setor responsável pelos esforços da implantação da IA na justiça californiana, o jurisdicionado pode ser beneficiado, a despeito dos riscos: “Teremos que abordar os riscos da IA ??generativa para preservar a confiança e a credibilidade do público. Os dados usados ??pela IA não são imaculados – eles incluem preconceitos baseados em gênero, etnia, política e valores. Também há riscos em torno da transparência e da responsabilização. Até mesmo os engenheiros que desenvolvem modelos de IA dizem que não têm muita certeza de como eles funcionam. Isso é preocupante porque o poder judiciário deve ser responsável e transparente”.  O próximo passo do Judiciário da Califórnia é criar diretrizes sobre questões éticas geradas pela IA Gen.

Não é apenas a justiça da Califórnia que faz perguntas e busca respostas para a interface dos sistemas de IA na esfera legal. Toda geração Geek sabe que mais importante do que a resposta é a pergunta e isso fica claro no livro “clássico” dos geeks: “O Guia dos Mochileiros da Galáxias”, no qual seres pandimensionais perguntam a um megacomputador “Qual o sentido da vida, do universo e de tudo?”. E o computador responde que levaria 7,5 milhões de anos para calcular a resposta. No prazo previsto, a população retorna para receber a resposta, que foi simplesmente “42”. A resposta desaponta, é considerada insuficiente, questionada e o sistema retruca que o erro estava na pergunta inadequada. Será que já temos a pergunta certa sobre como a IA Gen pode ajudar a justiça planetária a ser mais eficiente ou ainda buscamos por ela?

LEIA MAIS: IA generativa como elemento de justiça social

Há também casos isolados de uso da IA Gen que impulsionam seu uso no sistema judiciário. É o caso do   juiz colombino, Juan Manuel Padilha, que admitiu ter usado o ChatGPT para tomar sua decisão sobre se o seguro de uma criança autista deveria cobrir todo o tratamento médico, uma vez que os pais da criança não tinham condições econômicas. Uma das respostas do Chatbot foi “que segundo as leis colombianas menores de idades com autismo estão isentos de pagar por suas terapias”. O juiz argumentou que ao fazer perguntas para o ChatGPT, não deixou de ser juiz. Surgiram muitas críticas, mas houve apoio do Supremo Tribunal da Colômbia no sentido de que a tecnologia pode ser um instrumento capaz de auxiliar um magistrado a julgar melhor, sem esquecer que o administrador da justiça, ao final, deve ser sempre um ser humano.

Decisões institucionais e pessoais estão auxiliando a construir uma resposta para as tecnologias de IA Gen no Judiciário. Sem dúvida, várias questões devem ser colocadas na balança, como a confiança no sistema, nível de vieses dos grandes sistemas de linguagem e que impactos podem gerar na rotina das cortes e nos direitos do jurisdicionado, sendo que o uso responsável por parte dos operadores do direito constitui um peso fundamental para a gestão ética e transparente da IA Gen dentro do processo legal.

Fabio Rivelli – Sócio da Lee, Brock, Camargo Advogados (LBCA). Doutorando e mestre em Direito pela PUC-SP e MBA pelo Insper.

Ricardo Freitas – Sócio da Lee, Brock, Camargo Advogados. Doutor e Mestre em Direito pelo IDP.

O post IA em movimento: em busca da governança ideal para a IA generativa no sistema de justiça apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Esta reflexão não se resume a um exercício de “futurologia”. A proposta é atingir um melhor entendimento do presente, para que então seja possível identificar e analisar o que esperar no ano de 2023.

Uma das principais tendências para este ano será a intensificação do uso de tecnologias de Inteligência Artificial (IA), motivada pelo aumento da eficiência digital e de processos. A expectativa é que, em pouco tempo, as tecnologias de IA sejam integradas ou incorporadas a ferramentas que utilizamos no cotidiano, como, por exemplo, editores de texto.

Em 2022, diversas ferramentas de IA viralizaram na Internet e foram popularizadas. Exemplos disso são o programa Midjourney, que gera imagens a partir de um texto contendo instruções, ou do aplicativo Lensa, que cria diferentes versões de “selfies” a partir das imagens enviadas pelo usuário. São formas lúdicas de incorporar a IA à cultura e ao cotidiano, tornando esse tipo de tecnologia mais comum, mais acessível, menos intimidador, mas não eximido de riscos.

A rigor, o que esse tipo de programa faz é utilizar referências (isto é, um banco de dados) para formar novas composições (seja em texto ou em imagem, nos exemplos dados). Em outras palavras, a IA é mais tangível do que aparenta:

trata-se, em verdade, de um conjunto de códigos, algoritmos, bancos de dados, programadores e usuários[1].

 Quando as ferramentas citadas realizam o reprocessamento de dados, há uma espécie de apropriação de estilos de arte que identificam seu autor, como o caso do estilo de pintura adotado por Andy Warhol ou por Romero Britto.

Nesse sentido, as IA demandam o surgimento de diferentes dilemas, em especial no campo do Direito. Especialmente no caso de ferramentas capazes de gerar imagens, há intenso debate sobre os direitos autorais de propriedade intelectual dos autores das obras utilizadas para alimentar a base de dados da IA. Ainda não está claro qual o limite entre o plágio e uma “criação” feita dessa forma, e já há ações judiciais para dirimir tais conflitos.

Ainda, no final de 2022, o lançamento do ChatGPT gerou diversas polêmicas e debates éticos, e comprovou que o acesso massificado a esse tipo de tecnologia está cada vez mais próximo.

LEIA TAMBÉM:

• ChatGPT: Limitações e benefícios da inteligência artificial
• IA constrói um futuro estratégico para o ESG

 O ChatGPT é uma ferramenta (chatbot) capaz de gerar textos automaticamente, em diversos formatos, contemplando diferentes assuntos. É capaz, inclusive, de gerar códigos maliciosos para invasão de dispositivos, como ransomwares. Esse não é o primeiro caso de utilização de uma IA resultante em comportamentos antiéticos ou discriminatórios.

Até aqui, o uso da IA por empresas ainda encontra limitações: desde questões orçamentárias, até falta de capacitação de funcionários ou incompatibilidade com sistemas já utilizados. São muitos os obstáculos que ainda se colocam para que a IA passe a fazer parte do cotidiano e seja efetivamente incorporada aos processos de negócio.

Nesse contexto, a cibersegurança e da proteção de dados pessoais também demandam preocupações. Isso porque, como dito, essas informações podem ser insumos essenciais para o funcionamento de sistemas de IA. Nesses casos, será necessário observar as regras jurídicas existentes sobre a proteção da privacidade e segurança da informação, desafiando a possível falta de clareza ou segurança sobre as normas específicas que devem ser aplicáveis.

Ainda que as ferramentas de IA realizem cada vez mais atividades determinantes para o desenvolvimento econômico e social, essas tecnologias podem colocar em risco a privacidade, conter imprecisões de processamento, operar com discriminações e serem utilizadas para dar causa a incidentes de segurança, o que destaca a importância da criação de um sandbox para testes prévios antes do lançamento de uma ferramenta do gênero no mercado. 

Longe de ser um impedimento de uso, testes prévios e o respeito às normas regulatórias para IA servem para estabelecer condições legítimas para o funcionamento, de forma lícita, ética e adequada[2].

Quanto às normas aplicáveis à IA, existem algumas iniciativas que, certamente, terão repercussão sobre a regulamentação nacional; no âmbito da União Europeia, é preciso mencionar o AIA (Artificial Intelligence Act), normativa aprovada em dezembro de 2022, no contexto legislativo do DSA ( DigitalAct Services) e DMA (Digital Markets Act).

Já no Brasil, o Projeto de Lei 21/2020 ficou conhecido como o Marco Legal do Desenvolvimento e Uso da Inteligência Artificial, e possui duplo objetivo. Primeiro, estabelecer direitos para proteção do elo mais vulnerável, isto é, a pessoa natural que já é constantemente impactada por sistemas de IA. E, segundo, dispor de ferramentas de governança, fiscalização e supervisão, criando condições de segurança jurídica para inovação e o desenvolvimento econômico-tecnológico[3].

 Com isso, o Brasil reconhece que a proteção de direitos e liberdades e a criação de novas cadeias de valor não são mutuamente excludentes. 

Se a IA será uma tendência presente em 2023, os ciberataques também são um tema central. Os problemas envolvendo cibersegurança não são apenas causados por ataques de hackers ou ameaças com tecnologias aprimoradas.

 Muitos riscos persistem diante da ausência de medidas de segurança básicas, que consequentemente deixam dados pessoais e informações confidenciais vulneráveis. A ausência de proteções adequadas em redes, softwares e dispositivos soma-se às falhas humanas e ao negligenciamento de políticas de privacidade, conscientização e treinamentos, como causas do aumento exponencial de ataques maliciosos.

Para 2023, o avanço da Internet das Coisas (IoT) nos negócios e sociedade pode aprofundar esse cenário, já que mais equipamentos eletrônicos estarão conectados. Mesmo para aqueles que indicam que não armazenam dados pessoais de identificação direta, a conexão IoT pode abrir portas para usar os dispositivos como gateways e acessar outros conectados em rede, que contenham dados pessoais ou informações confidenciais.

A IA igualmente está presente na discussão da cibersegurança, já que podem ser aliadas na previsão de ataques ou falhas de segurança, reconhecendo padrões de ameaça.

 De acordo com o Cost of a Data Breach Report 2022 do IBM Security, o uso de inteligência artificial por empresas para detecção de incidentes é útil na economia de recursos e tempo de identificação e contenção da violação, considerando que a média de custo de uma violação de incidente de segurança, que em 2022 foi de 4,35 milhões[4].

Por outro lado, os algoritmos de IA podem ser o que efetivamente dão causa a incidentes. Isto porque a alta capacidade de aprimoramento das IAs pode resultar em incidentes de proteção de dados, quando por exemplo tais ferramentas são utilizadas para emular vozes ou mesmo pessoas, servindo de instrumento para fraudes ou, ainda, utilizadas para o disparo em massa de mensagens com phishing.

Novos ou não, os desafios da cibersegurança continuam exigindo, como prioridade, o desenvolvimento de uma cultura de segurança íntegra, que trabalhe com conscientização e investimento em medidas de segurança físicas, técnicas e organizacionais. É justamente na busca pelo uso seguro e responsável das novas tecnologias que residem os desafios da cibersegurança deste ano.

Igualmente, deverá ser dada muita atenção a possíveis ataques cibernéticos à infraestrutura pública dos governos, que necessitam cada vez mais investir em recursos de segurança para a proteção da segurança da informação e privacidade dos cidadãos. Segundo dados do Gabinete de Segurança Institucional da Presidência da República, só em 2019 ocorreram 10.716 incidentes cibernéticos contra o governo brasileiro. Em 2021, foram aproximadamente 5.000 tentativas de ataque[5].

As tendências abordadas aqui são apenas um recorte do vasto cenário das novas tecnologias. Mais do que previsões, o objetivo foi apresentar um recorte dos principais temas que devem ocupar os debates acadêmicos e dentro das empresas ao longo deste ano.

Até o final de 2023, muitas transformações ainda devem ocorrer no campo IA, na cibersegurança e no âmbito regulatório.

 A dedicação a tais desafios exigirá novos aprendizados, sem esquecer do fortalecimento dos pontos de atenção já conhecidos para a proteção de dados e cibersegurança. Embora a transformação ocorra de forma constante, manter em mente os direitos, princípios e liberdades fundamentais e as boas práticas de segurança da informação e proteção de dados é algo essencial para uma adaptação exitosa.

___________________________________________________________________________________

[1] PARRY, Rupert. AI & IP: Who owns music made by a machine? Goethe Institut. https://www.goethe.de/prj/k40/en/mus/machine-music.html Acesso em: 23 jan. 2023.

[2] INFORMATION COMISSIONER’S OFFICE (ICO). Guidance on IA and Data Protection. Disponível em: https://ico.org.uk/for-organisations/guide-to-data-protection/key-dp-themes/guidance-on-ai-and-data-protection/about-this-guidance/#whatdoyou. Acesso em: 22 jan. 2023.

[3] CJSUBIA. Relatório final da Comissão de Juristas responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil. p. 10. https://legis.senado.leg.br/comissoes/mnas?codcol=2504&tp=4 Acesso em: 23 jan. 2023.

[4] IBM SECURITY, Cost of a Data Breach Report. 2022. Disponível em: https://www.ibm.com/downloads/cas/3R8N1DZJ. Acesso em: 20 jan. 2023.

[5] ITO, Daniel. Governo sofreu quase cinco mil incidentes cibernéticos em 2021. Agência Brasil. 28 de janeiro de 2022. Disponível em:

https://agenciabrasil.ebc.com.br/radioagencia-nacional/seguranca/audio/2022-01/governo-sofreu-quase-cinco-mil-incidentes-ciberneticos-em-2021. Acesso em: 20 jan. 2023.

AMANDA CUNHA MELLO SMITH MARTINS – Advogada na área de Direito do Consumidor, mestre em Direito pela Faculdade de Direito da USP e coordenadora de consumidores na Comissão de Privacidade e Proteção de Dados da OAB-SP

BRUNA MARQUES DA SILVA – Advogada da Lee, Brock, Camargo Advogados (LBCA) e mestre em Direito pela Universidade do Vale do Rio dos Sinos (Unisinos)

O post Cibersegurança: tendências e desafios para 2023 apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.