O episódio ilustra um risco não mais futuro ou de uma conformidade teórica: organizações que não conseguem demonstrar controles adequados sobre uso de IA enfrentam consequências comerciais imediatas.  

CONFIRA O ARTIGO COMPLETO NA ÍNTEGRA: Controle da IA vira exigência dentro do universo corporativo

O post Controle da IA vira exigência dentro do universo corporativo apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Nesse contexto, a Recomendação 001/2024 do Conselho Federal da Ordem dos Advogados do Brasil (OAB) e o Projeto de Lei 2.338/2023, que institui o Marco Legal da Inteligência Artificial no Brasil, oferecem diretrizes valiosas para orientar o uso ético, seguro e responsável da IA generativa na prática jurídica. A análise conjunta desses documentos permite identificar pontos de convergência essenciais para a advocacia, principalmente no que tange à proteção de dados, à supervisão humana e à responsabilidade profissional.

Confidencialidade e proteção de dados: o compromisso inalienável da advocacia

A recomendação da OAB é categórica: o sigilo profissional não pode ser comprometido pelo uso de IA. Advogados devem evitar inserir dados sensíveis de clientes em sistemas de IA sem garantias explícitas de confidencialidade e segurança. O documento alerta para o risco de que informações processadas por modelos de linguagem sejam armazenadas e, eventualmente, reutilizadas para fins de treinamento, muitas vezes sem o conhecimento ou consentimento do usuário.

Essa preocupação dialoga com os princípios do PL 2.338/2023, que consagra a proteção de dados pessoais, a centralidade da pessoa humana e a autodeterminação informativa como fundamentos para o uso de IA no Brasil.

LEIA MAIS: E-commerce em expansão: desafios legais, regulação e boas práticas

A distinção entre ferramentas de código aberto e código fechado é um aspecto central dessa discussão. Sistemas de IA generativa de código aberto, por sua natureza, permitem maior transparência no código-fonte, mas podem expor os dados processados a reuso em novos treinamentos, caso não sejam configurados adequadamente. Já sistemas de código fechado, operados por grandes empresas de tecnologia, muitas vezes funcionam como caixas-pretas, dificultando a auditoria e o controle sobre o destino das informações inseridas.

Um advogado que utiliza IA para revisar contratos de fusão e aquisição, por exemplo, precisa avaliar com rigor onde e como as informações estratégicas de seus clientes estão sendo processadas. A ausência de garantias contratuais claras pode gerar riscos significativos de exposição de dados confidenciais, além de possíveis violações à Lei Geral de Proteção de Dados (LGPD).

A adoção responsável de IA em escritórios de advocacia exige mais do que boas intenções: demanda a implementação de políticas internas robustas de governança, com diretrizes claras sobre o uso de IA, restrições de processamento de dados confidenciais, revisão obrigatória das saídas geradas por IA e a definição de procedimentos para avaliar a confiabilidade e a segurança das ferramentas utilizadas.

Supervisão humana: a defesa intransferível do julgamento jurídico

Tanto a Recomendação da OAB quanto o PL 2.338/2023 reforçam que a decisão final sobre questões jurídicas deve ser humana. A IA pode sugerir soluções, mas o juízo crítico, a ponderação dos fatos e a estratégia processual são responsabilidades exclusivas do advogado.

Considere o caso de um advogado trabalhista que utiliza IA para identificar padrões de fraude em ações coletivas. Embora o sistema possa indicar indícios relevantes, cabe ao advogado validar as informações, verificar sua precisão e analisar o contexto. Uma decisão tomada exclusivamente com base em saídas de IA, sem revisão humana, pode resultar em alegações infundadas e expor o profissional a sanções éticas e jurídicas.

No âmbito da prática jurídica, o dever de diligência exige que o advogado compreenda as ferramentas de IA utilizadas, conheça seus riscos e limites e, sobretudo, assegure que as decisões e estratégias sejam fundamentadas em análise humana criteriosa. O uso responsável de IA não exime o profissional de sua obrigação de atuar com zelo, prudência e respeito às normas éticas e legais.

Transparência e consentimento: um pacto ético com o cliente

A transparência no uso de IA não é opcional: é um dever ético e jurídico. A recomendação da OAB orienta que advogados informem seus clientes sobre a utilização de ferramentas de IA, explicando os benefícios, as limitações e os riscos — incluindo a natureza da tecnologia (código aberto ou fechado), o tratamento de dados pessoais e as garantias de segurança aplicáveis.

VEJA TAMBÉM: Avança o debate sobre supervisão humana no ciclo de vida da IA

O consentimento informado, formalizado por escrito, é indispensável para assegurar a conformidade ética e legal do trabalho. Além de informar seus clientes sobre o uso de IA, o escritório deve adotar práticas de comunicação proativa, oferecendo explicações claras e acessíveis sobre os benefícios, limitações e medidas de segurança adotadas para proteger as informações sensíveis. Essa transparência fortalece a confiança e demonstra o compromisso do advogado com a ética profissional e o respeito aos direitos do cliente.

Essa transparência também está prevista no PL 2.338/2023, que assegura o direito à informação prévia, à explicação sobre decisões automatizadas e à contestação dos resultados gerados por sistemas de IA.

Responsabilidade e riscos: a nova fronteira da advocacia

O PL 2.338/2023 introduz um ponto crucial ao estabelecer a responsabilidade objetiva para agentes que operam sistemas de IA de alto risco. Isso significa que o advogado ou o escritório que utiliza ferramentas de IA sem avaliar adequadamente seus riscos pode ser responsabilizado por eventuais danos causados, independentemente de culpa.

Essa nova fronteira impõe a necessidade de implementação de programas de governança de IA nos escritórios, com políticas internas claras, treinamentos periódicos e avaliações de impacto.

Além disso, é fundamental negociar contratos robustos com fornecedores de tecnologia, prevendo cláusulas específicas sobre confidencialidade, restrição de uso dos dados para treinamento, garantias de segurança e auditoria periódica das soluções contratadas.

Revisar manualmente todas as saídas geradas por IA antes de apresentá-las em juízo ou de compartilhá-las com clientes não é mera formalidade: trata-se de uma obrigação ética e de um escudo contra riscos jurídicos e reputacionais.

Advocacia e inteligência artificial: liderança com ética, técnica e responsabilidade

A Recomendação 001/2024 da OAB e o PL 2.338/2023 oferecem um caminho para que a advocacia brasileira adote a IA generativa de forma ética, segura e responsável. Contudo, é importante reconhecer que o uso da IA é cada vez mais abrangente e irreversível, enquanto as bases jurídicas que regulam essa tecnologia ainda estão em construção. Esse cenário demanda uma reflexão sistêmica sobre todo o ordenamento jurídico, considerando os direitos fundamentais, a ética profissional, a proteção de dados, a responsabilidade civil, a governança e a segurança da informação.

É fundamental esclarecer que, no contexto da advocacia, a IA é uma ferramenta de apoio à atividade intelectual, e não um substituto para o raciocínio jurídico, a análise estratégica ou a tomada de decisões. A supervisão humana é inegociável, e o advogado permanece como o responsável final pela qualidade, pela ética e pela segurança dos serviços prestados.

Ao adotar práticas sólidas de governança, investir em capacitação contínua e comunicar-se de forma clara e transparente com seus clientes, o escritório de advocacia demonstra sua maturidade digital e sua capacidade de liderar a transformação tecnológica com responsabilidade. A inovação, quando guiada por princípios éticos, fortalece a confiança do cliente e posiciona o advogado como protagonista na defesa dos direitos fundamentais em um mundo cada vez mais digitalizado.

O futuro da advocacia está sendo construído agora. Cabe a cada profissional decidir se será protagonista dessa transformação ou mero espectador de suas consequências.

Paulo Vinicius de Carvalho Soares – é sócio do escritório Lee Brock Camargo Advogados, mestre em Direito Civil pela PUC-SP e graduado em Direito pela Universidade de São Paulo (USP).

O post O uso responsável da inteligência artificial generativa na advocacia apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

O documento, que tradicionalmente mapeia as principais ameaças globais, revela uma preocupação crescente com os impactos da tecnologia na sociedade, especialmente no que tange à Inteligência Artificial (IA) e suas aplicações.

Na análise de curto prazo, que contempla os próximos dois anos, dois riscos tecnológicos aparecem entre os dez mais críticos: a desinformação e a ciberespionagem.

A desinformação, ocupando a quinta posição no ranking geral, emerge como uma ameaça imediata à estabilidade social e política global. Este risco é particularmente amplificado pelo desenvolvimento acelerado de ferramentas de IA generativa, que podem criar e disseminar conteúdo falso ou enganoso em escala sem precedentes.

LEIA MAIS: Temporalidade na reparação de danos morais em ações consumeristas

A questão da segurança cibernética permanece central nas preocupações de longo prazo, mas com uma mudança de enfoque. Se no curto prazo, o foco está em ataques e espionagem, no horizonte de dez anos a preocupação se expande para incluir a resiliência das infraestruturas digitais críticas e a capacidade de proteger sistemas cada vez mais complexos e interconectados.

A dimensão ética do desenvolvimento tecnológico também ganha destaque no relatório. A preocupação com os impactos adversos da IA não se limita a questões técnicas ou de segurança, mas abrange também considerações sobre equidade, transparência e responsabilidade no desenvolvimento e implantação de sistemas automatizados.

Um aspecto fundamental destacado é a necessidade de desenvolver tecnologias de forma mais inclusiva e sustentável.

VEJA TAMBÉM: Planejamento Sucessório e Holdings Familiares: Estratégias Jurídicas para a Preservação do Patrimônio

O relatório sugere que a concentração do desenvolvimento tecnológico em poucos atores globais pode exacerbar desigualdades existentes e criar novos pontos de vulnerabilidade no sistema global. A interação entre riscos tecnológicos e ambientais também merece atenção especial no que concerne à energia.

A análise do Global Risks Report 2025 deixa claro que os próximos anos serão cruciais para determinar como a sociedade global lidará com os desafios tecnológicos emergentes. As decisões tomadas hoje sobre governança tecnológica, regulamentação e desenvolvimento de capacidades terão impactos duradouros na forma como navegaremos os desafios tecnológicos do futuro.

A construção de um futuro tecnológico mais seguro e equitativo dependerá da nossa capacidade de aprender com as lições do presente e agir proativamente para mitigar os riscos emergentes.

Adalberto Fraga Veríssimo Junior – sócio da Lee, Brock, Camargo Advogados. Mestrando em Direito pelo IDP, Pós-Graduado em Direito Digital e Proteção de Dados pela EBRADI.

O post Riscos Tecnológicos Globais: Os Desafios da Próxima Década apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Neste ano, o CNJ divulgou o relatório sobre o “O Uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro” ¹, sem a perspectiva de ser um guia orientador. O propósito, de acordo com o sumário executivo, foi constatar que os “riscos de erros, opacidade, discriminação, violações à privacidade e à proteção de dados, impactos sobre o trabalho e o meio ambiente, não são suficientes para lidar com os desafios trazidos pelo desenvolvimento e pelo emprego de IAGs, o que justifica a revisão de políticas de governança nos tribunais e da regulamentação vigente do CNJ”. O relatório traz como destaque pesquisa realizada com magistrados e servidores sobre como avaliam o uso das ferramentas tecnológicas de IA Gen. A maioria dos respondentes aponta a pesquisa jurisprudencial como sendo seu principal uso, preterindo outros, como predição de decisões, elaboração de minutas de documentos etc.  As dificuldades para ampliar o uso da IA Gen no Judiciário brasileiro está ligada à   necessidade de treinamento, falta de confiança e de regulamentação, dentre outras. Nesta esfera de uso tecnológico, o CNJ promulgou a resolução 332/20 e a portaria 271/20 sobre o uso da IA na prática judicial.

VEJA MAIS: O que é a IA Generativa

Embora o Brasil seja cauteloso quanto ao uso da IA Gen na justiça, crescem os exemplos de países que estão traçando uma linha de orientação sobre o uso do IA no Judiciário, ajudando a afastar possíveis temores. Entre os países que já definiram diretrizes sobre o uso do IA Generativa no segmento jurídico estão Cingapura² e a Nova Zelândia³.

Editado em outubro deste ano, o guia da Suprema Corte de Cingapura atinge todos os tribunais e instância daquele país. O documento destaca que os usuários do Tribunal serão responsáveis por qualquer conteúdo gerado por IA Gen, a não ser nos casos de ser solicitado pelo tribunal. Os operadores do direito devem levar em conta se o documento é preciso, relevante e se não viola direitos autorais. O usuário também pode ser solicitado a revelar ao tribunal se usou IA Gen para preparar os documentos legais, fazer uma declaração de conformidade com as diretrizes e declaração juramentada.

Já na Nova Zelândia, as diretrizes são detalhadas e orientam juízes, oficiais de justiça, membros de tribunais e advogados. Inicialmente, faz um alerta sobre as limitações da tecnologia de IA Gen, lembrando que não são motores de busca, mas geram um algoritmo baseado nas solicitações (prompts) e que a resposta será a combinação mais provável diante dos dados em que foram treinados: Os chatbots da AI Gen atualmente disponíveis parecem ter tido acesso limitado a dados de formação sobre a legislação da Nova Zelândia ou sobre os requisitos processuais aplicáveis ??nos tribunais da Nova Zelândia. ” A qualidade de quaisquer respostas que você receber dependerá de como o chatbot GenAI foi treinado, da confiabilidade dos dados de treinamento e de como você interage com o chatbot GenAI relevante, incluindo a ‘qualidade’ das solicitações inseridas.   Mesmo com as melhores sugestões, o resultado pode ser impreciso, incompleto, enganoso ou tendencioso”, alerta o guia.

As orientações para os operadores jurídicos na Nova Zelândia, ainda incluem as melhores práticas de segurança para uso nos tribunais, ressaltando que devem privilegiar dispositivos de trabalho e não pessoais para acesso a sistemas de IA Gen. Há ressalvas para advogados, que devem ter “obrigação profissional de garantir que qualquer material que apresente ao tribunal (independentemente de como é gerado) seja preciso”, especialmente pesquisas e citações geradas pela IA Gen.

Se Cingapura tem diretrizes neutras diante do uso da IA Gen no Judiciário, Estados norte-americanos, como a Califórnia, consideram essa tecnologia uma prioridade para justiça e divulgaram um FAQ (perguntas e respostas) para alinhar o debate. De acordo com o setor responsável pelos esforços da implantação da IA na justiça californiana, o jurisdicionado pode ser beneficiado, a despeito dos riscos: “Teremos que abordar os riscos da IA ??generativa para preservar a confiança e a credibilidade do público. Os dados usados ??pela IA não são imaculados – eles incluem preconceitos baseados em gênero, etnia, política e valores. Também há riscos em torno da transparência e da responsabilização. Até mesmo os engenheiros que desenvolvem modelos de IA dizem que não têm muita certeza de como eles funcionam. Isso é preocupante porque o poder judiciário deve ser responsável e transparente”.  O próximo passo do Judiciário da Califórnia é criar diretrizes sobre questões éticas geradas pela IA Gen.

Não é apenas a justiça da Califórnia que faz perguntas e busca respostas para a interface dos sistemas de IA na esfera legal. Toda geração Geek sabe que mais importante do que a resposta é a pergunta e isso fica claro no livro “clássico” dos geeks: “O Guia dos Mochileiros da Galáxias”, no qual seres pandimensionais perguntam a um megacomputador “Qual o sentido da vida, do universo e de tudo?”. E o computador responde que levaria 7,5 milhões de anos para calcular a resposta. No prazo previsto, a população retorna para receber a resposta, que foi simplesmente “42”. A resposta desaponta, é considerada insuficiente, questionada e o sistema retruca que o erro estava na pergunta inadequada. Será que já temos a pergunta certa sobre como a IA Gen pode ajudar a justiça planetária a ser mais eficiente ou ainda buscamos por ela?

LEIA MAIS: IA generativa como elemento de justiça social

Há também casos isolados de uso da IA Gen que impulsionam seu uso no sistema judiciário. É o caso do   juiz colombino, Juan Manuel Padilha, que admitiu ter usado o ChatGPT para tomar sua decisão sobre se o seguro de uma criança autista deveria cobrir todo o tratamento médico, uma vez que os pais da criança não tinham condições econômicas. Uma das respostas do Chatbot foi “que segundo as leis colombianas menores de idades com autismo estão isentos de pagar por suas terapias”. O juiz argumentou que ao fazer perguntas para o ChatGPT, não deixou de ser juiz. Surgiram muitas críticas, mas houve apoio do Supremo Tribunal da Colômbia no sentido de que a tecnologia pode ser um instrumento capaz de auxiliar um magistrado a julgar melhor, sem esquecer que o administrador da justiça, ao final, deve ser sempre um ser humano.

Decisões institucionais e pessoais estão auxiliando a construir uma resposta para as tecnologias de IA Gen no Judiciário. Sem dúvida, várias questões devem ser colocadas na balança, como a confiança no sistema, nível de vieses dos grandes sistemas de linguagem e que impactos podem gerar na rotina das cortes e nos direitos do jurisdicionado, sendo que o uso responsável por parte dos operadores do direito constitui um peso fundamental para a gestão ética e transparente da IA Gen dentro do processo legal.

Fabio Rivelli – Sócio da Lee, Brock, Camargo Advogados (LBCA). Doutorando e mestre em Direito pela PUC-SP e MBA pelo Insper.

Ricardo Freitas – Sócio da Lee, Brock, Camargo Advogados. Doutor e Mestre em Direito pelo IDP.

O post IA em movimento: em busca da governança ideal para a IA generativa no sistema de justiça apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

No universo da advocacia, as tecnologias de IA foram, a princípio, avaliadas de três formas: Com discriminação, preocupação e vistas como desafios. O primeiro implica na grande resistência inicial que o uso de tecnologias de IA teve junto aos profissionais e entidades de classe, sopesando a questão da redução de postos de trabalho, tanto nos escritórios de advocacia, quanto nos departamentos jurídicos, além de um ceticismo genalizado de que a solução dos problemas estava na tecnologia. O temor ganhou um grau a mais com a chegada da IA generativa, que envolve modelos de aprendizagem da máquina que, com base na análise de grande volume de dados preexistentes é capaz de criar conteúdo semelhante aos inéditos, sejam de vídeos a áudios e textos, meio pelo qual o setor jurídico desenvolveu sua atividade desde sua criação.

O presidente do Supremo Tribunal norte-americano, John Roberts, foi muito assertivo ao afirmar que o potencial das tecnologias de IA mudará o modo de trabalho de todos os operadores do Direito, mas tem consigo a angústia de que isso possa desumanizar a lei. Essa observação contém duas verdades: Os sistemas de IA estão acelerando grandes mudanças no sistema jurídico e que o Direito tem uma forte tradição na cultura do humanismo, no sujeito de direito e na garantia do princípio da dignidade do ser humano. Contudo, a tecnologia não incrementará vulnerabilidades neste campo se, na prática, cada profissional do Direito empregar os sistemas de IA para tornar a justiça mais eficaz e acessível.

A segunda frente envolve os vieses éticos, de transparência e de conformidade, uma vez que o Brasil não consegue evoluir em seu Marco Regulatório da IA (PL 2.338/23), cuja votação vem sendo adiada no Congresso Nacional por falta de consenso entre os parlamentares. Esse tipo de impasse entre avanço e recuo sobre os sistemas de IA, contudo, poderá ser superado pela possibilidade, mesmo sem regramento de conformidade,  de que haverá supervisão humana a cada progresso das tecnologias de IA, aliado às vantagens disponíveis para toda a sociedade.

Muitos estudos têm apontado que os analistas jurídicos, os bacharéis de Direito que realizam serviços de apoio nos escritórios, como pesquisas jurídicas, correm mais risco de perder mais rapidamente seus postos para a tecnologia, porque os softwares conseguem processar dados mais rapidamente do que qualquer ser humano, em diferentes idiomas com possibilidade de análise, resumo e aplicação enquanto tese dentro de possíveis litígios. Dados de relatório da Goldman Sachs apontam que a IA Generativa pode substituir até 44% da profissão jurídica. Mas isso tem de ser examinado, porque estamos falando de tarefas burocráticas e repetitivas, que consomem tempo precioso do trabalho estratégico advocatício.

LEIA TAMBÉM: IA como ferramenta de inclusão dentro do fator S do ESG

Aos poucos, o temor de que as tecnologias de IA generativa iriam ocupar o lugar dos advogados veio diminuindo. Haverá mudanças, disrupções, mudanças, mas nada acontecerá de afogadilho. Neste cenário, porém, o advogado terá de conhecer e incorporar algumas ferramentas tecnológicas fundamentais para seu trabalho ou ficará para trás.

No dia a dia, a IA vem ajudando os advogados e demais profissionais do setor jurídico a encontrar soluções criativas e adotar um novo mindset. Até um fato simples, como um aplicativo de busca amplia a possibilidade da pesquisa on-line no exercício da advocacia, seja pela quantidade ou qualidade da informação que reúne, e está provado que isso aumentar a autoestima cognitiva do pesquisador que, unida à tecnologia, permitirá avaliar os dados encontrados e a ensejar uma produtividade inovadora.

Na tentativa de revisitar esse processo da advocacia e da tecnologia, sistematizei cinco fases da gestão jurídica pelas quais passam os escritórios no Brasil ao mesmo tempo. Temos desde bancas que não utilizam ferramenta tecnológica alguma até as que empregam IA generativa em larga escala. Na fase 1, estão os escritórios sem sistemas tecnológicos digitais. Na fase 2, estão os que utilizam algumas ferramentas. Na fase 3, estão as que utilizam uma série de serviços tecnológicos disponibilizados pelas law techs. Na fase 4, estão os que empregam uma plataforma para gerir os serviços da banca e, por fim, na fase 5, aqueles que empregam as tecnologias da IA generativa. No Brasil de tantas contradições, esses 5 modelos de escritórios de advocacia convivem ao mesmo tempo.

Podemos ter como marco inicial da história da tecnologia na advocacia brasileira a década de 1980/1990, quando teve início a lenta automação dos escritórios de advocacia. Temos de lembrar que em 1974, foi criada a primeira empresa brasileira (estatal) de fabricação de computadores, a Cobra (Computadores Brasileiros S.A.), mas o computador pessoal demorou para ingressar nos escritórios dos advogados brasileiros. A internet só viria em 1995 e o primeiro provedor de e-mail viria no ano seguinte. O e-mail foi marcante para o dia a dia da advocacia, porque permitia comunicação mais rápida, eficiente e segura para enviar e receber mensagens dos clientes, que atualmente vem sendo substituído por aplicativos, mas teve um reinado longo.

Nos anos 2000, cresceram as possibilidades digitais de comunicação, pesquisa e gestão. O processo judicial eletrônico é implantado em 2006 pelo TJ/SP, seguido pelas demais cortes do país, dando o start na automação do Judiciário, tendo sofrido muitas resistências. Hoje, a digitalização é vista como altamente positiva, tendo sido ampliada durante a pandemia (2020/2021) com as audiências on-line.

Nesse “balaio” tecnológico, as soluções das lawtechs para atender às necessidades dos escritórios de advocacia continuam a se expandir, apresentando ferramentas que resultam em trabalho rápido, mais produtivo e mais barato, automatizando documentos, mediando conflitos on-line, prospectando novos serviços e fazendo análises preditivas, entre outras ações. Enfim, abrindo novas oportunidades em um mercado cada dia mais concorrido. No momento, a grande demanda está voltada à gestão de automação de contratos e gestão do contencioso.

VEJA MAIS: Proteção de dados e IA: Solano de Camargo analisa nova tabela de honorários da OAB/SP

As plataformas tecnológicas mudaram a forma como os escritórios e departamentos jurídicos trabalhavam e gerenciavam suas competências. O Legal Ops – Legal Operations, por exemplo, potencializa um conjunto de processos estratégicos e inovadores para assegurar boas práticas jurídicas, de tecnologia (com uso intensivo de IA), de negócios, de transparência  e financeiros, melhorando a gestão do contencioso, principalmente quando o escritório reúne demandas da advocacia de volume.

Os sistemas da IA generativa são o presente/futuro da advocacia. O “aprendizado da máquina” que, com base em dados brutos, geram novos e inéditos conteúdos, popularizou o uso dessas ferramentas tecnológicas de IA, como o Chat GPT, Google Bard, Perplexity AI, Stable M, Dixa e outros chatbots de linguagem. A tendência é que grande parte dos advogados esteja aberta ao potencial da IA generativa para integrar em seu trabalho jurídico e, dessa forma, gerar novos insights. A profissão não deixará de existir, até porque onde há novas realidades surgindo, haverá novos conflitos e mais os advogados serão requisitados para representar as partes e suas demandas.

O post Diferentes graus de emprego da IA convivem na advocacia brasileira apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Era inevitável que o ESG e a IA se encontrassem diante da necessidade crescente das companhias de coletar, armazenar, processar e analisar um grande fluxo de dados para ajudar a consolidar seus números de forma mais precisa nos relatórios ESG, que reportam riscos ambientais e sociais e respectivos impactos. Contudo, o cenário regulatório é apenas a ponta do iceberg diante das inúmeras possibilidades abertas pelos sistemas de IA para resolver lacunas do ESG.

LEIA MAIS: O que as empresas querem e o que precisam evidenciar em seus relatórios ESG

A IA generativa, subconjunto da IA, é considerada uma tecnologia poderosa, capaz de aprender, empregando as ferramentas de aprendizado da máquina (machine learning) e o processamento de linguagem natural (natural language processing), gerando novas instâncias de dados e se tornando um ativo estratégico.

O emprego dessa tecnologia poderá mudar a forma como as empresas interagem e colaboram com seus stakeholders (investidores, colaboradores, clientes, fornecedores, comunidades etc.) e como pensam estrategicamente seus negócios, ajudando a impulsionar as melhores práticas ESG, desde que utilizadas dentro dos padrões das melhores práticas e critérios de compliance, por exemplo.

No pilar G, as empresas poderão utilizar a AI generativa para simular potenciais cenários de riscos e oportunidades, possibilitando ajustar suas operações em várias práticas, como integridade contábil, rastreamento da cadeia de suprimentos, mitigação de riscos, descarbonização de processos, uso responsável de água, descarte correto de resíduos, uso de energia renovável, manutenção preditiva de equipamentos,

entre outras iniciativas que propiciam estar em conformidade e auxiliam a tomar decisões mais eficientes de forma mais informada, com base em dados e análise preditiva. Também permite saber em que prazo será possível cumprir as metas ESG estabelecidas.

Igualmente, as práticas sociais do ESG tornam-se mais mensuráveis pela aplicação da IA generativa. A tecnologia pode ajudar a monitorar dados sobre iniciativas da organização voltadas a colaboradores, especialmente relativas às práticas laborais, de observância dos direitos humanos e de diversidade, equidade e inclusão, além daquelas voltadas a comunidades em que a empresa está inserida.

As métricas variam muito no ambiente regulatório de cada país, mas as ferramentas de aferição baseadas em IA conseguem reportar dados com grande precisão, o que contribui para melhorar seu desempenho diante dos stakeholders e obter feedbacks.

Considerando ainda as boas práticas, a IA generativa também poderá auxiliar as empresas a adotar um marketing socialmente responsável, que comunica com fidelidade e criatividade os dados sobre práticas éticas de governança, investimentos no capital social da empresa e redução da pegada de carbono, recomendando campanhas de marketing e apresentando insights sobre satisfação ou preocupação das partes interessadas.

As tecnologias de IA possibilitarão, ainda, analisar o desempenho e resiliência da empresa, assim como o alinhamento da cultura corporativa à demanda de seus stakeholders, principalmente quanto a adoção de uma comunicação mais precisa e transparente. Dessa forma, previne comunicações fraudulentas (greenwashing) e consolida a confiança e o engajamento de todos os públicos.

Um dos setores que mais tem investido no uso da IA em fatores ESG é o mercado financeiro, que vem desenvolvendo produtos e serviços inovadores para entender seu impacto econômico, social, político e ambiental e como tudo isso influencia o crescimento econômico sustentável.

Há uma preocupação das instituições financeiras em desenvolver modelos mais transparentes e evitar algoritmos que ensejem preconceitos contra quaisquer grupos sociais, seja por gênero, raça, faixa etária, religião, orientação sexual etc.

A IA é empregada nos três pilares ESG para modelar, ajustar e conceder crédito acessível para comunidades carentes, apoiar práticas sustentáveis, evitar incidentes de segurança, lavagem de dinheiro, democratizar serviços financeiros, prevenir fraudes e ajudar a entender a volatilidade do mercado, unindo fatores ESG e aplicação da IA generativa.

No pilar ambiental, a presença da IA também é relevante, porque este fator ainda carece de uma padronização. As tecnologias de IA conseguem estimar as emissões de Gases de Efeito Estudo (GEE) nos escopos 1, 2 e 3, sendo que este último tipo é o mais difícil de mensurar porque se refere a atividades de fornecedores e distribuidores que não são controlados pela organização.

As tecnologias abrem uma porta de acesso a mais informações e ajudam no enfrentamento a deficiências na quantificação das emissões, tanto que há  metodologias no mercado, muitas com recolhimento manual de dados, que podem chegar a avaliações que ampliam as emissões em até 200% acima do real, trazendo um desafio irreal e prejuízos reputacionais para as empresas.

O Brasil quer atingir emissões líquidas zero até 2050, reduzir as emissões de carbono em 50% e zerar o desmatamento ilegal até 2030. As empresas, por sua vez, desejam reduzir sua pegada de carbono.

Essas metas públicas e privadas mantém um diálogo tímido entre si, sendo que a transição energética para uma economia descarbonizada precisa contar com o esforço e envolvimento de todos os atores, uma vez que estão diante de riscos climáticos com grande potencial catastrófico, como o registrado no Rio Grande do Sul. Sem essa participação conjunta, ESG e IA não passarão de possibilidades para soluções criativas, sem real efetivação.

VEJA TAMBÉM: Como integrar a crise climática ao ESG?

A IA consegue analisar imagens de satélite para monitoramento do desmatamento e calcular o nível de emissões de CO₂ e seus impactos, que serão úteis para o agronegócio, assim como para os demais setores da economia, que também estão sob igual ameaça dos fenômenos climáticos. Os cientistas não sabem quando o próximo evento climático extremo acontecerá, apenas que virá.

No Brasil, a aplicação da IA já faz parte de diferentes estudos climáticos. Um deles foi publicado na revista Conservation Letters (Science-based planning can support law enforcement actions to curb deforestation in the Brazilian Amazon)^[1], por pesquisadores brasileiros que conseguiram identificar hotspots de devastação amazônica dentro de 11 municípios-alvo, isto é, aqueles que possuem maiores áreas desmatadas e maior incidência de queimadas.

A ferramenta utilizou dados do Projeto de Monitoramento do Desmatamento na Amazônia Legal por Satélite (Prodes), do INPE, e algoritmo, classificando as áreas de acordo com três níveis de risco – baixo, média e alto – que ajudam a direcionar a fiscalização.

Nessa perspectiva, o emprego das tecnologias de IA nos pilares ESG conseguem oferecer possíveis soluções para a crise climática e um futuro de baixo carbono, porque englobam de uma simples solução sustentável para as rotas de veículos de uma empresa até propor caminhos para enfrentar a crise climática.

O subtítulo contido no artigo^[2] de Victoria Masterson, do Fórum Econômico Mundial, explica de forma objetiva a questão: “os icebergs estão derretendo – a IA sabe onde e com que rapidez”, ou seja, nos dá uma vantagem preditiva e possibilita a governos, empresas e comunidades a possibilidade de se anteciparem e mitigarem os impactos de fenômenos severos.

O uso responsável da IA em questões ESG cresce a uma taxa exponencial, ajudando a extrair respostas de conjuntos de dados complexos para oferecer insights de como avançar nos pilares ambientais, sociais e de governança.

As empresas têm buscado abordagens mais holísticas do ESG e a IA generativa tem aberto caminhos novos para soluções mais sustentáveis, a despeito da ressalva negativa de que as tecnologias de IA ensejam uso intensivo de energia.

De acordo com a startup Zodhya^[3], para desenvolver e treinar o GPT-3, antecessor do ChatGPT, a empresa OpenAI gastou 1.064 MWh (Megawatt-hora) de energia. Para comparar, em 2023, o estado de São Paulo, com mais de 44 milhões de habitantes, consumiu 18.053 MWh.

A solução sustentável, neste caso, é utilizar fontes renováveis para gerar essa quantidade gigantesca de energia que a tecnologia necessita ou estaremos dando com uma mão e tirando com a outra no campo da sustentabilidade.

^[1] https://conbio.onlinelibrary.wiley.com/doi/epdf/10.1111/conl.12908

^[2] https://www.weforum.org/agenda/2024/02/ai-combat-climate-change/

^[3] https://www.zodhyatech.com/

FABIO RIVELLI – Sócio da Lee, Brock, Camargo Advogados. Mestre em Direito pela PUC-SP, MBA pelo Insper e presidente da Comissão de Gestão, Inovação e Tecnologia da OAB-Guarulhos

O post Aplicações de inteligência artificial potencializam o ESG apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

A Inteligência Artificial Generativa (IAGen) vem impactando o mundo jurídico de forma transformadora como em outros segmentos. Tanto, que pesquisa da Goldman Sachs de 20231,  sob o título “Os efeitos potencialmente grandes da inteligência artificial sobre o crescimento econômico” aponta que 44% das tarefas realizadas em escritórios de advocacia podem ser automatizadas.

LEIA TAMBÉM: ESG pode impulsionar a ética da IA?

A IA Generativa está cada vez mais presente nas decisões processuais e nas oportunidades que se abrem para a advocacia e outras áreas do direito. A partir do uso de chatbots de IA, como o ChatGPT, Google Bard, Bing Chat, Perplexity, Replika e similares (LLMs), com capacidade de produzir conteúdos semelhantes aos elaborados por humanos, a resistência ao seu uso nas práticas jurídicas vem sendo quebrada.

A versatilidade e qualidade dos textos torna os riscos – como a chamada alucinação ou conteúdo incorreto da IA –  relativizados diante das inúmeras vantagens.

É através das facilidades trazidas pela IAGen que os advogados podem abrir mão de tarefas repetitivas para as máquinas, passando mais tempo na solução estratégica dos problemas dos clientes. Um grande volume de dados (documentos), por exemplo, pode ser organizado, indexado e gerido rapidamente pela IA, com grande precisão. A plataforma pode, inclusive, apontar a ausência de documentos que seriam importantes para a causa.

Quanto tempo se economizou nesse processo? Certamente, foram meses de trabalho humano, poupou-se além do tempo, muitos recursos. Paralelamente, os modelos de algoritmos treinados no aprendizado da máquina com dados jurídicos específicos podem apontar caminhos e cruzá-los em consonância com a legislação, a jurisprudência, a doutrina e até decisões de determinados tribunais, turmas e magistrados.

Por meio da  IA Generativa podemos usar os “prompts “ou perguntas que ajudam a encontrar uma solução, reforçando a frase de Lévi-Strauss: “o cientista não é o homem que fornece as verdadeiras respostas; é quem faz as verdadeiras perguntas”. Quem já utilizou uma ferramenta de processamento de linguagem natural (LLM) de IA saber que o mais importante é fazer a pergunta certa para ter acesso aos insights gerados pelos grandes conjuntos de dados de entrada.

VEJA MAIS: Impactos da IA generativa no mundo jurídico

Também é possível utilizar o acesso a uma base de dados (big data) e algoritmos (aprendizado da máquina) para chegar às análises preditivas, que conseguem estabelecer a probabilidade de resultados futuros e seus impactos. Isso aumenta as chances de vitória em processos judiciais ao analisar as informações disponíveis, antecipando possíveis resultados.

Se quisermos fazer um paralelo podemos comparar, a grosso modo, a análise preditiva a um modelo estatístico, com várias etapas começando pela definição do objetivo (sucesso no conflito apresentado pelo cliente), depois coleta, análise de dados e modulação de resultados, empregando técnicas como regressão linear, séries temporais, árvores de classificação, dentre outras.

As correlações que a IA Generativa realiza em grandes conjuntos de dados acabam por desvendar conhecimentos que não eram conhecidos. É o caso, por exemplo, de sistemas de alerta climático precoce, que nada tem a ver com o mundo jurídico, mas que ajuda a antecipar riscos, principalmente nestes tempos de mudanças climáticas, possibilitando o envio de alertas, que  salvam milhões de vidas.

Duas questões estão ligadas ao uso de IA pelos escritórios de advocacia e interação com os clientes: ética e supervisão das máquinas. É fundamental informar aos clientes que o escritório utiliza ferramentas de tecnologia IAGen para que possa atender com mais acurácia e rapidez as demandas. Tornou-se fundamental explicar detalhadamente como isso se dará ao cliente e assegurar confidencialidade dos dados e prevenção quanto a diferentes tipos de riscos, como possíveis ataques cibernéticos.

O emprego de dados de clientes, quando utilizados para treinar a Inteligência Artificial somente serão realizados em ambientes seguros para evitar vazamento ou uso indevido. A segurança no manuseio dos dados dos clientes deve ser uma das principais preocupações para os escritórios de advocacia.

Além da transparência e do emprego ética no uso da IA dentro banca de advocacia, é fundamental ter supervisão humana para evitar que as tecnologias de IAGen cheguem a alguma conclusão que não correspondam à verdade, fenômeno chamado de “alucinação” da máquina. Portanto, o resultando precisa ser confiável para benefício do cliente e do processo.

Descubra como proteger seus dados na era da inteligência artificial!

O uso de IA Generativa em nada modifica as relações profissionais entre clientes e advogados porque estão bem alicerçadas na lei Federal 14.365/2022, que atualizou o Estatuto da Advocacia (lei 8.906/1994), mas é necessário ampliar o grau de transparência, explicar em detalhes, se necessário, como a tecnologia funciona para que o cliente afaste qualquer tipo de temor. Muitas vezes, ele confia na lei, nos advogados, mas guarda restrições às tecnologias que não conhece em profundidade.

Nessa proximidade cada vez maior entre a prática jurídica e as tecnologias de IAGen fica uma pergunta: os advogados devem ser especialistas em Inteligência Artificial ou trabalhar em parceria com especialistas em informática? Uma coisa é certa, os advogados serão fundamentais para treinar a ferramenta de IAGen e orientar os clientes e precisarão ter certo nível de conhecimento de informática para serem mais competitivos e entregarem aos clientes soluções  trazidas pelas tecnologias disruptivas.

1 Disponível aqui.

O post Por que o grau de confiabilidade na IA varia entre clientes jurídicos? apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

As conexões entre ESG e IA são um fato. As ferramentas de IA tornaram-se fundamentais para melhorar o desempenho das práticas ESG, realizando auditorias, aprimorando a análise de dados, para atingir um relatório mais preciso e com maior transparência, modelando previsões mais assertivas no futuro, melhorando a governança corporativa e cumprindo os requisitos de conformidade.

E o reverso também é possível? O ESG pode contribuir para forjar um arcabouço ético para a inteligência artificial, uma tecnologia de propósito geral, que impacta todas as demais e que está se disseminando rapidamente em todos os campos do conhecimento. É possível acrescer valores humanos e filosóficos (éticos) durante o design de um novo algoritmo?

LEIA TAMBÉM: Compliance fortalece o ESG no pilar G

Atualmente, a IA generativa já nos mostrou que temos todas as respostas, somente devemos saber fazer as perguntas certas, embora isso envolva um paradoxo. O escritor Luis Fernando Veríssimo foi muito feliz ao afirmar que “quando a gente acha que tem todas as respostas, vem a vida e muda todas as perguntas”.

Se a ciência gera conhecimento, a ética se volta ao bem-estar de todos os seres humanos, sendo que a aplicação do conhecimento científico, embora cognitivo na sua gênese, não está fora do alcance da imputabilidade moral.

Um exemplo pré-ESG e tecnologia é o caso do potente herbicida usado em lavouras que foi empregado pelos EUA na Guerra do Vietnã (1960-1975). O chamado “agente laranja”, um desfolhante jogado sobre as florestas para tornar o inimigo “visível”, resultando em danos ao meio ambiente e à saúde humana. É cancerígeno e causa comprometimento neurológico e imunológico.^[1]

A guerra acabou há quase 50 anos, mas ainda há vítimas entre a população vietnamita. Tais compostos químicos estão proibidos pelo mal que causam à vida. Esse argumento enseja que o cientista não pode estar voltado unicamente ao interesse intelectual de sua pesquisa e descoberta, o julgamento ético tem de ocupar um lugar neste contexto, sendo um agente biológico ou uma nova tecnologia.

A ética se tornou fundamental no direcionamento e uso da pesquisa científica envolvendo as tecnologias, porque as imputações morais no mundo da IA também são essenciais ao bem estar da humanidade. É de conhecimento público que há algoritmos que empregam métricas opacas gerando resultados prejudiciais a determinados grupos.

“Eles são opacos no sentido de que, se alguém recebe o resultado do algoritmo (a decisão de classificação), raramente tem qualquer noção concreta de como ou porque uma determinada classificação foi obtida a partir dos dados de entrada. Além disso, as próprias entradas podem ser totalmente desconhecidas ou conhecidas apenas parcialmente”.^[2]

VEJA MAIS: Auditorias ESG no enfrentamento do racismo

O aprendizado da máquina (machine learning) pode levar a resultados que nem os desenvolvedores conhecem, inclusive à discriminação algorítmica, reproduzindo preconceitos historicamente institucionalizados e prejudicando grupos socialmente minorizados. A opacidade dos sistemas algorítmicos é um desafio ético ainda a ser vencido.

Na avaliação acadêmica, a IA reúne três grandes segmentos éticos: privacidade, preconceito/discriminação e julgamento humano, que envolve uma camada filosófica. No treinamento do algoritmo, alguns pontos já são claros aos desenvolvedores de programas depois de episódios mal sucedidos.

Para o filósofo Michael Sandel, “a IA não apenas replica preconceitos humanos, mas confere a esses preconceitos uma espécie de credibilidade científica. Faz parecer que essas previsões e julgamentos têm um status objetivo”.^[3]

No sentido de mudar este cenário, pioneiramente, a Universidade Harvard está ensinando conceitos éticos aos estudantes de ciência da computação, cuja grande meta é levar o novo profissional a perguntar sobre as implicações éticas ao iniciar um novo projeto tecnológico, não depois de concluir o trabalho. É uma virada ética para toda uma geração.

O curso chamado Embedded EthiCS, traz a filosofia para ajudar a pensar a importância da ética no universo das tecnologias de IA. Nesse contexto, a ética deve ser empregada desde o início de um projeto.

O curso envolve temas como: a ética da privacidade eletrônica, engenharia de software moralmente responsável, Facebook, notícias falsas e ética da censura, sistemas de software comprovadamente éticos, design inclusivo e igualdade de oportunidades, máquina e tomada de decisão moral e sistemas robóticos e autônomos.

O aspecto ético do ESG pode agregar elementos às ferramentas de IA porque possuem um forte vínculo com os 17 Objetivos de Desenvolvimento Sustentável das Nações Unidas, que compreendem áreas críticas para a economia, o social e o ambiental, envolvendo empresas privadas e governos na busca de soluções criativas para as misérias e crises planetárias.

PODE INTERESSAR: Impactos da IA generativa no mundo jurídico

Os ODS funcionam como uma estrutura capaz de ancorar o compromisso das organizações com a concretização do desenvolvimento sustentável, dando suporte aos critérios ESG e direcionando seus esforços para um modelo de negócio responsável e conectado em escala global, sejam a comunidades ou ao meio ambiente. Há, implicitamente, uma responsabilidade moral nas metas fixadas, nos meios e fins.

Integrar práticas empresariais sustentáveis por meio de conexões entre os ODS e os compromissos empresariais (ESG) resulta em impactos positivos e mensuráveis, presentes nos esforços de criar taxonomias para medir o desempenho ambiental, social e de gestão das empresas.

Certamente, ainda há lacunas na conexão entre ESG e IA que podem resultar em pontes futuras. Os acadêmicos que se debruçam na interconexão ética e tecnologia, apontam dois elementos principais — deficiência na informação de dados e falta de transparência. Fatores ainda a ser superados.

A autonomia e a capacidade de tomar decisões críticas suscitam a necessidade de as tecnologias da IA Generativa seguirem princípios éticos, especialmente ao envolverem os direitos de privacidade dos titulares de dados e os seus direitos fundamentais.

Estamos lidando com uma tecnologia que, a princípio, se achava que iria apenas substituir ações repetitivas e viabilizar a automação, mas que hoje consegue trazer todo o conhecimento disponível no mundo, em minutos, sobre determinado tema para uma tomada de uma decisão estratégica.

Como poderia ser aplicada a ética do ESG à IA? Já tivemos algoritmos que, alimentados por determinados conjuntos de dados, como o PredPol, voltado a prever crimes, levou a polícia a ter como alvos bairros em que havia minorias raciais, nem sempre com altas taxas de criminalidade;

ou software de reconhecimento facial de vários empresas que não conseguiam identificar corretamente mulheres negras porque foram treinados com um conjunto de dados, onde a maioria era formada por homens brancos; ou algoritmos que registravam riscos mais elevados de inadimplência entre a população negra, que tinha menor acesso a crédito bancário.

No Brasil, o Ministério Público de São Paulo se manifestou favoravelmente a suspender um programa da prefeitura paulistana para instalar 20 mil câmeras de monitoramento e reconhecimento facial na capital, em tempo real, por risco de prática de racismo. A adoção de preceitos éticos poderá estipular o emprego de dados precisos para o modelo de aprendizagem automática da máquina e a escolha deverá ser mais equânime, reduzindo a discriminação algorítmica.

Pela relevância e universalidade das propostas que envolvem o ESG — como redução das emissões de carbono, limitação (ou eliminação) da produção de combustíveis fósseis (petróleo, carvão e gás), reflorestamento, justiça social, equidade racial, ambientes laborais livres de assédio moral e sexual, salários justos, rastreamento de cadeia de produção, governança voltada a valores éticos — poderá ser transformada em uma regulação vinculativa para servir de referência para as tecnologias de IA.

Há um compartilhamento ético entre todos os stakeholders, que se retroalimentam, no qual o bem comum predomina e a modelagem é vinculada à sustentabilidade. Os valores corporativos são forjados pela agenda ESG, que embora pareça extremamente nova, traz em si elementos que guiaram os seres humanos ao longo de sua história.

A visão da ética utilitarista do filósofo John Stuart Mill, ainda hoje pode ser aplicada à tecnologia. Segundo ela, uma ação é boa se gera bem-estar coletivo, preserva a liberdade individual e pode ser protegida pelo Princípio do Dano, ou seja, “o único propósito de se exercer legitimamente o poder sobre qualquer membro de uma comunidade civilizada, contra sua vontade, é evitar danos aos demais.”

Assim, as ações ensejadas por um indivíduo podem ter como impacto prejudicar muitos. Uma preocupação ética aplicável à tecnologia pelo seu poder massivo.^[4]

A partir desta visão, a ética pode estreitar a lacuna entre aqueles que desenvolvem tecnologias de IA, as empresas que professam o ESG e os stakeholders que convivem com as mudanças, buscando dar concretude a uma era tecnológica mais envolvida com elementos morais, mudando mentalidades.

Os cientistas e os desenvolvedores de IA estão moralmente comprometidos com os benefícios ou malefícios que a tecnologia possa trazer ao planeta, embora saibamos que a filosofia e os regramentos nem sempre consigam manter a IA no rumo da ética, do ESG e longe de todo e qualquer poder abusivo.

^[1] https://my.clevelandclinic.org/health/symptoms/24689-agent-orange-effects

^[2] https://journals.sagepub.com/doi/full/10.1177/2053951715622512#:~:text=They%20are%20opaque%20in%20the,unknown%20or%20known%20only%20partially.

^[3] https://news.harvard.edu/Gazette/

^[4] MILL, John Stuart. A Liberdade/Utilitarismo. São Paulo: Martins Fontes, 2000.

YUN KI LEE – Sócio da Lee, Brock, Camargo Advogados, mestre em Direito Econômico pela PUC-SP e professor de pós-graduação em Direito

O post ESG pode impulsionar a ética da IA? apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Ela poderá ser usada para criar conteúdo para sustentar sentenças judiciais? Normas dos Tribunais? Resoluções? Definir Recursos Repetitivos? Atos judiciais de toda a sorte? Temos uma única certeza: Os sistemas de IAG mudarão a forma de litigar que conhecemos atualmente.

Certamente, há um uso potencial para essas tecnologias no universo jurídico, mas até onde será possível seguir? A Thomson Reuters Institute1 realizou uma pesquisa nos EUA, Canadá e Reino Unido com escritórios de grande e médio porte sobre o uso da IA Generativa. Para os advogados daqueles países, a ferramenta é considerada útil para o universo jurídico e 3% dos entrevistados já a empregam, mas a maioria (60%) têm reservas quanto ao seu uso imediato. 

Outra parte significativa (35%) está ponderando se explora ou não a IAG. A pesquisa também apurou que 15% dos escritórios alertaram para o uso não autorizado e 6% proibiram o uso.

VEJA TAMBÉM: LBCA inova e cria Política de Uso Ético da IA Generativa

A tecnologia avança em velocidade superior à legislação, o que pode gerar conflitos, ajustes e remédios tardios, sendo que uma pergunta retórica permanece: A IA poderia ser usada para gerar conteúdo  capaz de embasar decisões judiciais? Apesar das incertezas, uma coisa é certa: essa tecnologia está mudando o modo como entendemos o processo jurídico.Muitos no universo jurídico veem potencial na IA Generativa, mas também expressam cautela quanto à privacidade e  precisão dos dados.

A Ética e a IA Generativa

O equilíbrio entre inovação e ética é essencial. No Brasil, tanto a Agência Nacional de Proteção de Dados (ANPD) como o Senado Federal têm discutido regulamentações para o uso da IA, buscando um modelo que garanta autonomia e direitos dos  titulares de dados. A Agência Nacional de Proteção de Dados (ANPD) divulgou a Nota Técnica 16 sobre o PL 2.338/23, em tramitação, que regulamenta o uso da IA no Brasil.

A agência defende a criação de um Conselho Consultivo, como previsto na LGPD, com abordagem centralizada, a exemplo da adotada pela União Europeia, além insistir independência técnica e autonomia administrativa da ANPD, alterando os dispositivos de 32 a 35 do PL.2

No plano do Judiciário, o Conselho Nacional de Justiça (CNJ) editou a Resolução 332, de 20204, sobre ética, transparência e governança da IA. Há, no âmbito do Judiciário um repositório nacional de IA, que já conta com mis 200 modelos depositados pelos tribunais. Em junho, o órgão anunciou alteração das regras do uso das tecnologias de IA no Judiciário.

A  resolução atual  limita o uso  quando o Poder Público não detém direitos autorais, mas o Departamento de Tecnologia da Informação do CNJ é favorável à ampliação do emprego dessas tecnologias.

Igualmente importante, é o estudo  coordenado pelo Ministro do Superior Tribunal de Justiça Luis Felipe Salomão e pela Juíza federal Caroline Somesom Tauak, realizado pelo Centro de Inovação, Administração e Pesquisa do Judiciário da FGV5 sobre o uso da IA nas cortes brasileiras , que já esta em sua terceira fase. 

A primeira aconteceu em 2020 e atingiu 47 tribunais; a segunda, em 2021,  abrangeu o número de ferramentas de IA e  a terceira, realizada no ano passado, aprofudou os processos de treinamento e funcionamento dos sistemas de IA no CNJ, STF, STJ, TST e TRF- 1.

A tecnologia, ao mesmo tempo que promete revolucionar, também traz desafios. Há casos em que a IA apresentou informações incorretas, o que evidencia a necessidade de supervisão humana constante.

VEJA TAMBÉM: Como separar o direito autoral humano dos “direitos” da IA generativa

O Cenário Internacional

Fora do Brasil, outros países também estão se adaptando. Nos EUA e no Canadá, por exemplo, regras estão sendo estabelecidas para o uso da IA. 

Tais regras exigem transparência no uso da tecnologia e conhecimento no campo jurídico, de todos os operadores do Direito. No Exterior, os tribunais têm estabelecido regras localizadas para uso da IAG.

No Canadá,  por exemplo, a  Corte da província de Manitoba especifica que :”existem preocupações legítimas sobre a confiabilidade e precisão das informações geradas a partir do uso de inteligência artificial. Para abordar estas preocupações, quando a inteligência artificial tiver sido usada na preparação dos conteúdos protocolados na Justiça, os materiais devem indicar como a inteligência artificial foi empregada”6.

Nos Estados Unidos também vem crescendo o regramento nos Estados para uso da IAG na Justiça. É o caso de Illinois7, que apresenta a seguinte normativa: “…qualquer parte usando qualquer ferramenta de IA generativa para conduzir pesquisa ou para redigir documentos junto a este tribunal deve divulgar esse emprego, com a divulgação, incluindo a ferramenta específica de IA e a maneira como ela foi usada”.

Portanto, é possível inferir que será exigido do advogado que conheça mais profundamente as novas tecnologias de IAG e mantenha obediência à legislação; assim como será cobrado dos magistrados competência tecnológica para analisar se a IAG foi empregada, se a considera adequada e se não houve comprometimento de dados confidenciais dos clientes no processo. Para esses dois atores da Justiça, a supervisão humana torna-se praticamente obrigatória. 

Sem dúvida, os sistemas de IA generativa auxiliarão os humanos no âmbito jurídico a tomar decisões mais assertivas sobre inúmeras práticas do Direito, como propriedade intelectual, segurança do consumidor, invasão de privacidade, calúnia, difamação, coleta de dados protegidos etc. No entanto, a supervisão humana é essencial para garantir a aplicação ética e eficiente das tecnologias de IAG.

Enquanto avançamos, é essencial que o diálogo público continue e que a integração internacional seja priorizada.

 A IA Generativa é uma realidade e cabe a nós determinar como ela moldará o futuro da Justiça.

1 https://www.thomsonreuters.com/en-us/posts/technology/chatgpt-generative-ai-law-firms-2023/

2 https://www.gov.br/anpd/pt-br/assuntos/noticias/Nota_Tecnica_16ANPDIA.pdf

3 www.ilnd.uscourts.gov/_assets/_documents/_forms/_judges/Fuentes/Standing%20Order%20For%20Civil%20Cases%20Before%20Judge%20Fuentes%20rev’d%205-31-23%20(002).pdf

4 https://www.aaronandpartners.com/news/mata-v-avianca-the-hidden-dangers-of-using-ai-for-legal-advice/ 

5 https://atos.cnj.jus.br/atos/detalhar/3429

4 https://ciapj.fgv.br/sites/ciapj.fgv.br/files/relatorio_ia_3a_edicao_0.pdf

6 https://www.manitobacourts.mb.ca/site/assets/files/2045/practice_direction_-_use_of_artificial_intelligence_in_court_submissions.pdf

7 www.ilnd.uscourts.gov/_assets/_documents/_forms/_judges/Fuentes/Standing%20Order%20For%20Civil%20Cases%20Before%20Judge%20Fuentes%20rev’d%205-31-23%20(002).pdf

O post Impactos da IA generativa no mundo jurídico apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Assim, no dia 20/9, realizou o evento “Imersão na Era da IA“, com a palestra inaugural proferida pela professora Dora Kaufman, da PUC-SP, quando a LBCA apresentou publicamente suas Políticas Gerais de Uso de IAG, em um evento que reuniu convidados e todos os mais de 800 integrantes do escritório.

“Nós expusemos à equipe todas as regras de uso responsável e ético da IAG na LBCA, que foram exaustivamente discutidas durante várias semanas, seguindo o que há de mais avançado no mundo sobre o assunto. 

LEIA MAIS: Como separar o direito autoral humano dos “direitos” da IA generativa

Nós treinamos nossos profissionais sobre a importância de proteger dados pessoais e informações confidenciais, além de adotar as melhores práticas, evitando riscos à privacidade e segurança de dados no uso dessa tecnologia. Para a LBCA, é fundamental esclarecer nossos profissionais, parceiros e clientes“, afirma o sócio da LBCA, Solano de Camargo.

A LBCA conta com mais de 40 iniciativas de integração de suas ferramentas internas com diferentes iniciativas de IAG, nas mais diversas áreas, como recuperação de crédito, criação de dashboards, infográficos e apresentações e na área de LegalOps, além da otimização de fluxos internos e relatórios de produtividade.

Solano reforça que a IAG será empregada pelo escritório apenas para fins lícitos e benéficos, com base em 3 pontos fundamentais – treinamento dos modelos de IA a partir de dados acurados para evitar vieses de discriminação; uso transparente para que as partes interessadas fiquem sempre bem-informadas sobre o uso dessa tecnologia; e, por fim, jamais utilizar a IAG em substituição ao julgamento humano nas decisões críticas.

O escritório também está inserindo cláusulas nos contratos com fornecedores e parceiros, para que sigam os mesmos preceitos e permitam auditorias periódicas da LBCA para atestar que estão em conformidade com esses princípios, que passam a compor o código de governança do escritório.

LEIA MAIS: Regulação chinesa para sistemas generativos de IA pode influenciar o ocidente?

Para Solano, essa linha de atuação ajudará a LBCA a prevenir riscos potenciais da IAG, evitando a criação de deepfakes (vídeo ou áudios falsos), perda de dados pessoais ou eventuais vieses discriminatórios.

“Para consolidar essa postura, a LBCA tem realizado treinamentos periódicos com as equipes sobre ética no uso da IA, tendo instalado um comitê interno para monitorar e atualizar nossas políticas internas e assumindo o compromisso de publicar anualmente um relatório de transparência sobre o uso de IAG“, explica Solano.

Solano de Camargo durante evento “Imersão na Era da IA“, realizado dia 20/9.(Imagem: Divulgação)

O emprego da IAG dentro da LBCA seguirá um regramento composto por 16 regras gerais, que abrangem:

1. Proteção de dados pessoais e informações confidenciais;

2.Precisão e Supervisão na prática jurídica;

3.Transparência com os clientes;

4.Gestão de fornecedores de IA; 

5.Segurança e Proteção das Ferramentas de IAG;

6.Proteção da Propriedade Intelectual no âmbito das tecnologias de IAG;

7.Relacionamento Advogado-Cliente e sigilo profissional;

8.Responsabilidade e Prestação de Contas;

9.Integração com Outras Políticas de proteção de dados;

10.Monitoramento dos vieses da IA para evitar preconceitos;

11.Uso das melhores práticas de implementação;

12. Governança e supervisão;

13.Pesquisa e colaboração externa;

14.Monitoramento e responsabilidade;

15.Engajamento externo;

e 16.Metas de Longo Prazo,  sempre lastreadas por princípios éticos.

Mais informações, clique aqui.

O post LBCA inova e cria Política de Uso Ético da IA Generativa apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.