O primeiro mecanismo estabelecido pela ordem é a exigência de due diligence prévia à contratação. Antes de firmar qualquer contrato com o estado, as empresas de IA deverão apresentar e justificar suas políticas internas de segurança e privacidade. O escopo dessa análise é amplo e abrange temas de elevada sensibilidade jurídica: prevenção à disseminação de material de abuso sexual infantil, proteção contra vigilância algorítmica de indivíduos e mitigação de vieses sistêmicos nos modelos utilizados. Trata-se, em essência, de uma condicionalidade administrativa incorporada ao ciclo de contratação pública como condição de habilitação — o que Julie Cohen, em Between Truth and Power: The Legal Constructions of Informational Capitalism (2019), identificaria como uma das formas pelas quais o direito reconstrói ativamente as condições estruturais do capitalismo informacional, impondo ao mercado os limites que ele não se autorregula. A ordem executiva californiana opera precisamente nessa fratura: usa o contrato público para juridicizar escolhas arquitetônicas que, de outro modo, permaneceriam invisíveis à regulação formal.

Confira na íntegra: https://www.migalhas.com.br/coluna/ia-em-movimento/453305/a-ordem-executiva-da-california-sobre-ia

O post A ordem executiva da Califórnia sobre IA: Mecanismos jurídicos e implicações regulatórias apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

A Inteligência Artificial Generativa (IAGen) vem impactando o mundo jurídico de forma transformadora como em outros segmentos. Tanto, que pesquisa da Goldman Sachs de 20231,  sob o título “Os efeitos potencialmente grandes da inteligência artificial sobre o crescimento econômico” aponta que 44% das tarefas realizadas em escritórios de advocacia podem ser automatizadas.

LEIA TAMBÉM: ESG pode impulsionar a ética da IA?

A IA Generativa está cada vez mais presente nas decisões processuais e nas oportunidades que se abrem para a advocacia e outras áreas do direito. A partir do uso de chatbots de IA, como o ChatGPT, Google Bard, Bing Chat, Perplexity, Replika e similares (LLMs), com capacidade de produzir conteúdos semelhantes aos elaborados por humanos, a resistência ao seu uso nas práticas jurídicas vem sendo quebrada.

A versatilidade e qualidade dos textos torna os riscos – como a chamada alucinação ou conteúdo incorreto da IA –  relativizados diante das inúmeras vantagens.

É através das facilidades trazidas pela IAGen que os advogados podem abrir mão de tarefas repetitivas para as máquinas, passando mais tempo na solução estratégica dos problemas dos clientes. Um grande volume de dados (documentos), por exemplo, pode ser organizado, indexado e gerido rapidamente pela IA, com grande precisão. A plataforma pode, inclusive, apontar a ausência de documentos que seriam importantes para a causa.

Quanto tempo se economizou nesse processo? Certamente, foram meses de trabalho humano, poupou-se além do tempo, muitos recursos. Paralelamente, os modelos de algoritmos treinados no aprendizado da máquina com dados jurídicos específicos podem apontar caminhos e cruzá-los em consonância com a legislação, a jurisprudência, a doutrina e até decisões de determinados tribunais, turmas e magistrados.

Por meio da  IA Generativa podemos usar os “prompts “ou perguntas que ajudam a encontrar uma solução, reforçando a frase de Lévi-Strauss: “o cientista não é o homem que fornece as verdadeiras respostas; é quem faz as verdadeiras perguntas”. Quem já utilizou uma ferramenta de processamento de linguagem natural (LLM) de IA saber que o mais importante é fazer a pergunta certa para ter acesso aos insights gerados pelos grandes conjuntos de dados de entrada.

VEJA MAIS: Impactos da IA generativa no mundo jurídico

Também é possível utilizar o acesso a uma base de dados (big data) e algoritmos (aprendizado da máquina) para chegar às análises preditivas, que conseguem estabelecer a probabilidade de resultados futuros e seus impactos. Isso aumenta as chances de vitória em processos judiciais ao analisar as informações disponíveis, antecipando possíveis resultados.

Se quisermos fazer um paralelo podemos comparar, a grosso modo, a análise preditiva a um modelo estatístico, com várias etapas começando pela definição do objetivo (sucesso no conflito apresentado pelo cliente), depois coleta, análise de dados e modulação de resultados, empregando técnicas como regressão linear, séries temporais, árvores de classificação, dentre outras.

As correlações que a IA Generativa realiza em grandes conjuntos de dados acabam por desvendar conhecimentos que não eram conhecidos. É o caso, por exemplo, de sistemas de alerta climático precoce, que nada tem a ver com o mundo jurídico, mas que ajuda a antecipar riscos, principalmente nestes tempos de mudanças climáticas, possibilitando o envio de alertas, que  salvam milhões de vidas.

Duas questões estão ligadas ao uso de IA pelos escritórios de advocacia e interação com os clientes: ética e supervisão das máquinas. É fundamental informar aos clientes que o escritório utiliza ferramentas de tecnologia IAGen para que possa atender com mais acurácia e rapidez as demandas. Tornou-se fundamental explicar detalhadamente como isso se dará ao cliente e assegurar confidencialidade dos dados e prevenção quanto a diferentes tipos de riscos, como possíveis ataques cibernéticos.

O emprego de dados de clientes, quando utilizados para treinar a Inteligência Artificial somente serão realizados em ambientes seguros para evitar vazamento ou uso indevido. A segurança no manuseio dos dados dos clientes deve ser uma das principais preocupações para os escritórios de advocacia.

Além da transparência e do emprego ética no uso da IA dentro banca de advocacia, é fundamental ter supervisão humana para evitar que as tecnologias de IAGen cheguem a alguma conclusão que não correspondam à verdade, fenômeno chamado de “alucinação” da máquina. Portanto, o resultando precisa ser confiável para benefício do cliente e do processo.

Descubra como proteger seus dados na era da inteligência artificial!

O uso de IA Generativa em nada modifica as relações profissionais entre clientes e advogados porque estão bem alicerçadas na lei Federal 14.365/2022, que atualizou o Estatuto da Advocacia (lei 8.906/1994), mas é necessário ampliar o grau de transparência, explicar em detalhes, se necessário, como a tecnologia funciona para que o cliente afaste qualquer tipo de temor. Muitas vezes, ele confia na lei, nos advogados, mas guarda restrições às tecnologias que não conhece em profundidade.

Nessa proximidade cada vez maior entre a prática jurídica e as tecnologias de IAGen fica uma pergunta: os advogados devem ser especialistas em Inteligência Artificial ou trabalhar em parceria com especialistas em informática? Uma coisa é certa, os advogados serão fundamentais para treinar a ferramenta de IAGen e orientar os clientes e precisarão ter certo nível de conhecimento de informática para serem mais competitivos e entregarem aos clientes soluções  trazidas pelas tecnologias disruptivas.

1 Disponível aqui.

O post Por que o grau de confiabilidade na IA varia entre clientes jurídicos? apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

A ABA analisa o uso ampliado dessa nova tecnologia e as questões éticas envolvendo soluções de Inteligência Artificial (IA), principalmente diante do barateamento do custo de armazenamento de dados, que caiu de US$ 12,4 por GB para US$ 0,004 por GB, tornando-se, portanto, mais acessível. Uma pesquisa da Zion Market Research aponta que o mercado global de IA jurídica crescerá 35,9% até 2026 e estamos falando de bilhões de dólares.

A pesquisa jurídica e de gestão de processos foram os primeiros e mais intensos usos da tecnologia de IA na rotina do advogado, porque se tornaram mais abrangentes, rápidos e precisos do que os realizados por advogados ou bacharéis.

Também já está disponível no mercado uma série de softwares que pesquisam jurisprudências e legislações específicas, sugerindo medidas judiciais e ajudando na redação de peças jurídicas para obter resultados positivos nos tribunais. A tecnologia de IA ainda pode fazer uma análise preditiva, ao avaliar as decisões que determinado magistrado tomou ao longo do exercício profissional, dando o percentual dele decidir sobre determinada forma.

Qual o futuro dos advogados frente à IA, segundo a ABA? De acordo com a Ordem americana, há 4 funções que a IA não pode oferecer: julgamento, empatia, criatividade e adaptabilidade.

Em nível mais reduzido, os advogados já exercem essas habilidades (skills), mas somente a primeira têm relação direta com que se aprende nos cursos jurídicos tradicionais. Essas habilidades expõem o nível de mudança que a advocacia deve sofrer nos próximos anos e décadas.

Até o momento, as habilidades técnicas eram fundamentais para uma profissão, agora as habilidades sociais vêm ganhando primazia porque as relações interpessoais são fundamentais no mundo corporativo. A empatia, por exemplo, é a capacidade de compreender e compartilhar a perspectiva de outra pessoa, se colocar no lugar dela, e indicar que ela foi compreendida e acolhida.

Em parte, o advogado já cultiva essa habilidade de forma intuitiva porque ele já escuta o cliente e compartilha seu problema, seu conflito, sem julgamentos. Há uma preocupação legítima em resolver determinado problema, sendo capaz de comunicar seu comprometimento ao outro, com percepção e sensibilidade.

A tecnologia tem levado os advogados a cultivaram a criatividade, que podemos conceituar como sendo o primeiro estágio de um processo de solução. A etimologia da palavra deriva do grego krainein, que significa realizar.

Pode ser explicada também como a possibilidade de fomentar novas ideias, experimentação, ser fonte de soluções, enfim se tornou um valor para o mundo corporativo como um todo, que teria segundo Rossmann (1931) uma sequência de sete estágios – observação do problema ou oportunidade, análise, busca das informações, formulação de possíveis soluções, vantagens e desvantagens, a nova ideia e experimentação.2

A outra soft skill que o novo advogado precisará desenvolver é a adaptabilidade, ou seja, a possibilidade de saber lidar com situações novas e adversas e demonstrar flexibilidade para enfrentar as mudanças e abrir novas oportunidades. Tornou-se fundamental cultivar a autoconfiança para vencer as mudanças do mercado e da profissão.

Diante do vácuo tecnológico na maioria dos currículos dos cursos jurídicos, o treinamento dos novos profissionais terá de ser propiciado pelos escritórios de advocacia. Atualmente, a American Bar Association está incluindo o dever de competência tecnológica e dever ético diante do uso de soluções de IA como essenciais às novas gerações de profissionais.

A ABA coloca uma questão ética fundamental para o advogado diante do cliente à medida que deve ter expertise suficiente para entender o uso, riscos e explicar ao cliente a aplicação da solução de IA em seu processo. O advogado também terá de responder a autoridades reguladoras, que observarão se estão sendo estabelecidos padrões de conformidade para todos os provedores de serviços jurídicos que utilizem IA.

Esse tema ainda é insípido no Brasil e a ABA aponta que vem acontecendo várias joint ventures entre escritórios de advocacia e provedores de solução de IA.

Nesse sentido a entidade americana faz um alerta porque teme que, no futuro, os serviços jurídicos não sejam mais prestados por advogados, porque todos querem soluções eficientes, rápidas e a baixo custo, fazendo crescer  a pressão sobre os escritórios de advocacia e seu modelo de atuação profissional.

1 Disponível aqui.

2 Disponível em ROSSMANN, J. The psychology of the inventor. Washington, DC: Inventor’s Publishing,1931.

O post Pressão da tecnologia sobre o futuro da advocacia apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Como bem aponta Luciano Floridi, no recente artigo “The end of an era: from self-regulation to hard law for the digital industry”, bem como na insuficiência e ineficácia de princípios éticos além de poderem propiciar a denominada “lavagem ética”.

A regulamentação jurídica é um importante passo no sentido, pois de contribuir para a necessária segurança jurídica, o que é um fator de decisão para investimentos no país, contribuindo para o desenvolvimento tecnológico, e no sentido de transformar princípios éticos em determinações cogentes e concretas (University of Harvard, Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI).

Contudo, o PL tem sido objeto de diversas críticas, diante de algumas falhas e omissões, imprecisões técnicas, ausência de obrigações substantivas e processuais, ausência de parâmetros mínimos de procedimentalização e previsão de instrumentos de governança algorítmica.

Houve um curto período de tempo para contribuições por parte da sociedade civil, ao contrário, por exemplo, do Marco Civil da Internet, Lei 12.965/2014, o qual contou com um período bem mais extenso de discussão democrática e inclusiva, sendo essencial um amplo período de debate envolvendo diversos grupos da sociedade civil, trazendo ao diálogo os grupos vulneráveis.

O artigo 6º do PL traz uma abordagem equivalente à previsão da LGPD em seus artigos 10, § 3º e artigo 20, § 1º e § 2º, prevendo a “garantia de transparência sobre o uso e funcionamento dos sistemas de inteligência artificial e de divulgação responsável do conhecimento de inteligência artificial, observados os segredos comercial e industrial, e de conscientização das partes interessadas sobre suas interações com os sistemas, inclusive no local de trabalho”.

Como equilibrar via ponderação a necessária observância do segredo industrial e comercial que envolve os programas de computador e os algoritmos de IA, a proteção via propriedade intelectual, com os demais direitos fundamentais envolvidos e em colisão?

Ao se analisar de forma literal e gramatical as disposições da LGPD (artigos 10, § 3º e artigo 20, § 1º e § 2º) e do PL 21/20 (art. 6) pode-se chegar à equivocada conclusão de que o segredo industrial/comercial sempre irá prevalecer, mesmo diante de casos de colisão com direitos fundamentais, devendo também ser analisados os princípios da transparência e da explicabilidade.

É importante se optar por uma abordagem sistêmica, e funcional, e à luz da teoria dos Direitos Fundamentais, ao invés de uma interpretação literal e gramatical, analisando-se todos os direitos fundamentais em colisão e a melhor forma de respeito mútuo e compatibilidade, sem que jamais se fira o conteúdo essencial de qualquer direito fundamental a ponto de aniquilar o mesmo.

Como observar o princípio da explicabilidade, e tornar efetivos os direitos à explicação e à revisão de uma decisão automatizada, sem acesso aos parâmetros da tomada de decisão, sendo em alguns casos necessária a quebra do código fonte, a fim de melhor compreender os aspectos da decisão, envolvendo, pois, os aspectos da acessibilidade e compreensibilidade?

No recente livro “The rise of big data policing: surveillance, race, and the future of law enforcement”, Andrew Guthrie Ferguson aponta para algumas perguntas que deveriam pautar a utilização de algoritmos.

É possível defender os inputs do sistema (acurácia dos dados e idoneidade da metodologia)? É possível defender os outputs do sistema e como eles impactarão as políticas em prática e as relações comunitárias? É possível testar a tecnologia, oferecendo accountability e alguma medida de transparência?

É fundamental uma análise crítica e interdisciplinar acerca de tais questões de forma a equilibrar a inovação e a responsabilidade, contribuindo por um lado para o desenvolvimento da tecnologia e de investimentos no país, e de outro lado, com o necessário respeito aos direitos fundamentais.

Segundo Wolfgang Hoffmann-Riem, a proteção adequada no caso em questão poderia ser possibilitada pela introdução nos tribunais dos denominados procedimentos sigilosos.

As empresas são obrigadas a revelar ao tribunal os algoritmos, em particular algoritmos que podem ser utilizados para pôr em perigo a liberdade, divulgando as máximas e os critérios em que se baseiam, a informação utilizada como input e, no caso dos sistemas de aprendizagem, as regras de formação utilizadas, se necessário também o tipo de utilização da análise de Big Data.

Tais informações não deverão tornar-se públicas, limitando seu acesso ao órgão julgador, sendo inacessíveis até mesmo às partes no processo.

A fim de se alcançar um sistema de proteção proativo, abrangente e sistemicamente seguro, uma proteção sistêmica, destaca-se cada vez mais a proteção desde a concepção tecnológica (protection by design), envolvendo a criação de arquiteturas de decisão adequadas à proteção com o auxílio da concepção e de ferramentas tecnológicas, como forma de se implementar a segurança (security by design), falando-se em transparência do design tecnológico, mais ampla do que apenas transparência na coleta e tratamento de dados pessoais, abrangendo a transparência do design tecnológico (o projeto técnico) e dos algoritmos utilizados. No entanto, como bem aponta Wolfgang Hoffmann-Riem, a proteção dos segredos comerciais é contrária ao dever de divulgação.

Bruno Bioni afirma que “a explicação seria uma ferramenta de accountability de IA ao expor a lógica da decisão, devendo permitir ao observador determinar a extensão em que um input particular foi determinante ou influenciou um resultado. Entretanto os segredos comercial e industrial constituem objeções à transparência”.

Importante julgado conhecido como caso “Schufa”, da lavra do Tribunal Federal de Justiça da Alemanha reconheceu, em princípio, a proteção ao segredo comercial em uma decisão sobre a pontuação do SCHUFA, envolvendo a classificação de crédito, sem levar em consideração que a proteção de segredos oficiais/industriais, não constitui um fim em si mesmo, mas exige igualmente uma coordenação com a proteção de pessoas e de interesses jurídicos diversos.

Wolfgang Hoffmann Riem afirma que referida decisão não cumpriria com os requisitos do Capítulo III RGPD/GDPR. Pontua, todavia, que a divulgação do design tecnológico e dos sistemas algorítmicos utilizados iria, por outro lado, interferir demasiado com a autonomia das empresas e afetar os seus legítimos interesses, permitindo o acesso dos algoritmos pelos concorrentes.

A quebra do segredo industrial seria justificada no caso de direitos fundamentais, em especial para evitar discriminação, estigmatização e manipulação, ou diante de outro interesse legítimo na divulgação equivalente à proteção de um segredo comercial.

O direito à informação, previsto no art. 6º, VI da LGPD compreenderia o acesso e esclarecimento quanto aos aspectos principais e a lógica da decisão algorítmica – e, especialmente os critérios de decisão -, de modo a ter, em princípio, a preservação do segredo de empresa, já que não seria necessário revelar o código fonte do algoritmo, mas os aspectos mais relevantes da decisão algorítmica.

Contudo, em alguns casos concretos talvez seja necessário o acesso ao código fonte, sendo certo que até mesmo a Lei de Propriedade Industrial abre exceções ao segredo comercial no caso de ações judiciais, desde que respeitado o segredo de justiça.

Entendemos, no entanto, que deverá ser analisado o caso concreto mediante o procedimento de ponderação e aplicação da proporcionalidade (art. 206, da LPI), já que nem sempre no Brasil o segredo de justiça é respeitado, analisando-se a realidade sociocultural do país, de modo a não inviabilizar a atividade econômica, nem tampouco afrontar aos demais direitos fundamentais em colisão.

Mutatis mutandis, o princípio da proporcionalidade vem sendo aplicado em tais casos, encontrando previsão na jurisprudência internacional e em documentos legislativos relacionados à proteção de dados e ao big data, estando tais temáticas intimamente relacionadas com a IA, como pode se observar do art. 8º da Carta de Direitos Fundamentais da União Europeia, de 07.12.2000, do Regulamento Europeu de Proteção de Dados – GDPR 2016/679 do Parlamento Europeu e do Conselho Europeu, revogando a Diretiva 95/46/CE, em seu item 1 e 4, bem como do documento “Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial” da Agência Espanhola de Proteção De Dados (AEPD) de 02/2020, e da Resolução 1-2020 da Comissão Interamericana de Direitos Humanos (CIDH) denominada “Pandemia y derechos humanos em las Américas” de 10/04/2020, item 21.

O Conselho da União Europeia apresentou no final do ano passado a primeira versão de um projeto para regulação horizontal da Inteligência Artificial.

Com requisitos mínimos, fundada em dois argumentos principais, que considera falhas de mercado no sentido de buscar uma aceitação mais ampla da  tecnologia de IA, a falta de transparência para sua  aplicação voltada a corporações, sistemas públicos e usuários , a chamada assimetria de informações, e riscos de segurança que essa tecnologia poderia trazer no contexto de seu uso, sendo que tanto pode apresentar efeitos  não intencionais, como podem ter fins maliciosos.

Na verdade, a preocupação da Europa está focada nas chamadas aplicações de alto risco da IA, sendo que as empresas sediadas fora da UE estarão sujeitas à regulamentação e valores europeus, quando fornecerem tecnologia de IA para seus cidadãos. Não se sabe, porém,  se a União Europeia terá força para impor um padrão global na regulação da IA, o que poderá definir o futuro dessa tecnologia.

Por derradeiro, cumpre lembrar a relação da proporcionalidade com a fórmula jurídica e política do Estado Democrático de Direito, o qual depende de procedimentos, especialmente os judiciais, para que se dê sua realização, sendo a proporcionalidade de se considerar um desses procedimentos, merecedor de todo destaque.

Isto porque a proporcionalidade encontra íntima relação com a ideia de procedimentalização do Direito, legitimidade do direito pelo procedimento, judicialização do ordenamento jurídico (espaço público para discussão, amplo debate, publicidade, e isonomia) (Luhmann, Habermas, R. Wiethölter e John Rawls).

Neste sentido, pode-se interpretar a falta de fundamentação por parte da crítica à ponderação, no sentido de não ter qualquer vínculo com procedimentos, e não oferecer a dinamicidade necessária para a resolução de conflitos em nossa sociedade altamente especializada e amparada em uma crescente complexidade e majoração frenética da aceleração do tempo.

É antes, muito pelo contrário, ela que permite, em face de tal complexidade aceleração temporal, produzir a necessária escansão temporal para o confronto das diversas posições, assim permitindo atingir a solução que melhor compatibilize os princípios e direitos fundamentais em colisão, sem cancelar nenhum, a título de ponderação, pois todos remetem, em última instância, à dignidade humana.

O post Governança de algoritmos e marco legal da IA no Brasil apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.