Neste ano, o CNJ divulgou o relatório sobre o “O Uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro” ¹, sem a perspectiva de ser um guia orientador. O propósito, de acordo com o sumário executivo, foi constatar que os “riscos de erros, opacidade, discriminação, violações à privacidade e à proteção de dados, impactos sobre o trabalho e o meio ambiente, não são suficientes para lidar com os desafios trazidos pelo desenvolvimento e pelo emprego de IAGs, o que justifica a revisão de políticas de governança nos tribunais e da regulamentação vigente do CNJ”. O relatório traz como destaque pesquisa realizada com magistrados e servidores sobre como avaliam o uso das ferramentas tecnológicas de IA Gen. A maioria dos respondentes aponta a pesquisa jurisprudencial como sendo seu principal uso, preterindo outros, como predição de decisões, elaboração de minutas de documentos etc.  As dificuldades para ampliar o uso da IA Gen no Judiciário brasileiro está ligada à   necessidade de treinamento, falta de confiança e de regulamentação, dentre outras. Nesta esfera de uso tecnológico, o CNJ promulgou a resolução 332/20 e a portaria 271/20 sobre o uso da IA na prática judicial.

VEJA MAIS: O que é a IA Generativa

Embora o Brasil seja cauteloso quanto ao uso da IA Gen na justiça, crescem os exemplos de países que estão traçando uma linha de orientação sobre o uso do IA no Judiciário, ajudando a afastar possíveis temores. Entre os países que já definiram diretrizes sobre o uso do IA Generativa no segmento jurídico estão Cingapura² e a Nova Zelândia³.

Editado em outubro deste ano, o guia da Suprema Corte de Cingapura atinge todos os tribunais e instância daquele país. O documento destaca que os usuários do Tribunal serão responsáveis por qualquer conteúdo gerado por IA Gen, a não ser nos casos de ser solicitado pelo tribunal. Os operadores do direito devem levar em conta se o documento é preciso, relevante e se não viola direitos autorais. O usuário também pode ser solicitado a revelar ao tribunal se usou IA Gen para preparar os documentos legais, fazer uma declaração de conformidade com as diretrizes e declaração juramentada.

Já na Nova Zelândia, as diretrizes são detalhadas e orientam juízes, oficiais de justiça, membros de tribunais e advogados. Inicialmente, faz um alerta sobre as limitações da tecnologia de IA Gen, lembrando que não são motores de busca, mas geram um algoritmo baseado nas solicitações (prompts) e que a resposta será a combinação mais provável diante dos dados em que foram treinados: Os chatbots da AI Gen atualmente disponíveis parecem ter tido acesso limitado a dados de formação sobre a legislação da Nova Zelândia ou sobre os requisitos processuais aplicáveis ??nos tribunais da Nova Zelândia. ” A qualidade de quaisquer respostas que você receber dependerá de como o chatbot GenAI foi treinado, da confiabilidade dos dados de treinamento e de como você interage com o chatbot GenAI relevante, incluindo a ‘qualidade’ das solicitações inseridas.   Mesmo com as melhores sugestões, o resultado pode ser impreciso, incompleto, enganoso ou tendencioso”, alerta o guia.

As orientações para os operadores jurídicos na Nova Zelândia, ainda incluem as melhores práticas de segurança para uso nos tribunais, ressaltando que devem privilegiar dispositivos de trabalho e não pessoais para acesso a sistemas de IA Gen. Há ressalvas para advogados, que devem ter “obrigação profissional de garantir que qualquer material que apresente ao tribunal (independentemente de como é gerado) seja preciso”, especialmente pesquisas e citações geradas pela IA Gen.

Se Cingapura tem diretrizes neutras diante do uso da IA Gen no Judiciário, Estados norte-americanos, como a Califórnia, consideram essa tecnologia uma prioridade para justiça e divulgaram um FAQ (perguntas e respostas) para alinhar o debate. De acordo com o setor responsável pelos esforços da implantação da IA na justiça californiana, o jurisdicionado pode ser beneficiado, a despeito dos riscos: “Teremos que abordar os riscos da IA ??generativa para preservar a confiança e a credibilidade do público. Os dados usados ??pela IA não são imaculados – eles incluem preconceitos baseados em gênero, etnia, política e valores. Também há riscos em torno da transparência e da responsabilização. Até mesmo os engenheiros que desenvolvem modelos de IA dizem que não têm muita certeza de como eles funcionam. Isso é preocupante porque o poder judiciário deve ser responsável e transparente”.  O próximo passo do Judiciário da Califórnia é criar diretrizes sobre questões éticas geradas pela IA Gen.

Não é apenas a justiça da Califórnia que faz perguntas e busca respostas para a interface dos sistemas de IA na esfera legal. Toda geração Geek sabe que mais importante do que a resposta é a pergunta e isso fica claro no livro “clássico” dos geeks: “O Guia dos Mochileiros da Galáxias”, no qual seres pandimensionais perguntam a um megacomputador “Qual o sentido da vida, do universo e de tudo?”. E o computador responde que levaria 7,5 milhões de anos para calcular a resposta. No prazo previsto, a população retorna para receber a resposta, que foi simplesmente “42”. A resposta desaponta, é considerada insuficiente, questionada e o sistema retruca que o erro estava na pergunta inadequada. Será que já temos a pergunta certa sobre como a IA Gen pode ajudar a justiça planetária a ser mais eficiente ou ainda buscamos por ela?

LEIA MAIS: IA generativa como elemento de justiça social

Há também casos isolados de uso da IA Gen que impulsionam seu uso no sistema judiciário. É o caso do   juiz colombino, Juan Manuel Padilha, que admitiu ter usado o ChatGPT para tomar sua decisão sobre se o seguro de uma criança autista deveria cobrir todo o tratamento médico, uma vez que os pais da criança não tinham condições econômicas. Uma das respostas do Chatbot foi “que segundo as leis colombianas menores de idades com autismo estão isentos de pagar por suas terapias”. O juiz argumentou que ao fazer perguntas para o ChatGPT, não deixou de ser juiz. Surgiram muitas críticas, mas houve apoio do Supremo Tribunal da Colômbia no sentido de que a tecnologia pode ser um instrumento capaz de auxiliar um magistrado a julgar melhor, sem esquecer que o administrador da justiça, ao final, deve ser sempre um ser humano.

Decisões institucionais e pessoais estão auxiliando a construir uma resposta para as tecnologias de IA Gen no Judiciário. Sem dúvida, várias questões devem ser colocadas na balança, como a confiança no sistema, nível de vieses dos grandes sistemas de linguagem e que impactos podem gerar na rotina das cortes e nos direitos do jurisdicionado, sendo que o uso responsável por parte dos operadores do direito constitui um peso fundamental para a gestão ética e transparente da IA Gen dentro do processo legal.

Fabio Rivelli – Sócio da Lee, Brock, Camargo Advogados (LBCA). Doutorando e mestre em Direito pela PUC-SP e MBA pelo Insper.

Ricardo Freitas – Sócio da Lee, Brock, Camargo Advogados. Doutor e Mestre em Direito pelo IDP.

O post IA em movimento: em busca da governança ideal para a IA generativa no sistema de justiça apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Embora as indagações se proliferem, as respostas rareiam. O desenvolvimento e a implementação desses instrumentos tornaram-se imperativos para as empresas, as quais, com justificável discernimento, vislumbram tal avanço como um ponto de inflexão inevitável. Contudo, tal desiderato demanda a instituição de um arcabouço de governança no qual as soluções para tais inúmeras questões sejam abordadas de maneira eficaz.

A realidade inegável é que a IA estabeleceu-se como um fator inescapável da sociedade e da economia e tem um vasto potencial para revolucionar indústrias e a vida cotidiana. No entanto, preocupações persistem em relação aos seus potenciais impactos negativos, especialmente em áreas como IA generativa e grandes modelos de linguagem (LLMs), exemplificados pelo Gemini e ChatGPT. Essas tecnologias levantam questões éticas e legais complexas, especialmente relacionadas à propriedade e direitos de propriedade intelectual.

A determinação da titularidade de conteúdo gerado por inteligência artificial apresenta um desafio substancial. Em um caso paradigmático sobre o assunto, Thaler v. Vidal 1 , o Tribunal de Apelações dos Estados Unidos (United States Court of Appeals for the Federal Circuit) deliberou que a inteligência artificial não pode ser reconhecida como inventora em uma patente, uma vez que os inventores devem ser pessoas naturais. Ademais, empresas como a OpenAI, provedora do ChatGPT, estabelecem em suas políticas que não reivindicam a propriedade do output do programa, ressaltando a distinção entre criadores humanos e de inteligência artificial.

Questões de violação de direitos autorais e plágio complicam ainda mais as questões. A capacidade da IA de produzir conteúdo semelhante à saída humana confunde as linhas de propriedade e originalidade. Disputas legais surgem sobre se obras geradas por IA devem estar sujeitas às mesmas proteções que as criadas por humanos.

No Brasil, o requisito fundamental para a proteção dos direitos autorais é que ela seja considerada uma “obra” nos termos do artigo 7º da Lei nº 9.610/98 2 , elaborada por pessoa física criadora de obra literária, artística ou científica, conforme definido pelo artigo 11 da mesma lei. Uma  “obra” deve, portanto, ser compreendida como uma criação intelectual de natureza pessoal, sendo que essa criação apenas se configura como “pessoal”; se resultar de atividade humana criativa.

VEJA TAMBÉM: Combatendo deepfakes: Desafios de gênero na regulação contra a Violência Digital

Isso é especialmente relevante quando se trata dos diversos tipos de resultados produzidos por sistemas de IA: se a IA em si mesma gera o resultado sujeito a avaliação sob os direitos autorais de tal maneira que todas as decisões essenciais de design são tomadas pela IA, tal

resultado geralmente não se enquadra na proteção dos direitos autorais. O resultado é originado pela IA e não por um ser humano, portanto, o critério de “criação intelectual pessoal” não é satisfeito.

O mesmo conceito de obra como resultado de atividade pessoal na concepção e realização da obra é adotado, por exemplo, pela legislação alemã, conforme definido pela Lei sobre Direitos Autorais e Direitos Conexos (Gesetz über Urheberrecht und verwandte Schutzrechte), em sua Seção 2, § 2º 3 :

(1) As obras protegidas de literatura, ciência e arte incluem, em particular:

1. Trabalhos linguísticos, como trabalhos escritos, discursos e programas de computador;
2. obras musicais;
3. obras de pantomima, incluindo obras de arte de dança;
4. Obras de artes visuais, incluindo obras de arquitetura e artes aplicadas, e projetos para essas obras;
5. Obras fotográficas, incluindo obras criadas de forma semelhante a obras fotográficas;
6. Obras cinematográficas, incluindo obras criadas de forma semelhante a obras cinematográficas;
7. Representações de natureza científica ou técnica, tais como desenhos, plantas, mapas, croquis, tabelas e representações plásticas.

(2) As obras na acepção desta lei são apenas criações intelectuais pessoais. (Grifos não presentes no original. Tradução livre.) 

A complexidade surge quando tanto pessoas naturais quanto inteligência artificial (IA) contribuem para o resultado da produção digital. Nesse contexto, torna-se crucial determinar se a contribuição humana para o design final é suficiente para atribuir autoria do resultado a um ser humano. A questão essencial reside em determinar se a IA é meramente uma ferramenta para implementar decisões de design concebidas pela pessoa natural, ou se controla predominantemente o processo de desenvolvimento e o resultado. 

Se prevalecer o último cenário, então não haveria criação intelectual pessoal envolvida, resultando na ausência de proteção de direitos autorais para a produção resultante. Conclui-se intuitivamente que essas determinações sobre a natureza e a extensão da atuação da IA dependem de uma avaliação técnica detalhada, a ser realizada caso a caso, sendo impraticável, a priori, estabelecer critérios rígidos.

Essa situação jurídica apresenta diversos desafios para a legislação de direitos autorais. Em primeiro lugar, surge a questão de discernir quando um resultado pode ser atribuído a um ser humano e quando à IA. Quais critérios e padrões podem ser empregados para avaliar se a contribuição humana é suficientemente significativa para que o resultado gerado pela IA seja elegível para proteção de direitos autorais? 

O segundo desafio, por outro lado, é eminentemente prático: sem pleno conhecimento do processo exato de criação, como pode ser determinado o grau de contribuição humana na produção em questão e qual parte é atribuível à inteligência artificial (IA)? Ressalta-se que apenas as criações humanas são passíveis de proteção por direitos autorais, o que pode gerar forte incentivo para a não divulgação da parcela gerada pela IA.

VEJA TAMBÉM: Crescem disputas judiciais relacionadas ao ESG

Por fim, mostra-se relevante esclarecer como tratar a produção que não se configura como uma “obra intelectual” nos termos da vigente legislação e, portanto, não goza de proteção autoral. Nesse contexto, é possível que direitos patrimoniais de autor, como os direitos à utilização direta ou indireta de obra (art. 29, VIII), bem como a inclusão em banco de dados (art. 29, VIII, IX), sempre da Lei de Direitos Autorais, possam ser aplicáveis. Contudo, seria mais sensato desenvolver um sistema legal de proteção próprio para estes e outros casos sob a influência das ferramentas de IA.

Além da problemática relacionada à autoria da obra gerada por ou com a contribuição da atuação da inteligência artificial (IA), suscita-se um debate sobre a utilização de obras para o”treinamento” de ferramentas de IA. Para que uma inteligência artificial adquira funcionalidade, é necessário que o algoritmo subjacente seja treinado em seu desempenho, utilizando vastos conjuntos de dados (mineração de texto e dados).

Este processo levanta invariavelmente a questão da legalidade da utilização de conjuntos de dados para o treinamento de aplicações de IA. Em muitos casos, o treinamento exige o uso de informações contidas em fotografias, textos, vídeos e outros conjuntos de dados, os quais podem, por sua vez, estar sujeitos à proteção de direitos autorais, por se enquadrarem na definição legal de obra intelectual. A análise no contexto do treinamento de aplicações de IA pode, portanto, potencialmente infringir os direitos autorais de terceiros.

 Por exemplo, os dados pertinentes devem ser carregados na memória do computador para cada análise automatizada, o que resulta em reproduções e possivelmente em processamento, podendo constituir violação do direito de reprodução parcial ou integral (art. 29, I) de obra intelectual ou utilização indevida de banco de dados (art. 87). Esta questão ainda não foi abordada explicitamente pelo legislador nacional, ao contrário da produção legislativa europeia.

Sob a justificativa de resolver esta problemática, promover inovações técnicas e, ao mesmo tempo, criar um arcabouço jurídico seguro para empresas que desenvolvem aplicações de IA, o legislador europeu introduziu limitações regulatórias em 2019 com a Diretiva DSM (RL (UE) 2019/790 de 17 de abril de 2019) 4, “relativa aos direitos de autor e direitos conexos no mercado único digital”.

Por esta regulação regional, os Estados-Membros da União Europeia devem prever uma exceção ou uma limitação aos direitos autorais para as reproduções e as extrações de obras e de outro material protegido legalmente acessíveis para fins de prospecção de textos e dados, desde que o titular dos direitos não tiver reservado o direito de o fazer.

Isso significa que há uma permissão legal (geral) para a coleta de obras protegidas por direitos autorais e seu uso na criação de conjuntos de dados de treinamento. A restrição não se restringe mais apenas a fins de pesquisa, mas também se aplica a fins comerciais.

Valendo-nos mais uma vez do exemplo da legislação alemã, o legislador tedesco emitiu o seguinte balizador legal (Lei sobre Direitos Autorais e Direitos Conexos (Lei de Direitos Autorais), Seção 44b Mineração de Texto e Dados):

“(1) A prospecção de textos e dados é a análise automatizada de obras digitais ou digitalizadas individuais ou múltiplas, a fim de obter informações, especialmente sobre padrões, tendências e correlações.

(2) São permitidas reproduções de obras legalmente acessíveis para mineração de texto e dados. As reproduções deverão ser excluídas quando não forem mais necessárias para a mineração de texto e dados.

(3) As utilizações de acordo com o parágrafo 2, primeira frase, só são permitidas se o titular do direito não tiver reservado o direito de fazê-lo. Uma reserva de utilização para obras acessíveis em linha só é eficaz se estiver em formato legível por máquina.”(Grifos não presentes no original. Tradução livre.) 5

Os resultados oriundos da inteligência artificial acarretam diversos desafios à legislação de direitos autorais. Contudo, nem todos esses desafios são novos. Questões relacionadas à diferenciação entre edição que demanda autorização e uso não relevante para os direitos autorais, assim como a utilização de programas de computador como ferramentas técnicas, já são contempladas pela legislação vigente e podem ser tratadas por meio dos recursos disponíveis.

No contexto da avaliação dos resultados produzidos pela IA em casos individuais, torna-se imprescindível o estabelecimento de critérios apropriados a serem desenvolvidos pela jurisprudência. Havendo previsão legal, como no caso alemão citado acima, alguns desafios podem ser considerados resolvidos, ao menos temporariamente, como é o caso da permissibilidade geral da mineração de texto e dados comerciais, mesmo sem a autorização prévia dos autores envolvidos. 

No entanto, novos desafios também surgem. Especificamente, a questão de como lidar com os resultados que não estão sujeitos à proteção por direitos autorais, bem como determinar a proporção relativa de contribuição humana ou técnica nos resultados gerados pela IA, representa desafios contemporâneos que ainda requerem análise e solução adequadas.

______________

1 https://cafc.uscourts.gov/opinions-orders/21-2347.OPINION.8-5-2022_1988142.pdf

​​2 https://www.planalto.gov.br/ccivil_03/leis/l9610.htm

3 “(1) Zu den geschützten Werken der Literatur, Wissenschaft und Kunst gehören insbesondere:”

(…)

“(2) Werke im Sinne dieses Gesetzes sind nur persönliche geistige Schöpfungen.”

4 https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:32019L0790#d1e1119-92-1

5 (1) Veräußert der Urheber das Original des Werkes, so räumt er damit im Zweifel dem Erwerber ein Nutzungsrecht

nicht ein.

(2) Der Eigentümer des Originals eines Werkes der bildenden Künste oder eines Lichtbildwerkes ist berechtigt, das

Werk öffentlich auszustellen, auch wenn es noch nicht veröffentlicht ist, es sei denn, daß der Urheber dies bei der

Veräußerung des Originals ausdrücklich ausgeschlossen hat.

O post Direito autoral na era da inteligência artificial: como garantir a proteção? apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

“A Inteligência Artificial Generativa vem transformando o exercício da advocacia de forma positiva, mas é necessário conhecimento e experimentação para ter contato com todo o potencial dessa ferramenta revolucionária. Este congresso tem a proposta de expor uma trilha possível a ser percorrida pelos advogados na exploração dessas tecnologias”, diz Solano de Camargo.

A primeira mesa de debates será sobre “Proteção de Dados na Era da IA” e terá o deputado federal Orlando Silva, relator do PL das Fake News na Câmara Federal. O projeto deve voltar a ser analisado pelo Legislativo, neste ano eleitoral, como alternativa para combater a desinformação. Na sequência, o debate será sobre “Direito e Inovação na Era Digital do Agronegócio”, com advogados de empresas do segmento do agronegócio.

VEJA MAIS: Responsabilidade e Ética no uso da Inteligência Artificial na saúde

Na parte da tarde, as mesas de debates abordarão “Transformação Digital nos Departamentos Jurídicos”, com participação de advogados de algumas das principais empresas do país, e “IA na Prática na Advocacia”, com cases de sucesso apresentados por Aplicativo 99, Google, Latam e Corinthians, que contará com participação de Yun Ki Lee, diretor jurídico do clube e sócio da LBCA. A última mesa de debates terá como tema “Ética, Regulação e IA: Perspectivas”, e a palestra de encerramento será sobre “Engenharia de Prompts no Direito”.

Lançamento de livro

O post LBCA apoia 1º Congresso de Inteligência Artificial no Direito; inscrições estão abertas apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Não haveria nada que o Ocidente poderia incorporar das regras chinesas, principalmente na área tecnológica? Certamente, a resposta deve ser sim, porque o país tem um papel relevante, principalmente sobre a governança da IA generativa, ao desenvolver uma regulamentação pioneira, independente das limitações ideológicas.

O esboço do regulamento para a IA Generativa1 foi publicado em abril de 2023, com a versão final sendo divulgada em julho do mesmo ano. Essas regras, mais flexíveis do que as propostas inicialmente, preveem, por exemplo, uma multa de 100 mil yuans (equivalentes a R$ 67 mil) para violações das diretrizes, sem a necessidade prévia de uma avaliação de segurança por parte da Comissão de Administração e Supervisão do Ciberespaço da China (CAC).

LEIA MAIS: Como tornar a Inteligência Artificial mais responsável?

 Na versão final do regulamento, a supervisão será realizada por sete diferentes agências governamentais, com a CAC sendo a principal. Todas essas agências trabalham juntas para o desenvolvimento de padrões responsáveis e para a criação de mecanismos de detecção de uso mal-intencionado da IA Generativa.2

Segundo a Universidade de Stanford, a CAC não é uma agência reguladora qualquer, mas uma super agência, supraministerial e ‘quase onipresente’, sendo que sua origem está no Escritório Estadual de Informações da Internet. Além de gerenciar os conteúdos on-line da China, trata de políticas e regulamentações sobre segurança cibernética e de dados. É tida como uma instituição que integra o Comitê do Partido Comunista Chinês.

 “Embora esteja ganhando força o princípio geral de que as entidades partidárias-estatais fundidas devem ser tratadas como agências administrativas quando desempenham funções estatais em vez de partidárias, a linha entre essas duas funções nem sempre é clara. À luz da crescente influência do CAC, seu status de partido-estado duplo levanta questões sobre sua tomada de decisão, operações diárias e responsabilidade para com seu público regulamentado“.3

Para os chineses, a IA generativa é definida como sendo “tecnologias que geram texto, imagem, áudio, vídeo, código e outros conteúdos semelhantes com base em algoritmos, modelos ou regras“, mas não menciona que os conteúdos produzidos pela IA generativa são essencialmente novos, quando isso vem tendo efeito cada vez maior sobre o mercado de trabalho ao substituir grande parte da mão de obra humana.

É o caso do DALL-E, que já vem sendo utilizado por grandes estúdios de animação para criar personagens e ambientes em tempo recorde, podendo imitar criadores e estilos. 

Também causou polêmica, o acordo firmado para o ChatGPT acessar o conteúdo de uma das maiores e antigas agências de notícia do mundo – a Associated Press, o que propicia um uso responsável do treinamento da máquina em serviços de notícias,especialmente, diante de 4 mil ações que já estão tramitando na Justiça norte-americana de escritores, que se sentiram plagiados pelos chatbots.

Chama a atenção no regramento chinês, as medidas sobre os provedores de serviços de IA generativa que devem identificar o usuário de um conteúdo considerado ilegal e remover aquelas informações. Em seguida, deve relatar os problemas detectados às agências reguladoras. Há, portanto, uma preocupação com a governança ética da IA Generativa e ao mesmo tempo em fazer o controle do ecossistema de tecnologia do país.

Na regulamentação chinesa, os direitos autorais dos titulares dos dados usados para o treinamento da IA são protegidos. É proibido que desenvolvedores e provedores utilizem dados de treinamento que infringem os direitos de propriedade intelectual de terceiros ou dados pessoais sem o devido consentimento – requisitos que ainda estão sendo discutidos no Ocidente, em meio a muita polêmica. Além disso, os desenvolvedores devem marcar os conteúdos gerados pelos serviços de IA Generativa.

Existem artigos na nova regulamentação chinesa que garantem direitos aos titulares de dados similares aos da LGPD brasileira (Lei Geral de Proteção de Dados), ao coibir a coleta de informações pessoais desnecessárias e ao exigir que seja informado o registro de uso a terceiros. Assim como no Brasil, as reclamações dos usuários devem ser atendidas por canais de comunicação apropriados, proporcionando ao titular acesso à correção ou exclusão de dados, à cópia dos dados, entre outros direitos.

Nos últimos anos, a China tem produzido várias regulamentações sobre tecnologias de Inteligência Artificial e se prepara para formular um Marco Regulatório de IA nos próximos anos. Com isso, a China se tornou um dos principais players de pesquisa em IA com um amplo arcabouço regulatório, que não pode ser simplesmente ignorado, independentemente da ideologia ou burocracia estatal chinesa.

A legislação chinesa, que deve entrar em vigor no dia 15 de agosto, afirma que visa incentivar essa tecnologia com cooperação local e internacional. Vale lembrar que a China possui seus próprios players desenvolvendo esta tecnologia.

A China é pioneira em várias leis na área de IA, como a Lei de Proteção de Informações Pessoais, a Lei de Segurança de Dados e as Disposições Administrativas sobre Algoritmos de Recomendação em Serviço de Informação Baseados na Internet, dentre outras. Com a ambição de se tornar líder global em IA até 2030, o país vem realizando esforços significativos para impulsionar esta tecnologia, contribuindo com 8,9% do investimento mundial, o que equivale a mais de US$ 26 bilhões.

Apesar do controle do governo chinês sobre os sistemas de IA, o ecossistema regulatório do país proporciona uma nova perspectiva sobre a regulamentação da IA Generativa. Sem dúvida, isso terá impacto nas questões relacionadas à violação dos direitos fundamentais de imagem e privacidade dos usuários, bem como responsabilidades no âmbito tecnológico. Essas questões são de interesse direto para desenvolvedores, cientistas, governos e a sociedade do Ocidente.

LEIA MAIS: Como separar o direito autoral humano dos “direitos” da IA generativa

A nova regulamentação chinesa já contempla princípios éticos para os sistemas generativos de IA enfatizando preocupações com conteúdo discriminatórios e inverídicos – saídas indesejadas que também são destacadas na recente legislação da União Europeia, o IA Act. 

No universo tecnológico, a busca por uma regulamentação consensual tem potencial para superar restrições oriundas de políticas antagônicas e competições estratégicas, visando o benefício coletivo. Há quem advogue, inclusive, pela criação de uma agência reguladora global.

É fundamental que o Ocidente mantenha uma visão aberta para considerar as leis e regulamentos chineses sobre IA generativa, uma abordagem que pode ser extremamente vantajosa para o aprendizado com base nas experiências deste país, desconsiderando-se  as diferenças políticas e legais.

 O cenário ideal envolve uma união que beneficie todos, promovendo o desenvolvimento conjunto de ferramentas para a mitigação de riscos em prol de toda a humanidade.

Encorajamos uma visão que convide todos a reconsiderar as possíveis contribuições que a China pode oferecer à regulação global de tecnologia, mesmo diante das diferenças ideológicas e políticas existentes. Este é um tema complexo e multifacetado, que envolve a avaliação das práticas regulatórias chinesas e o contexto no qual estão inseridas.

__________

1 Disponível aqui.

2 Disponível aqui.

3 Disponível aqui.

O post Regulação chinesa para sistemas generativos de IA pode influenciar o ocidente? apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

A história trata de uma personagem não binária (Zarya) que atravessa “diferentes mundos para reunir ferramentas de saúde mental para poder lidar com suas emoções e pensamentos e encontrar conexão com outras pessoas e criaturas.”1

Nos Estados Unidos, o  Escritório de Direitos Autorais (US Copyright Office- USCO) , que “registra reivindicações de direitos autorais, informações sobre propriedade de direitos autorais, fornece informações ao público e auxilia o Congresso e outras partes do governo em uma ampla gama de questões de direitos autorais, simples e complexas“.2

Ganhou novas prerrogativas diante da dimensão que o direito autoral adquiriu no ambiente digital e divulgou novas diretrizes , determinando que as obras devem obrigatoriamente comunicar a inclusão de conteúdo gerado por IA para reivindicar direitos autorais.

No caso de Kashtanova, o Escritório havia concedido inicialmente os direitos autorais que, em nova análise, revogou quando veio a público o uso de IA no processo de criação da imagens. Recentemente, o órgão, em nova  avaliação, reviu sua posição e concedeu o registro parcial , excluindo o trecho produzido pela IA. 

Portanto, o registro de direito autoral abrange somente a autoria original da autora, sendo que as imagens geradas pelo Midjouney (programa semelhante ao ChatGPT) não possuem direitos autorais protegidos.

Nessa construção dos direitos autorais envolvendo  IA, o escritório americano não acatou a argumentação da autora de que utilizou Prompts de textos para gerar as imagens pela IA, uma vez que entende que  tecnologia não permite controle sobre essa criação, não sendo possível dizer que tem autoria humana. 

A IA emprega algoritmos de aprendizado para criar novos conteúdos, que podem ser considerados plágios de outros trabalhos, outras fontes, o que comprometeria o resultado “original” da obra gerada, impossibilitando que obtivesse proteção  quanto aos direitos autorais. Em sua decisão, o escritório utilizou como comparativo o trabalho de um fotógrafo, que tem controle sobre a fotografia final porque pode interferir na iluminação, enquadramento,  tema etc.

O grande imbróglio de uma obra gerada pela tecnologia de IA é tentar decifrar qual o nível do envolvimento humano no processo de criação. Somente selecionar prompts não assegura ao autor o status de “autoria humana“, segundo entendimento do escritório americano de direitos autorais.

O que é um processo de criação? Essa pergunta comporta muitas respostas por envolver o fazer artístico: Pode ser inspiração divina? Um dom nato? O esforço que envolve um trabalho criativo?

Enfim, o ato de criar ou a criatividade, poderia ser definida como sendo “a aptidão da inteligência que permite a reorganização dos dados, no intuito de associá-lo e combiná-lo para a solução de problemas. Esta atitude da inteligência estaria diretamente relacionada à faculdade de criar, de idealizar e de conceber, correspondendo, em sentido amplo, à causa formal aristotélica.

Enfim, seria a faculdade de proporcionar soluções adequadas a novos problemas, E em um sentido estrito, a faculdade da produção criadora“3 (TAVARES, 2011).

O USCO tem em suas manifestações buscado explicitar a participação do autor humano em conteúdo gerado por tecnologia e IA generativa e tem reconhecido que dependendo do nível dessa contribuição, uma obra pode ser considerada de autoria  humana e de proteção autoral. 

O reconhecimento da história de Kristina Kashtanova é um fato inédito e pode se tornar um leading case. Há muitos casos no mercado que estão chegando para desafiar os tribunais no sentido de que um trabalho foi produzido com base no estilo de determinado artista, sem o seu consentimento.

Ainda há muita insegurança no cenário jurídico em relação a obras geradas por IA, e outros países podem ter entendimentos diferentes sobre a proteção legal dessas obras, como é o caso do Reino Unido, que tem trabalhado para atualizar suas leis de direitos autorais para incluir obras geradas por IA, com parte de um esforço mais amplo para modernizar a legislação de direitos autorais.

Atualmente, temos exemplos de criadores que afirmaram ter aprimorado os prompts e intervindo manualmente no produto final geral pela IA generativa para ter seu direito autoral reconhecido pelo Departamento norte-americano de direitos  autorais. 

A grande dívida, porém, reside em uma etapa anterior: é possível treinar um modelo de IA de domínios protegidos por direitos autorais? O volume de dados, sejam textos, imagens ou códigos, é de tal magnitude  que mesmo uma pesquisa para determinar se tal dado é protegido pode falhar, o que consiste em um risco a ser levado em conta. Nos Estados |unidos, há a doutrina do “uso justo” para emprego não comercial  e educacional, caso de pesquisas acadêmicas e de organizações sem fins lucrativos.

Contudo, é possível treinar a IA generativa com base em todos os livros do escritor Thiago Nigro, o autor brasileiro que vendeu mais livros em 2021, e produzir uma nova obra com objetivos comerciais? Talvez, mas a nova obra poderia parar nas barras de um tribunal por envolver questões legais de direitos autorais ou compensações para a parte que teve seu direito violado. 

LEIA TAMBÉM:

• IA, predadores tecnológicos e massificação das demandas
• As máquinas podem amar?

Segundo analistas do universo jurídico, o número desse tipo de  ações  ainda não ganhou grandes dimensões porque os artistas não possuem recursos para bancar esse tipo de litígio, extremamente custoso e  longo.

Considerando a interpretação e aplicação das leis de direitos autorais em cada país, as audiências agendadas pelo Escritório de Direitos Autorais americano para discutir a criatividade da inteligência artificial generativa e os direitos autorais nos EUA podem ter um forte impacto no Brasil e no mundo.

Essa discussão pode ser complexa, assim como ocorreu na época da primeira codificação internacional dos direitos autorais, em 1886, quando havia muitas variáveis e naquela época houve algumas controvérsias em relação a alguns aspectos da convenção, por exemplo, alguns países argumentavam que a convenção favorecia, principalmente, os países mais desenvolvidos, que tinham um maior número de obras protegidas pelos direitos autorais.

Além disso, havia preocupações sobre como a convenção afetaria as indústrias culturais em países que não tinham tradição em proteção aos direitos autorais.4

Assim, a discussão atual sobre os direitos autorais na era da IA generativa pode ser muito significativa e complexa, envolvendo diversos atores e com potencial impacto em nível global.

O processo criativo pode ser influenciado por referências artísticas ou acadêmicas e a IA generativa pode ser uma ferramenta valiosa para pesquisas, desde que o usuário possua o conhecimento técnico necessário.

Em relação ao caso de Zarya, é possível que sua criadora tenha utilizado somente seus próprios inputs, sem se basear em referências artísticas de outros criadores, o que pode ser questionável do ponto de vista artístico. Essa discussão destaca o papel da tecnologia na criação artística e reforça a importância do conhecimento técnico e das referências no processo criativo.

1 Disponível aqui.

2 Disponível aqui.

3 TAVARES, Monica. Processo de Criação na Arte. Disponível aqui.

4 Disponível aqui.

O post Como separar o direito autoral humano dos “direitos” da IA generativa apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

O ChatGPT gerou um frenesi. O que essa ferramenta de linguagem natural poderia responder? Mais surpreendente do que uma pequena criança que aprende as primeiras palavras, o sistema mostrou-se bastante satisfatório na criação de poemas, textos curtos e longos, além de resenhas de filmes, como o clássico Casablanca.

 No primeiro momento houve surpresa, no segundo medo e agora uma lenta e bem construída descrença de que a ferramenta possa de fato ter expressões mais humanas que venham a prejudicar nossa capacidade de julgamento sobre as suas respostas.

Uma ferramenta que recebe nossas mensagens e as reprocessa não é uma novidade. Em 2 de abril de 2014 a Microsoft testou a Cortana dentro do Twitter. Longe de qualquer demérito, ambas as companhias foram o laboratório social de um experimento curioso. Durante 24 horas a IA Cortana recebeu os tweets de centenas de pessoas. Cientes de que o sistema utilizava aprendizado de máquina, os usuários criaram situações eticamente limítrofes para a IA, que se tornou racista, xenófoba e antissemita.

Não houve dúvidas quanto ao fato de que ela nasceu pura e a sociedade a corrompeu. Todavia, não tendo consciência, sequer noção de sua existência, Cortana se tornou mais corruptora do que corrompida. Aqui reside a principal reverberação de uma IA, porque, independentemente de uma senciência, o espelho que uma IA com linguagem natural cria é capaz de revelar nossas falhas ou, no pior dos casos, reforçá-las.

Em 1950, Alan Turing escreveu sobre a possibilidade de que uma máquina digital poderia mimetizar outras máquinas, fossem digitais ou humanas. Durante o raciocínio, um dos seus questionamentos versou sobre as chances de que uma máquina pudesse pensar. Para esta possibilidade o matemático apresentou várias objeções de ordem teleológica-espiritualista, de que pensar seria dom divino concedido ao ser humano; de que seria temerário, e até indesejado, imaginar um ser artificial pensante; e que seria impossível provar os erros de um sistema cujas premissas seriam condicionais e, portanto, herméticas.

Umas das objeções que se destaca é a de que uma máquina digital, ainda que soubesse poetizar, não teria ciência do que está fazendo. O ato de sentir seria apenas humano, todavia o matemático apresenta o argumento de Ada Lovelace de que máquinas poderiam até pensar por si só, sem que, no entanto, pudessem criar algo novo.

Turing acaba sendo pragmático e, no seu Jogo da Imitação, arremata a questão ao afirmar que seria indiferente superar as objeções que apresentou porque a máquina digital teria sucesso se, após 5 minutos de diálogo, fosse impossível saber se a conversa era desenvolvida com um homem, uma mulher ou uma máquina. Se o conteúdo trazido e o tempo de resposta fossem factíveis, então o convencimento seria certo.

O ChatGPT, ao menos por enquanto, mostrou-se capaz de compilar dezenas de páginas de forma satisfatória. Ele tem natureza enciclopédica. É criativo na combinação de textos à disposição na internet, mas não nas ideias. Talvez o próximo Pulitzer ou o próximo Nobel de Literatura sejam vencidos por um humano que usou parcialmente uma ferramenta de Linguagem Natural.

Enciclopédias também erram, seja por viés histórico, seja por inacurácia técnica. O dicionário da Academia Real Espanhola definiu, por longo tempo, que os povos andinos eram selvagens. A Enciclopédia da Folha de São Paulo, de 1996, está desatualizada. Foi-se o seu tempo. A Wikipédia corre o mesmo risco todos os dias. Entretanto, estas acertaram os fatos que narraram em seu tempo.

O ChatGPT falha ao unir a tentativa de criatividade com o seu caráter enciclopédico. Isso resulta em afirmações que doem ao brasileiro. Ayrton Senna não morreu em Interlagos após bater em Nakajima.1 E o 1º de maio de 1994 ninguém esquece, ninguém interpreta e ninguém relativiza. Senna se foi em Ímola, na Itália.

LEIA TAMBÉM: 

• 10 tendências de privacidade e segurança cibernética para hospitais e clínicas médicas
• Cibersegurança: tendências e desafios para 2023

Seja numa conversa de 5 minutos, seja num verbete de enciclopédia ou na retomada de um evento histórico é o convencimento humano, é a interpretação humana que prevalece.

 O que importa é o efeito que a máquina tem sobre os humanos mais do que sobre si mesma. Senão vejamos, as crianças no início dos anos 2000 sofreram várias vezes quando seus Tamagotchi  morreram, especialmente quando seus animais virtuais, entregues para os amigos, morriam de fome ou por superalimentação.

 O Tamagotchi não era uma IA, mas uma pequena máquina digital com efeitos psicológicos e comportamentais sobre os seus usuários. Novamente, o que importa é o efeito que a máquina tem sobre os humanos mais do que sobre si mesma.

Isaac Asimov, em 1941, antes do artigo de Turing, publicou o conto O Mentiroso. A antecipação do enredo está no título e, naturalmente, em algum momento o robô que Asimov apresenta mente dentro da história. 

A mentira, entretanto, passa pelo equilibrado silêncio, por pensamentos criados na mente dos ouvintes, pelos desejos que eles possuem no íntimo, pela falta de comunicação de uns com os outros e, acima de tudo, pela Lei a que o robô está sujeito: Primeira Lei – Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.

Para o robô, mentir é proteger. Perceber as vontades do ouvinte e preenchê-las é fazer-lhe o bem. Contar a alguém que o sujeito desejado a ama é evitar o mal da tristeza. Aqui reside o perigo, quando uma ferramenta, dotada de cookies, dados e uma enciclopédia do comportamento humano puder entregar a realidade desejada através de palavras.

Ao final da história, a cientista Susan Calvin, uma das personagens principais, apesar do coração partido, consegue criar um grave erro de sistema (Blue Screen) que acaba com o robô. Diante de vários ouvintes o robô foi incapaz de criar uma mentira factível para todos.

Por isso, antes que se possa pensar na consciência de uma IA, na sua inspiração poética, ou se esta é apenas matemática ou uma linguista por natureza, as questões devem versar sobre os efeitos individuais e a escala que essas interações intimistas podem ter numa sociedade que busca incessantemente ser compreendida, nos seus erros e acertos.

Aqui lanço o desafio, quem seria o autor do poema, a IA ou o autor que vos fala?

Amar é confundir a vida com a eternidade

É fazer do momento, infinito

Do carinho para uma, a dádiva para a multidão

É nascer árvore, da semente

Ser inteiro com outra, mesmo sendo dois

É chorar no porto, depois de presentear com a vela

Confiando ao outro a curva do retorno

É abrir o abraço e esperar

Ou correr atrás do momento terno

O post As máquinas podem amar? apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Esta reflexão não se resume a um exercício de “futurologia”. A proposta é atingir um melhor entendimento do presente, para que então seja possível identificar e analisar o que esperar no ano de 2023.

Uma das principais tendências para este ano será a intensificação do uso de tecnologias de Inteligência Artificial (IA), motivada pelo aumento da eficiência digital e de processos. A expectativa é que, em pouco tempo, as tecnologias de IA sejam integradas ou incorporadas a ferramentas que utilizamos no cotidiano, como, por exemplo, editores de texto.

Em 2022, diversas ferramentas de IA viralizaram na Internet e foram popularizadas. Exemplos disso são o programa Midjourney, que gera imagens a partir de um texto contendo instruções, ou do aplicativo Lensa, que cria diferentes versões de “selfies” a partir das imagens enviadas pelo usuário. São formas lúdicas de incorporar a IA à cultura e ao cotidiano, tornando esse tipo de tecnologia mais comum, mais acessível, menos intimidador, mas não eximido de riscos.

A rigor, o que esse tipo de programa faz é utilizar referências (isto é, um banco de dados) para formar novas composições (seja em texto ou em imagem, nos exemplos dados). Em outras palavras, a IA é mais tangível do que aparenta:

trata-se, em verdade, de um conjunto de códigos, algoritmos, bancos de dados, programadores e usuários[1].

 Quando as ferramentas citadas realizam o reprocessamento de dados, há uma espécie de apropriação de estilos de arte que identificam seu autor, como o caso do estilo de pintura adotado por Andy Warhol ou por Romero Britto.

Nesse sentido, as IA demandam o surgimento de diferentes dilemas, em especial no campo do Direito. Especialmente no caso de ferramentas capazes de gerar imagens, há intenso debate sobre os direitos autorais de propriedade intelectual dos autores das obras utilizadas para alimentar a base de dados da IA. Ainda não está claro qual o limite entre o plágio e uma “criação” feita dessa forma, e já há ações judiciais para dirimir tais conflitos.

Ainda, no final de 2022, o lançamento do ChatGPT gerou diversas polêmicas e debates éticos, e comprovou que o acesso massificado a esse tipo de tecnologia está cada vez mais próximo.

LEIA TAMBÉM:

• ChatGPT: Limitações e benefícios da inteligência artificial
• IA constrói um futuro estratégico para o ESG

 O ChatGPT é uma ferramenta (chatbot) capaz de gerar textos automaticamente, em diversos formatos, contemplando diferentes assuntos. É capaz, inclusive, de gerar códigos maliciosos para invasão de dispositivos, como ransomwares. Esse não é o primeiro caso de utilização de uma IA resultante em comportamentos antiéticos ou discriminatórios.

Até aqui, o uso da IA por empresas ainda encontra limitações: desde questões orçamentárias, até falta de capacitação de funcionários ou incompatibilidade com sistemas já utilizados. São muitos os obstáculos que ainda se colocam para que a IA passe a fazer parte do cotidiano e seja efetivamente incorporada aos processos de negócio.

Nesse contexto, a cibersegurança e da proteção de dados pessoais também demandam preocupações. Isso porque, como dito, essas informações podem ser insumos essenciais para o funcionamento de sistemas de IA. Nesses casos, será necessário observar as regras jurídicas existentes sobre a proteção da privacidade e segurança da informação, desafiando a possível falta de clareza ou segurança sobre as normas específicas que devem ser aplicáveis.

Ainda que as ferramentas de IA realizem cada vez mais atividades determinantes para o desenvolvimento econômico e social, essas tecnologias podem colocar em risco a privacidade, conter imprecisões de processamento, operar com discriminações e serem utilizadas para dar causa a incidentes de segurança, o que destaca a importância da criação de um sandbox para testes prévios antes do lançamento de uma ferramenta do gênero no mercado. 

Longe de ser um impedimento de uso, testes prévios e o respeito às normas regulatórias para IA servem para estabelecer condições legítimas para o funcionamento, de forma lícita, ética e adequada[2].

Quanto às normas aplicáveis à IA, existem algumas iniciativas que, certamente, terão repercussão sobre a regulamentação nacional; no âmbito da União Europeia, é preciso mencionar o AIA (Artificial Intelligence Act), normativa aprovada em dezembro de 2022, no contexto legislativo do DSA ( DigitalAct Services) e DMA (Digital Markets Act).

Já no Brasil, o Projeto de Lei 21/2020 ficou conhecido como o Marco Legal do Desenvolvimento e Uso da Inteligência Artificial, e possui duplo objetivo. Primeiro, estabelecer direitos para proteção do elo mais vulnerável, isto é, a pessoa natural que já é constantemente impactada por sistemas de IA. E, segundo, dispor de ferramentas de governança, fiscalização e supervisão, criando condições de segurança jurídica para inovação e o desenvolvimento econômico-tecnológico[3].

 Com isso, o Brasil reconhece que a proteção de direitos e liberdades e a criação de novas cadeias de valor não são mutuamente excludentes. 

Se a IA será uma tendência presente em 2023, os ciberataques também são um tema central. Os problemas envolvendo cibersegurança não são apenas causados por ataques de hackers ou ameaças com tecnologias aprimoradas.

 Muitos riscos persistem diante da ausência de medidas de segurança básicas, que consequentemente deixam dados pessoais e informações confidenciais vulneráveis. A ausência de proteções adequadas em redes, softwares e dispositivos soma-se às falhas humanas e ao negligenciamento de políticas de privacidade, conscientização e treinamentos, como causas do aumento exponencial de ataques maliciosos.

Para 2023, o avanço da Internet das Coisas (IoT) nos negócios e sociedade pode aprofundar esse cenário, já que mais equipamentos eletrônicos estarão conectados. Mesmo para aqueles que indicam que não armazenam dados pessoais de identificação direta, a conexão IoT pode abrir portas para usar os dispositivos como gateways e acessar outros conectados em rede, que contenham dados pessoais ou informações confidenciais.

A IA igualmente está presente na discussão da cibersegurança, já que podem ser aliadas na previsão de ataques ou falhas de segurança, reconhecendo padrões de ameaça.

 De acordo com o Cost of a Data Breach Report 2022 do IBM Security, o uso de inteligência artificial por empresas para detecção de incidentes é útil na economia de recursos e tempo de identificação e contenção da violação, considerando que a média de custo de uma violação de incidente de segurança, que em 2022 foi de 4,35 milhões[4].

Por outro lado, os algoritmos de IA podem ser o que efetivamente dão causa a incidentes. Isto porque a alta capacidade de aprimoramento das IAs pode resultar em incidentes de proteção de dados, quando por exemplo tais ferramentas são utilizadas para emular vozes ou mesmo pessoas, servindo de instrumento para fraudes ou, ainda, utilizadas para o disparo em massa de mensagens com phishing.

Novos ou não, os desafios da cibersegurança continuam exigindo, como prioridade, o desenvolvimento de uma cultura de segurança íntegra, que trabalhe com conscientização e investimento em medidas de segurança físicas, técnicas e organizacionais. É justamente na busca pelo uso seguro e responsável das novas tecnologias que residem os desafios da cibersegurança deste ano.

Igualmente, deverá ser dada muita atenção a possíveis ataques cibernéticos à infraestrutura pública dos governos, que necessitam cada vez mais investir em recursos de segurança para a proteção da segurança da informação e privacidade dos cidadãos. Segundo dados do Gabinete de Segurança Institucional da Presidência da República, só em 2019 ocorreram 10.716 incidentes cibernéticos contra o governo brasileiro. Em 2021, foram aproximadamente 5.000 tentativas de ataque[5].

As tendências abordadas aqui são apenas um recorte do vasto cenário das novas tecnologias. Mais do que previsões, o objetivo foi apresentar um recorte dos principais temas que devem ocupar os debates acadêmicos e dentro das empresas ao longo deste ano.

Até o final de 2023, muitas transformações ainda devem ocorrer no campo IA, na cibersegurança e no âmbito regulatório.

 A dedicação a tais desafios exigirá novos aprendizados, sem esquecer do fortalecimento dos pontos de atenção já conhecidos para a proteção de dados e cibersegurança. Embora a transformação ocorra de forma constante, manter em mente os direitos, princípios e liberdades fundamentais e as boas práticas de segurança da informação e proteção de dados é algo essencial para uma adaptação exitosa.

___________________________________________________________________________________

[1] PARRY, Rupert. AI & IP: Who owns music made by a machine? Goethe Institut. https://www.goethe.de/prj/k40/en/mus/machine-music.html Acesso em: 23 jan. 2023.

[2] INFORMATION COMISSIONER’S OFFICE (ICO). Guidance on IA and Data Protection. Disponível em: https://ico.org.uk/for-organisations/guide-to-data-protection/key-dp-themes/guidance-on-ai-and-data-protection/about-this-guidance/#whatdoyou. Acesso em: 22 jan. 2023.

[3] CJSUBIA. Relatório final da Comissão de Juristas responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil. p. 10. https://legis.senado.leg.br/comissoes/mnas?codcol=2504&tp=4 Acesso em: 23 jan. 2023.

[4] IBM SECURITY, Cost of a Data Breach Report. 2022. Disponível em: https://www.ibm.com/downloads/cas/3R8N1DZJ. Acesso em: 20 jan. 2023.

[5] ITO, Daniel. Governo sofreu quase cinco mil incidentes cibernéticos em 2021. Agência Brasil. 28 de janeiro de 2022. Disponível em:

https://agenciabrasil.ebc.com.br/radioagencia-nacional/seguranca/audio/2022-01/governo-sofreu-quase-cinco-mil-incidentes-ciberneticos-em-2021. Acesso em: 20 jan. 2023.

AMANDA CUNHA MELLO SMITH MARTINS – Advogada na área de Direito do Consumidor, mestre em Direito pela Faculdade de Direito da USP e coordenadora de consumidores na Comissão de Privacidade e Proteção de Dados da OAB-SP

BRUNA MARQUES DA SILVA – Advogada da Lee, Brock, Camargo Advogados (LBCA) e mestre em Direito pela Universidade do Vale do Rio dos Sinos (Unisinos)

O post Cibersegurança: tendências e desafios para 2023 apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Assim como toda boa novidade acessível ao público, o robô do momento tem provocado diversos questionamentos em nichos específicos e no mero dia a dia da sociedade. As preocupações giram basicamente em torno de: “o ChatGPT será inimigo do raciocínio e da criatividade?”, “mensagens ou declarações serão sempre elaboradas por um robô?”, “a inteligência artificial vai favorecer plágios e violar direitos?”, “as pessoas ficarão preguiçosas ou serão substituídas por máquinas?“. 

No universo da programação, por exemplo, podem surgir novos crimes virtuais. No mercado de trabalho, fluxos e atividades laborais podem ser otimizadas. Na vida escolar e acadêmica, existem riscos de cópias ou elaboração de tarefas sem qualquer raciocínio. Na saúde, possíveis diagnósticos podem ser fornecidos a partir da apresentação de sintomas pelo paciente ou agendamentos prioritários podem ser realizados. 

No âmbito jurídico – além da inteligência artificial poder ser benéfica para a elaboração de documentos como contratos, pareceres ou peças judiciais -, há polêmicas mais relevantes sobre o tema.

Antes de tudo, é preciso entender que os retornos do ChatGPT a pedidos, sugestões ou dúvidas podem ser razoáveis e aparentemente compreensíveis, porém nunca perfeitos ou totalmente confiáveis. Isto é, a inteligência artificial conta com ótimas soluções, mas também limitações.

O ChatGPT, apesar de apresentado como disruptivo, se baseia apenas em dados inseridos na rede somente até 2021 e não revela a fonte das informações – tais como provedores de pesquisa conhecidos na Internet que rastreiam, indexam, catalogam e organizam páginas publicamente disponíveis na rede, a partir de critérios de busca. A ausência de qualquer referência na produção do material por meio do ChatGPT, portanto, acaba não viabilizando a apresentação de uma bibliografia segura.

Embora seja treinado para tentar consertar erros, retificar premissas incorretas e rejeitar pedidos inapropriados, as chances de sucesso são baixas nesse sentido. Nesta perspectiva, relembra-se que, por vezes, nem mesmo grandes veículos de comunicação ou o Poder Judiciário são capazes de atestar a veracidade de determinados conteúdos publicados na rede, tamanha a subjetividade que os envolve.

Ainda, o ChatGPT não consegue responder a perguntas muito complexas e nem reagir a “piadas” ou “tirinhas inteligentes“, dada a ausência de malícia da ferramenta que, naturalmente, é inerente ao ser humano.

Por outro lado, a imprecisão de respostas estimula o estudo, a investigação da veracidade do conteúdo produzido e o debate para fins de correções manuais e resultados mais assertivos. Ou seja, a ferramenta se mostra útil para suporte, otimização do tempo ou eventual produção de ideias iniciais, mas para que seja criado um material inédito com informações precisas, ainda se faz necessária a participação humana.

LEIA TAMBÉM:

• IA constrói um futuro estratégico para o ESG
• Os primeiros confrontos entre direitos autorais e IA regenerativa

O material gerado pela nova inteligência artificial, por não contar com qualquer rastro de origem – já que produzido por algoritmos, a partir de informações públicas existentes na Internet, sejam elas provenientes de canais oficiais ou meras postagens aleatórias inseridas em redes sociais por qualquer usuário -, provoca discussões quanto à autoria do conteúdo, especialmente para fins responsabilização ou reivindicação de direitos autorais.

Na hipótese de um usuário 1) questionar ao ChatGPT sobre a vacinação contra o Covid-19, 2) obter respostas contrárias às orientações médicas e 3) viralizar a informação equivocada em suas redes sociais ou outros meios de comunicação, ele poderá ser responsabilizado nos âmbitos cível e/ou criminal pela disseminação de desinformação ou notícias falsas, por exemplo. A propósito, a viralização de conteúdos ilícitos é um risco potencial ao negócio, se a ferramenta não for utilizada com senso crítico.

Nessa linha, inclusive, foi criada uma Política de Compartilhamento e Publicação2 pela desenvolvedora da inteligência artificial, com expressa orientação de que o usuário assume a autoria das respostas quando publicadas em outro local. 

Além de outras recomendações também previstas nos Termos de Serviço3, Políticas de Uso4 e Políticas de Privacidade5, chama atenção a linguagem pronta que é fornecida ao usuário que desejar descrever o processo criativo quando necessário: “O autor gerou este texto em parte com o GPT-3, o modelo de geração de linguagem em larga escala da OpenAI. 

Ao gerar o rascunho, o autor revisou, editou e revisou o idioma de acordo com sua preferência e assume a responsabilidade final pelo conteúdo desta publicação.”

Sob outra ótica, também merece ser observado os direitos autorais de materiais já existentes na Internet. Nem toda obra publicamente disponível pode ser usufruída sem devida licença, créditos ou outros requisitos legais.

 Por isso, com relação à utilização de conteúdos como base para a produção de determinado material pelo ChatGPT, pode-se avaliar a possibilidade de o titular do direito requerer a criação de filtros de bloqueio aptos a impedir a utilização do conteúdo como um dado de treinamento da inteligência artificial.

Em analogia ao que já acontece em algumas plataformas digitais, detentores de direitos autorais (em parceria com a empresa responsável pela plataforma) podem utilizar um sistema de identificação de conteúdo automatizado para detectar e gerenciar um conteúdo protegido. 

 Assim, quando o código criado para identificar o conteúdo protegido por direitos autorais localizar uma correspondência, por exemplo, este não será veiculado ou empregado como fonte na elaboração do material produzido pela inteligência artificial.

Outro ponto, por fim, que merece certa ponderação, diz respeito ao modelo globalizado da inteligência artificial. Isso porque, atualmente, ferramentas de pesquisa contam com critérios de geolocalização quando do retorno de resultados de buscas.

 O ChatGPT, criado por companhia norte americana e com fatores transacionais não especificados, pode fazer com que não sejam considerados aspectos culturais e legais de cada região, oferecendo assim aos usuários uma suposta “verdade universal“.

As situações boas ou ruins relacionadas ao ChatGPT são infinitas mas, para todas as áreas, corrobora a imprescindibilidade do ser humano. 

O aparente segredo desta inteligência artificial – e de outras já disponíveis ou que ainda vão surgir – está na elaboração das perguntas “corretas” quando da utilização e no senso crítico das pessoas para avaliar e revisar os materiais produzidos pelos robôs.

Ao invés de reagir negativamente às tendências e evoluções, cabe ao ser humano e à sua capacidade de adaptação se reinventar jogando junto com a tecnologia. As pessoas devem ter em mente que ferramentas como o ChatGPT possibilitam a terceirização de atividades monótonas para dar lugar à criação de novos produtos e serviços.

A qualidade do resultado proveniente do ChatGPT (e outras ferramentas deste tipo) ainda é discutível, mas mesmo que não fosse, o ser humano continuaria essencial para aprimorar a tecnologia e para analisar as referências obtidas.

Inteligências artificiais podem ser direcionadas para automatizar tarefas repetitivas ou processos, analisar grandes bases de dados, fornecer serviços de atendimento mais personalizados ou prever tendências. 

Contudo, o conceito de machine learning deve ser agregado às habilidades individuais de cada indivíduo – que continuará exercendo atividades importantes e tomando decisões -, pois é o que irá gerar mais valor e fazer diferença para o cotidiano de outras pessoas e empresas.

__________

1 “Chat Generative Pre-Trained Transformer” ou, em tradução livre: “transformador pré-treinado generativo de bate-papo“.

2 Disponível aqui.

3 Disponível aqui.

4 Disponível aqui.

5 Disponível aqui.

O post ChatGPT: Limitações e benefícios da inteligência artificial apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

 A ferramenta levantou diversas discussões e uma maior consciência das pessoas sobre o emprego de Inteligência Artificial no dia a dia. Mesmo que a tecnologia em si já exista desde meados do século passado, ainda causa desconfianças sobre suas aplicabilidades.

O uso de IA confronta a sociedade em inúmeras questões éticas e legais, que incluem temáticas de privacidade e vigilância, preconceito ou discriminação, falta de transparência algorítmica e incertezas quanto à limitação de responsabilidade. O cenário de imprecisões, no entanto, divide espaço com um encanto pelas inúmeras possibilidades que inaugura.

Na esfera ESG, empresas podem usufruir de um poder, até então inédito, para coleta, categorização, atualização em tempo real e análise de seus dados. Um estudo global da Oracle ESG[2] aponta que 91% dos líderes empresariais enfrentam desafios para progredir em iniciativas de sustentabilidade devido às dificuldades para encontrar os dados necessários para acompanhar métricas e auferir progressos.

Muitos dos dados que precisam ser coletados não estão organizados ou são provenientes de múltiplas fontes, incluindo não apenas uma empresa, mas toda uma cadeia de fornecedores. Além disso, um problema significativo com os relatórios de práticas é a natureza inconsistente das estruturas ESG nas organizações, dado que, por exemplo, termos como sustentabilidade e diversidade podem significar algo completamente diferente para cada empresa.

A grande variedade de estruturas dentro de cada setor torna ainda mais complexo o processo de comparar progressos e definir padrões nos setores. Neste ponto, o uso de Inteligência Artificial torna-se cada vez mais parte da estratégia ESG. A IA pode ajudar a gerenciar dados, ordenar informações, gerar insights, criar relatórios e operacionalizar estratégias.

Atualmente, a análise de dados em escala é limitada pela descentralização das informações ESG. O processo, por exemplo, de estruturar um relatório de sustentabilidade passa por uma série de etapas manuais, como a identificação e o acesso a relatórios individuais, extração de textos e higienização de bases de dados, antes mesmo que qualquer análise possa ser realizada.

De acordo com um levantamento feito pela BlackRock[3], ainda que a maioria das empresas S&P[4] reporte métricas ESG, 53% dos entrevistados citaram “má qualidade ou disponibilidade de dados e análises ESG” e outros 33% citaram “má qualidade de relatórios de investimento em sustentabilidade” como as duas maiores barreiras para a adoção de investimentos sustentáveis.

O uso de aplicativos de IA, aprimorado por uma nova geração de algoritmos de Machine Learning e computação em nuvem, levou recentemente às inovações na análise de dados de texto não estruturados em grande escala, por meio do uso de técnicas de Processamento de Linguagem Natural (PLN)[5]. Esse tipo de tecnologia permite uma análise de dados rápida, abrangente e em escala.

Uma vez organizados, os dados são estruturados e podem ser analisados para obter melhor compreensão sobre riscos ESG, como identificar riscos ambientais, direcionar recursos e capacidade técnica, definir prioridades, desenvolver medidas de mitigação, atender às metas da gestão e definir o escopo de um programa de engajamento.

LEIA TAMBÉM:

• Os primeiros confrontos entre direitos autorais e IA regenerativa
• O capital natural entra na agenda ESG de 2023

Um exemplo já existente é o esgNLP, um modelo de processamento de linguagem natural, treinado pela International Finance Corpotaration (IFC) usando o Google BERT[6]. O esgNLP está condicionado a identificar quase 1.200 termos sobre riscos ESG em textos e classificar as frases em que aparecem, com base em sentimentos positivos, negativos e neutros.

Termos como inclusão, transparência e comunidade são percebidos como positivos, enquanto poluição do ar, saúde ocupacional e desigualdade de gênero são vistos como negativos[7]. Com base nos termos levantados e nos sentimentos detectados, é possível criar análises e insights sobre dados não estruturados, com economia de custo e tempo.

Deve-se atentar no uso de modelos PLN para a garantia de transparência e de que os dados disponíveis para treinamento de modelo ou para criação de inferência sejam representativos da população estudada, garantindo a diversidade de fontes de dados, rastreabilidade de dados geográficos e setoriais e assegurar dados de alta qualidade.

A melhor maneira de termos uma ideia realista sobre o desempenho do ChatGPT é analisando a precisão do conteúdo de suas respostas para questões formuladas. 

Pergunta 1: Você acha que há má qualidade ou disponibilidade de dados e análises ESG? Resposta: Não há uma única resposta para essa pergunta, pois a qualidade e disponibilidade de dados e análises ESG variam amplamente entre diferentes empresas e setores. Algumas empresas fornecem informações detalhadas e atualizadas sobre suas práticas e desempenho ESG, enquanto outras oferecem pouca ou nenhuma informação. 

Além disso, a qualidade das análises ESG também varia, e é importante fazer uma avaliação cuidadosa e crítica dos dados e informações disponíveis. No geral, no entanto, a conscientização e a importância crescentes da ESG têm levado a uma melhoria na disponibilidade e qualidade de dados e análises nesse campo.

A Pergunta 2 foi sobre como a IA pode ajudar na melhoria desses dados e análises ESG. Resposta: A inteligência artificial pode ajudar a melhorar a qualidade e a disponibilidade de dados e análises ESG de várias maneiras: 1. Coleta de dados: Algoritmos de aprendizado de máquina podem ser usados para coletar e processar grandes quantidades de dados ESG de fontes diversas, como relatórios financeiros, notícias e meios de comunicação social.

2. Análise de dados: A IA pode ser usada para analisar os dados coletados e identificar padrões e tendências relevantes. Por exemplo, os modelos de aprendizado de máquina podem ser treinados para prever o desempenho ESG futuro de uma empresa com base em suas práticas e desempenho passados.
3. Monitoramento: Os algoritmos de IA podem ser usados para monitorar continuamente o desempenho ESG de uma empresa e alertar os usuários sobre mudanças significativas. 
4. Melhoria da transparência: A IA pode ser usada para tornar mais fácil e acessível para os investidores acessar e compreender informações ESG relevantes sobre as empresas em que estão considerando investir.

O resumo que o ChatGPT fez é pertinente, ao afirmar que a “ IA pode ser uma ferramenta valiosa para melhorar a qualidade e disponibilidade de dados e análises ESG, ajudando a promover decisões de investimento mais informadas e responsáveis”.

Um outro quadro que abre um espaço cada vez mais significativo para a análise de dados de maneira objetiva e confiável é o dos investimentos sustentáveis. Com o advento, principalmente, das mudanças climáticas, os Objetivos de Desenvolvimento Sustentável (ODS) das Nações Unidas tornaram-se um novo paradigma inevitável.

Os investimentos em conformidade com os ODS têm o potencial de remodelar setores inteiros e impactar positivamente o desenvolvimento de corporações, economias e sociedades em direção a maior sustentabilidade.

Dados ESG de alta qualidade tornaram-se muito valiosos nos últimos anos, em especial devido às regras impostas pelos reguladores financeiros dos Estados Unidos e da União Europeia, que impuseram  dispositivos estritas de relatórios aos gestores de ativos, com o objetivo de minimizar o risco de greenwashing, a prática de organizações de promover discursos e ações ditas sustentáveis, mas que não são realmente adotadas.

Em Singapura, por exemplo, bancos terão que passar por um teste de estresse. A Autoridade Monetária de Singapura empregará IA e métodos de verificação de dados para que a proveniência de investimentos verdes possa ser atestada.

Nas próprias iniciativas corporativas de ESG, a IA tem um papel de crescente relevância. Na esfera ambiental, as empresas podem aplicar ferramentas de IA para cumprir critérios ambientais em seus modelos de negócios, como aumentar a eficiência energética nas operações, ao adotar redes inteligentes que aproveitam a análise de dados em tempo real para garantir a demanda e o fornecimento de energia. 

De fato, com redes mais complexas coletando energia de diferentes fontes, não renováveis ​​e renováveis, a IA pode analisar conjuntos de dados massivos, melhorando o gerenciamento dessas fontes.

De forma similar, ferramentas de IA podem apoiar no controle da poluição e do gerenciamento de resíduos. Na agricultura e na indústria alimentícia, as perdas pós-colheita e o desperdício de alimentos são dois dos principais problemas na gestão da cadeia de abastecimento e logística. Uma aplicação é a de dispositivos inteligentes baseados em tecnologias de sensores que permitem a automatização do envio e da entrega de mercadorias, monitorando e prevendo a perecibilidade da carga.

Além disso, as informações auxiliam os profissionais de cadeia de suprimentos quanto à alteração de preço da carga ou momento de envio das cargas, possibilitando o corte de custos logísticos e tempo.

[1] Disponível em: ChatGPT: Optimizing Language Models for Dialogue (openai.com)

[2] Disponível em: Sustainability and AI | Oracle

[3] Disponível em: blackrock-sustainability-survey.pdf (lalr.co)

[4] S&P: O Índice S&P 500 é um índice de mercado criado pela S&P Dow Jones Indices e que representa o desempenho médio das ações de empresas americanas de maior capitalização negociadas nas bolsas dos EUA.

[5] PLN: O processamento de linguagem natural (PLN) é um ramo da linguagem artificial inteligência, que faz uso de recursos de computação que podem compreender a maneira como os humanos aprendem e usam a linguagem.

[6] Google BERT: Google BERT é um algoritmo e acrônimo para Bidirectional Encoder Representations from Transformes. Baseado em inteligência artificial, ele é capaz de traduzir a linguagem humana para os computadores e permite que o Google entenda o que as pessoas estão buscando.

[7] Disponível em: Artificial Intelligence Solutions to Support Environmental, Social, and Governance Integration in Emerging Markets (ifc.org)

LORENA CARNEIRO – Sócia da Lee, Brock, Camargo Advogados, LLM em Direito Societário e Mercados de Capitais pela FGV-RJ e cursando MBA em Gestão de Negócios, Inovação e Empreendedorismo pela FIA

KRISTIAN LEE – B.Sc. in Economics and Business Administration e Computer Science Student, ambos pela Goethe Universität Frankfurt Am Main, e Senior Business Analyst na Warren Brasil.

O post IA constrói um futuro estratégico para o ESG apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.