seja do Congresso brasileiro  que tem em tramitação o PL 2338/2023 ou da União Europeia, que possui o debate mais avançado sobre regulamentação da IA e que convocou, recentemente,  uma cúpula global para encontrar meios para refrear os sistemas avançados dessa tecnologia.

Há quem compare a tecnologia de IA a um cavalo selvagem, que galopa velozmente, mas de forma desgovernada. 

Por isso, as rédeas e o adestramento são vistos como benéficos, ou seja, como forma de garantir direitos, não comprometer a inovação, mas responsabilizar os desenvolvedores, até porque o próprio Parlamento Europeu reconhece que a IA, embora vista como “ameaça imprevisível”, pode ser uma ferramenta poderosa e fator de mudanças relevantes, oferecendo produtos e serviços inovadores, que trarão benefício à sociedade , especialmente nas áreas da saúde, sustentabilidade, segurança e competitividade.

O Artificial Intelligence Index Report 2023, da Universidade de Stanford, registra que cresceram os casos legais envolvendo a tecnologia de IA em 2022, nos EUA.  Totalizam 23 ações na Califórnia, 17 em Illinois, 11 em Nova York e números menores  em outros Estados.

O levantamento ressalta que já está em vigor uma série de regulamentos, como de Illinois (Biometric Information Privacy Act) sobre   a coleta e armazenamento de informações biométricas que precisam ser seguidos por todas as empresas que fazem negócios naquele estado norte-americano e acabam levando ao incremento do conflito e disputa legal.1

O projeto brasileiro sobre regulação da IA (PL 2338/2023) é de autoria do presidente do Senado Federal e Congresso Nacional, Rodrigo Pacheco. Segue, em boa parte, as linhas do projeto europeu. Visa a estabelecer o uso responsável dos sistemas de IA, centralizados na pessoa humana, respeito aos direitos humanos, valores democráticos, proteção ambiental, entre outros requisitos.

O projeto de lei também traz uma categorização de riscos, sendo considerados excessivos aqueles que utilizam técnicas subliminares, exploram vulnerabilidade de grupos específicos de pessoas naturais ou leve o poder público a avaliar, classificar ou ranquear pessoas naturais. O texto trata também da identificação biométrica à distância em casos de persecução de crimes passíveis de reclusão acima de 2 anos, busca de vítimas de crimes ou pessoas desaparecidas ou crimes em flagrante.2

LEIA TAMBÉM: Como separar o direito autoral humano dos “direitos” da IA generativa

Independente do ritmo em que a regulação da IA caminha em todo o mundo, a tecnologia amplia sua tessitura no mundo dos negócios.

O conjunto de regramentos da UE (AI Act e AI Liability Directive) oferece um ponto inicial para entender como será o conjunto dessa legislação, que deve ter reflexos em outros países, assim como aconteceu com sua Lei de proteção de dados, a GDPR (Regulamento Geral de Proteção de Dados), que serviu de referência para leis similares em muitos países, inclusive no Brasil, com a Lei Geral de Proteção de Dados (LGPD).

O grande passo da União Europeia, que entra neste ano na fase final de avaliação do conjunto de regramentos a ser aplicado às tecnologias de IA , é o entendimento do Parlamento Europeu na Resolução de 3 de maio deste ano, que afirma que a “classificação deve ser acompanhada de orientações e do fomento do intercâmbio de boas práticas em prol dos criadores de IA”.

Assim como o  direito à privacidade  ser sempre respeitado, devendo os” criadores de IA devem garantir o pleno cumprimento das regras em matéria de proteção de dados”.3

A proposta da UE de regular a IA começou  em abril de 2021 (AI Act) e possui uma estrutura regulatória que, de um lado, assegura seu desenvolvimento e, de outro, protege os direitos fundamentais dos europeus, tornando-se sistemas confiáveis.

Essa estrutura de regulamentação tem uma categoria de riscos – sendo os sistêmicos aqueles que envolvem os direitos fundamentais – e uma forte estrutura de governança e segurança jurídica. Suas penalidades são onerosas, podendo chegar a 30 milhões de euros e, no caso de empresa, a 6% do seu volume mundial de negócios mundiais do ano relativo ao total do exercício anterior.4

Dentro da proposta de regulação europeia, os riscos são categorizados. São considerados  riscos inaceitáveis os sistemas subliminares, manipuladores ou exploratórios, que possam causar danos, caso de identificação biométrica remota em tempo real em espaços públicos.

Recentemente, a Prefeitura de São Paulo suspendeu o pregão eletrônico para contratar sistema de câmeras de monitoramento e reconhecimento facial, visando políticas de segurança pública preventiva, sendo que inúmeras entidades de defesa do consumidor e da sociedade civil acionaram o Ministério Público do Estado contra o projeto, que foi cancelado pela Prefeitura.

VEJA MAIS: IA, predadores tecnológicos e massificação das demandas

Na Europa, o uso de sistema de identificação biométrica remota em tempo real em espaços acessíveis ao público para fins de aplicação da lei somente é autorizado em algumas exceções.

No caso do uso privado da biometria é apenas para  identificação biométrica retrospectiva. Também se discute na lei europeia o uso de tecnologias biométricas como expressão facial, sendo que não há ainda base científica sobre a aferição de estados emocionais e traços da personalidade mensurados pela biometria.

Para assegurar o futuro, a lei europeia prevê a necessidade de adotar um mecanismo para adicionar subcategorias às existentes à medida que novos usos da tecnologia são incorporados.

A exemplo da GDPR, a regulamentação europeia da IA prevê que os implantadores (qualquer pessoa, grupo ou autoridade pública que implemente um sistema de IA) tenha acesso a canais que lhes permitam apresentar queixas, buscar uma ação coletiva, ter o direito à informação e uma agência de fiscalização com padrões e recursos suficientes para desempenhar suas responsabilidades previstas em Lei.

No AI Act, a questão da finalidade, a exemplo da GDPR, é um ponto importante. Os fornecedores devem explicitar a finalidade pretendida da tecnologia criada para tornar mais transparente o uso potencial; assim como seus limites, deixando igualmente claras as suas responsabilidades.

É o caso do uso da biometria remota em tempo real por parte de autoridades em uma manifestação com confrontos, por exemplo. Deve atender aos objetivos de uso e teste de proporcionalidade,para que não ameace o Estado de Direito.

Em paralelo a Lei AI Act, a União Europeia criou no ano passado a AI Liability Directive, um regramento voltado à responsabilidade civil aplicável à tecnologia de inteligência artificial, uma vez que há superposição de responsabilidades no caso de gerar prejuízos, seja do fabricante, proprietário ou operador, assegurando o direito de reparação das vítimas.

A própria Diretiva traz a justificativa de sua criação: “As condições para a implantação e desenvolvimento de tecnologias de IA no mercado interno pode ser significativamente melhorado por prevenir a fragmentação e aumentar a segurança jurídica através de medidas harmonizadas na UE, em comparação com possíveis adaptações de regras de responsabilidade em nível nacional”.5 

A Universidade de Stanford, que possui um observatório sobre regulação da IA, apontou no ano passado a aprovação de  37 projetos de lei para regular essa tecnologia. As abordagens são muito diferentes e incluem todo tipo de preocupação.

Este ano, a  Cúpula de Crescimento do Fórum Econômico Mundial, que aconteceu em maio, colocou mais um elemento no debate: a IA levará a uma necessária requalificação da força de trabalho e dos sistemas educacionais. O Fórum estima que 1,1 bilhão de empregos serão transformados pela tecnologia, tornando necessário que os programas de aprendizado sejam atualizados neste sentido.

A preocupação com os sistemas de IA não se restringem ao universo jurídico ou educacional, mas são tão abrangentes que o Fórum Econômico Mundial está reunindo as melhores cabeças da academia, da indústria e dos governos para refletir sobre a IA generativa,

defendendo que todos os stakeholders (partes interessadas que podem impactar determinado negócio, sejam clientes, investidores, profissionais, agências reguladoras, comunidades, mídias etc.) trabalhem juntos para mitigar as externalidades negativas, ou seja, os custos sociais e econômicos para sociedade das tecnologias de IA. Assim, talvez, surja a  resposta de como teremos uma IA  mais responsável.

1 Disponível aqui.

2 Disponível aqui.

3 Disponível aqui.

4 Disponível aqui.

5 Disponível aqui.

O post Como tornar a Inteligência Artificial mais responsável? apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

A nova rede social Clubhouse, apesar de lançada em março/abril de 2020, se tornou no início deste ano um dos assuntos mais comentados na Internet, mais procurados(1) em provedores de buscas e com maior número de downloads(2).

Acontece que, mesmo sendo uma ferramenta de contornos transnacionais, o usuário precisa estar atento às orientações peculiares dessa nova plataforma.

O propósito da ferramenta é viabilizar a comunicação entre usuários exclusivamente por meio de áudios/conversas em tempo real. Ou seja, as informações não ficam arquivadas e não há espaço para vídeos, comentários, curtidas, textos ou fotos, ressalvada a imagem de perfil do usuário.

O Clubhouse, portanto, permite ao usuário, a partir do registro de domínio, a criação e/ou a participação em salas de bate-papo por voz organizadas por temas, fomentando assim conversas variadas com pessoas ao redor do mundo.

Dentro de cada sala – que pode ser privada ou pública -, o usuário pode ser um moderador, organizando e gerenciando conversas; um alto-falante, podendo falar abertamente nas conversas; ou um mero ouvinte que entra nas conversas no modo mudo.

As infinitas possibilidades de interações ao vivo despertam o interesse da sociedade. O fato de a rede social ser uma novidade já utilizada por muitas celebridades nos Estados Unidos e no Brasil, porém, além de potencializar o “FOMO” – Fear of Missing Out ³, faz com que seja necessário também chamar a atenção à parte das regras previstas nos Termos Serviço(4), Políticas de Privacidade(5) e Diretrizes(6) – documentos estes dificilmente lidos pela maioria da população no momento da aceitação – as quais merecem ser compreendidas pelos atuais e futuros usuários, considerando os desafios jurídicos que surgiram e ainda podem surgir.

Antes de tudo é preciso observar que a desenvolvedora da rede social, Alpha Exploration Co., encontra-se localizada na Califórnia, de modo que todos os direitos e deveres relacionados ao aplicativo são regidos pela legislação local. Ainda, não há qualquer sociedade constituída fora dos Estados Unidos a fim de representar ou revender, por exemplo, no Brasil, o(s) produto(s) desenvolvido(s) pela empresa.

Da análise das regras e diretrizes da plataforma, algumas podem ser consideradas mais polêmicas. Nota-se que há canais de contato e reclamação, à luz de normas consumeristas, especificamente para usuários da Califórnia.

A ferramenta também prevê que podem ser coletadas informações de utilização da rede social pelo usuário, como o tipo de conversa mantida, os conteúdos de interesse e os dados dos contatos da agenda dos usuários. Não é permitido tentar gravar, salvar, transcrever ou reproduzir conversas, sendo que a única exceção é a retenção temporária do conteúdo pelo Clubhouse quando há denúncia de violação por usuário enquanto a sala está ao vivo.

Ainda, durante o atual período de teste, o ingresso no aplicativo depende do convite de membro que já utiliza a plataforma, o qual poderá ser responsabilizado/banido na hipótese de o convidado violar alguma regra prevista.

Diante disso, o primeiro desafio que surge com o Clubhouse refere-se à questão da privacidade de usuários e à eventual adequação da rede social às legislações como o GDPR (General Data Protection Regulation) e a LGPD (Lei Geral de Proteção de Dados).

Como dito, a ferramenta observa a legislação local e leva em consideração os direitos dos titulares dos dados sob o California Privacy Act, mas não indica um DPO (Data Protection Officer) responsável pela proteção de dados pessoais da empresa, fornecendo somente um e-mail da área de suporte.

Os usuários internacionais são informados apenas de que, com a utilização do serviço, os dados são transmitidos aos Estados Unidos, onde são utilizados pelos servidores dos parceiros tecnológicos da empresa operadora.

Ademais, o Clubhouse transfere ao usuário a responsabilidade das informações, ou seja, as restrições relevantes não são trazidas de forma clara, abrindo amplamente as opções para a empresa operacional.

O segundo desafio diz respeito à facilidade com que as pessoas emitem opiniões sem deixar qualquer rastro, podendo assim transformar a ideia de troca, oportunidade de networking e conexão pregada pela rede social diante do aumento de discursos de ódio, formas de racismo e outros abusos. Nessa situação, como poderia o(s) usuário(s) ofendido(s) tomar providências com relação a terceiros que excederem os limites? Como garantir a identidade daqueles que ingressam na rede social? Como poderiam eventuais indícios de ocorrência de ilícito serem comprovados?

Ainda que as diretrizes da rede social vedem expressamente qualquer abuso, não há como impedir ou prever o que será dito pelos usuários, na mesma medida que poderá não haver, na hipótese de ausência de denúncia em tempo hábil, formas de atestar o que foi dito e por quem foi dito a fim de reparar eventual lesão.

O terceiro desafio que chama a atenção refere-se à monetização. Sabe-se que redes sociais se tornaram, há alguns anos, a principal fonte de receita de profissionais. Com isso, como poderiam os usuários que geram conteúdos relevantes receberem valores a partir do Clubhouse?

Uma das ideias da plataforma é funcionar como um serviço de crowdfunding, permitindo a determinados usuários/criadores de conteúdo que recebam fundos diretamente de seu público, enquanto a rede social ficaria com um percentual referente às transações.

Também há estudos que avaliam a possibilidade de introdução de planos diferenciados ao usuário (premium) e anúncios/publicidade. Além disso, outras alternativas que ainda podem ser consideradas são a “venda” de ingressos para a participação em determinada sala, sendo, por exemplo, um bate-papo em que o fã possa falar diretamente com seu ídolo; ou a criação de “clubes”, grupos pagos ou patrocinados dentro da ferramenta.

Nesta perspectiva, como ficaria a discussão relacionada aos valores repassados para os usuários e a tributação envolvida? Na hipótese de intercorrências na plataforma, como acompanhar o engajamento na rede social e como/de quem cobrar eventuais quantias?

Quais as regras que precisam ser seguidas para fins de eventual publicidade/remuneração? O usuário pode ser banido na hipótese de cobrar valores de outros, enquanto a rede social não atua como intermediária de pagamento? Poderia ser permitida a venda de convites para novos usuários por atuais membros da rede social?

A pessoa que supostamente transferir valor a outro usuário a fim de, por exemplo, assistir a uma palestra, poderá cobrar a restituição da quantia, caso o evento planejado na plataforma não ocorra? A depender da conversa, seria importante manter a sala de bate-papo fechada e elaborar um contrato “fora da rede social” para lastrear o evento virtual, bem como as eventuais condições de pagamento?

O quarto desafio que se pode mencionar a título de exemplo, por fim, refere-se aos limites de jurisdição da rede social. Uma vez que cada Estado é soberano e define suas leis internamente, foi relatado que, na última segunda-feira (08/02), o Clubhouse teria tido seu funcionamento interrompido na China por viabilizar discussões que desagradam o governo local.

Quando os usuários tentavam acessar o aplicativo, aparecia uma mensagem de erro informando que “não podia ser feita uma conexão segura com o servidor”, embora muitas pessoas relatem continuar usando a rede social por meio de VPN, apesar desta tecnologia ser monitorada pelo governo chinês que, com efeito, considera ilegal qualquer VPN não aprovado.

Considerando todos os aspectos jurídicos aqui envolvidos, conclui-se que eventual regulação do Clubhouse, neste momento, ocorrerá através de arquitetura e normas sociais. Conforme ensina Lawrence Lessig, há quatro modalidades de regulação na Internet: direito, normas sociais, mercado e arquitetura.

Acredita-se que a arquitetura do aplicativo, a maneira como esse é desenvolvido e as condições estabelecidas para uso, afetará diretamente no controle e nas liberdades proporcionadas pela rede social.

De outro lado, normas sociais como costumes ou qualquer outra manifestação com fundo normativo – emanado de comunidades – pode auxiliar no uso da ferramenta, uma vez que eventuais denúncias e o convite para novos usuários de membros da rede social serão fundamentais para a vida saudável da rede social, além da possibilidade de se combinar “fora da plataforma” a realização de eventos dentro da rede social e suas condições.

Assim, sem prejuízo das modalidades de regulação e dos desafios inerentes ao Clubhouse, é preciso que a sociedade adquira o hábito de ler e de tentar compreender os Termos de Serviço, Políticas de Privacidade e Diretrizes da rede social de modo a evitar problemas futuros.

De toda sorte, na hipótese de surpresas ou interesses que careçam de providências jurídicas, é necessário que usuários e futuros usuários contem com profissionais qualificados capazes de prevenir litígios e de buscar mecanismos de cooperação judiciária internacional para resolver conflitos, se necessário.

3. A FOMO é a sigla da expressão em inglês “fear of missing out”, que em português significa algo como o “medo de ficar de fora”, e que se caracteriza por uma necessidade constante de saber o que as outras pessoas estão fazendo. Síndrome de FOMO é a patologia psicológica que se produz pelo medo a ficar fora do mundo tecnológico ou a não se desenvolver ao mesmo ritmo que a tecnologia.

Confira  as últimas atualizações jurídicas sobre o impacto do Coronavírus no Brasil e no mundo/a></a

O post Quatro desafios jurídicos da nova rede social Clubhouse apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.