No cenário tecnológico contemporâneo, a vertiginosa evolução da IA redefiniu a criação de conteúdo, porém, no Brasil, ainda enfrentamos um vácuo legal, já que não há uma legislação específica que regule essa “ressurreição digital”. A capacidade da machine learning de emular a cognição humana é surpreendente, mas relatórios de 2024 indicam que o uso de deepfakes para fins maliciosos cresceu 830% no país, o que acende um alerta sobre a proteção da imagem post-mortem.

Leia na íntegra: https://www.conjur.com.br/2026-mar-17/incertezas-na-reconfiguracao-dos-direitos-da-personalidade-post-mortem-na-era-digital/

O post Incertezas na reconfiguração dos direitos da personalidade post-mortem na era digital apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

O avanço da IA não se limita apenas a inovações de grande escala; sua influência se estende ao dia a dia através de assistentes virtuais, como Siri e Alexa, e soluções de automação doméstica, as chamadas smart homes, que têm crescido cada vez mais, especialmente após a ampla cobertura da tecnologia 5G. Esses avanços oferecem conveniência e eficiência, mudando a forma como interagimos com nossos dispositivos e ambientes. Entretanto, a integração da IA na vida cotidiana também levanta questões críticas sobre o seu uso ético, fomentando o debate pela regulação e estabelecimento de regras claras, especialmente quanto ao (ab)uso de dados pessoais.

Embora a IA apresente oportunidades incríveis, sua natureza dualística também traz consigo alguns desafios éticos e morais significativos. A mesma tecnologia que pode salvar vidas e criar experiências enriquecedoras pode ser mal utilizada, levantando preocupações sobre o equilíbrio entre inovação tecnológica e responsabilidade social. A crescente preocupação com a ética no emprego das tecnologias de IA reflete a necessidade de um debate contínuo e de regulamentações que assegurem que os benefícios da tecnologia sejam acessíveis a todos, sem comprometer valores humanos fundamentais e sem desvirtuar os propósitos originais, pelos quais a tecnologia foi desenvolvida.

A tecnologia, apesar de seus benefícios inquestionáveis, não está imune ao uso indevido e indiscriminado por parte de pessoas mal-intencionadas. Malwares e ciberataques são exemplos claros de como a tecnologia pode ser desvirtuada, causando danos significativos a indivíduos e organizações. Esses ataques digitais exploram vulnerabilidades para roubar dados, interromper operações e até mesmo causar danos físicos.

O fenômeno crescente das deepfakes, possibilitado pelo avanço da IA, é outra faceta preocupante do mau uso da tecnologia. Estes algoritmos avançados são capazes de criar vídeos e imagens falsos, mas incrivelmente realistas, que podem ser usados para disseminar desinformação e criar conteúdo prejudicial, como pornografia não consensual. A facilidade com que essas deepfakes podem ser criadas e disseminadas representa um risco significativo para a integridade e a confiabilidade da informação na era digital.

A disseminação dessas deepfakes levanta questões críticas sobre ética e privacidade. Como sociedade, enfrentamos o desafio de lidar com as implicações morais e legais dessas tecnologias. Há uma necessidade urgente de uma discussão abrangente sobre como regulamentar e controlar o uso da IA para prevenir seu abuso, protegendo, entre outros direitos, a privacidade e a segurança dos indivíduos.

A atriz Isis Valverde foi vítima de uma violação grave de privacidade quando sua imagem foi usada sem consentimento em nudes falsos, um exemplo claro do abuso de deepfakes. Esse incidente não só violou seus direitos pessoais, mas também levantou questões sobre a facilidade com que a imagem de uma pessoa pode ser manipulada e abusada, desencadeando uma discussão legal e social mais ampla sobre a proteção de direitos na era digital.

O caso envolvendo estudantes de uma escola em Belo Horizonte, onde um aluno é suspeito de usar IA para criar imagens íntimas falsas de colegas, é outro exemplo alarmante. Este incidente destaca não apenas as questões legais envolvidas, mas também o impacto devastador dessas ações nas vítimas, incluindo danos à reputação e traumas psicológicos duradouros. Tais casos ilustram a necessidade crítica de medidas de proteção eficazes para as vítimas desses abusos tecnológicos.

LEIA TAMBÉM: Projeto de Lei nº 2.796/21: o futuro dos jogos eletrônicos no Brasil

O trauma psicológico e a violação de direitos pessoais causados pelas deepfakes são imensos. O impacto na sociedade é vasto e perturbador. Eles representam uma ameaça à verdade e à confiança nas informações, uma vez que vídeos e imagens falsificados podem ser indistinguíveis da realidade. Além disso, as deepfakes pornográficas violam a privacidade e a dignidade das vítimas, geralmente mulheres, causando danos psicológicos e sociais irreparáveis, uma vez que enfrentam não apenas a invasão de sua privacidade, mas também danos à sua reputação e bem-estar emocional. Esses casos evidenciam a necessidade urgente de proteção legal e medidas de segurança robustas para prevenir tais abusos.

Diante desses desafios, torna-se essencial discutir a regulação do uso ético e responsável de ferramentas de IA. No contexto eleitoral, a preocupação com as deepfakes ganha uma dimensão ainda mais crítica, ampliada pela publicação da Resolução nº 23.732, do Tribunal Superior Eleitoral. À medida que nos aproximamos de períodos eleitorais, a capacidade dessas tecnologias de manipular a realidade e influenciar a opinião pública torna-se uma ameaça direta à integridade do processo democrático. É essencial reconhecer que, embora a IA possa oferecer ferramentas valiosas para campanhas políticas, como análise de dados e segmentação de eleitores, o uso de deepfakes para difamar adversários, espalhar desinformação ou criar cenários falsos pode corroer a confiança nas instituições e comprometer a escolha informada dos eleitores.

Diante desse cenário, o TSE adotou medidas rigorosas para prevenir o uso mal-intencionado de deepfakes nas eleições, impondo o dever de identificar todo conteúdo criado com inteligência artificial. Essa obrigatoriedade de transparência tem como objetivo evitar a confusão ou engano dos eleitores quanto à natureza artificial do conteúdo apresentado. Além disso, também foram estabelecidas normas claras para a identificação e remoção de conteúdo falso, a implementação de sistemas de verificação de fatos e a limitação no uso de robôs (os chamados bots) para simular interações humanas na campanha e proporcionar a propagação de mensagens automatizadas em massa. É crucial que os partidos políticos e candidatos se comprometam com a ética no uso de ferramentas digitais, evitando a propagação de conteúdo manipulado que possa enganar o eleitorado e interferir no resultado do processo democrático.

LEIA TAMBÉM: LBCA alerta que empresas têm prazo para aderir ao Domicílio Judicial Eletrônico

A educação digital também desempenha um papel fundamental na mitigação dos efeitos negativos da tecnologia. A resolução é enfática ao proibir a difusão de informações falsas ou descontextualizadas com o potencial de desequilibrar o pleito eleitoral. Medidas severas são previstas para as infrações, visando preservar a autenticidade e a credibilidade do processo eleitoral. Ao capacitar os cidadãos para identificar e questionar conteúdos suspeitos, podemos construir uma sociedade mais resiliente frente aos desafios impostos pela desinformação. Paralelamente, o desenvolvimento de tecnologias de detecção de deepfakes e a colaboração entre plataformas de mídia social, órgãos de fiscalização e comunidade científica são essenciais para aprimorar as defesas contra essas ameaças.

Enquanto a IA continua a evoluir e a moldar o futuro da sociedade, é vital que abordemos os desafios éticos e morais que acompanham seu avanço. No contexto eleitoral, em particular, a luta contra as deepfakes é uma batalha crucial na defesa da democracia e da verdade. Ao adotar uma abordagem proativa e colaborativa, podemos garantir que a tecnologia seja utilizada como uma força para o bem, preservando a integridade das eleições e promovendo um debate político saudável e baseado em fatos.

O post Deepfakes: ética e (ab)uso na era da inteligência artificial apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Na Câmara dos Deputados tramitou o PL 21/2020, aprovado pelos parlamentares, mas considerado muito genérico e principiológico. Por outro lado, o Senado Federal formou uma Comissão de Juristas encarregada de desenvolver um anteprojeto que contemplasse diversas propostas, incluindo os PLs 5.051/2019, 872/2021 e o já mencionado PL 21/2020, além de considerar as contribuições do setor público, empresarial, da sociedade civil e da academia. O resultado foi a elaboração do PL 2338/2023, apresentado pelo presidente do Senado, Rodrigo Pacheco (PSD-MG), com o objetivo de “proteger os direitos fundamentais e assegurar a implementação de sistemas seguros e confiáveis, beneficiando a pessoa humana, o regime democrático, e promovendo o desenvolvimento científico e tecnológico”.1

À medida que cresce o uso Inteligência Artificial, aumenta o interesse em regular os sistemas de IA de forma pontual. É o caso do projeto de lei 370/24, da deputada Jandira Feghali (PC do B- RJ), aprovado na Câmara e em análise no Senado, voltado a aumentar a pena de crimes de violência on-line cometidos contra mulheres por meio do uso de deepfakes (alteração digital de imagens e áudios falsos empregando IA, que parecem reais) e demais tecnologias. A pena de 6 meses a 2 anos de reclusão pode ser agravada para até 3 anos, se houver uso de tecnologias de IA. Este tipo de delito resulta em danos sociais, profissionais e emocionais para as vítimas.

Um caso que serviu de inspiração a este Projeto de Lei foi o episódio envolvendo alunas de um tradicional colégio do Rio de Janeiro, no final de 2023. Alguns colegas das adolescentes usaram tecnologia de IA para remover as roupas de mais de 20 alunas. As imagens falsas (nudes) foram disparadas em grupos de aplicativos de troca de mensagens. Este delito é análogo à simulação e participação de criança ou adolescente em material pornográfico realizado por adulteração de imagens (deekfakes), uma vez que as estudantes eram menores de idade. A deepfake de violência de gênero viola uma série de direitos da vítima:

Proteção de Dados Pessoais

As deepfakes podem envolver o uso não autorizado de dados pessoais (como a imagem de alguém) para criar conteúdo falso, violando leis de proteção de dados que visam a proteger a informação pessoal contra uso indevido.

VEJA MAIS: Aplicação da IA generativa e inovação legal

Privacidade

O uso de imagens para criar vídeos ou fotos falsas invade a privacidade da vítima, expondo-as a situações constrangedoras ou difamatórias sem seu consentimento.

Honra

A criação e disseminação de deepfakes podem difamar a vítima, prejudicando sua reputação e honra através da associação com comportamentos ou situações falsas.

Autoimagem

Deepfakes podem afetar negativamente a percepção que uma pessoa tem de si mesma, causando danos emocionais e psicológicos.

O resultado do conteúdo gerado pode ser falso, mas utiliza dados pessoais verdadeiros, violando também, no caso brasileiro, a Lei Geral de Proteção de Dados (LGPD). Há até quem fale que está em curso uma nova epidemia de violência contra as mulheres no ciberespaço. De acordo o Wired, somente nos primeiros nove meses de 2023, cerca de 240 mil vídeos deepfake foram carregados nos 35 principais sites de pornografia do mundo.

Já há legislações que criminalizam compartilhamento não consensual de deepfake on-line com fins maliciosos em alguns Estados norte-americanos, como Califórnia, Nova York, Texas e Virginia, e em países, como Austrália, África do Sul e Grã-Bretanha. Está em curso uma regulamentação similar no Parlamento Europeu, Canadá e Colômbia, uma vez que cresce entre os legisladores a preocupação em criminalizar deepfakes usadas como meio de abuso contra mulheres. De acordo com a Fundação MyImageMyChose, as deepfakes abusivas saíram do patamar de 144 mil em 2019 para 270 mil neste ano, crescendo 1.780% e vistas 4 bilhões de vezes.

A ampliação do uso das deepfakes se deve a uma rápida evolução da tecnologia de IA, que se tornou mais acessível, não sendo mais necessário amplos conhecimentos técnicos para utilizá-la. A produção de um vídeo deepfake, por exemplo, não leva mais do que 30 minutos e não tem custos. Qualquer selfie postada on-line pode ser alvo de deepfake criada a partir desta imagem, ampliando os abusos de gênero relacionados à tecnologia.

Mulheres em todo o mundo vem sendo vítimas desta violência digital, fomentada pelas deepfakes maliciosas, cujos algoritmos aprendem por meio da reprodução, sendo capazes de manipular atributos como olhos, boca, nariz, cor dos olhos, expressão, sincronização dos movimentos dos lábios, movimentos corporais, com um resultado que nem sempre é possível detectar que é falso. Se antes a divulgação de conteúdos íntimos sem consentimento eram uma ameaça, agora o risco se aprofunda porque as ferramentas de tecnologia para criar deepfakes geradas por IA se tornaram massivas, fáceis de usar e hiper-realistas.

As vítimas sofrem todo tipo de abuso facilitado pela tecnologia, podendo se constituir em formas de controlar, intimidar, isolar calar e envergonhar seus alvos, especialmente mulheres. Dados do Centro para Inovação em Governança Internacional apurou em 2020, em entrevistas com mais de 18 mil participantes em 18 países, 60% dos entrevistados tinham sofrido violência de gênero em plataforma digitais e redes sociais.

Uma série de estudos e pesquisas apontam que as deepfakes abusivas constituem um novo risco para as mulheres no universo digital, uma vez que se tornaram uma importante ferramenta para perpetrar ameaças e abusos de gênero. A deepkafe não é tecnologia recente. O termo se tornou público em 2017, quando uma série de fotografias de atrizes famosas foram recortadas e incorporadas a corpos de atrizes de filmes pornôs e postadas na Reddit (rede social norte-americana). No ano seguinte, viralizou um vídeo falso do ex-presidente norte-americano, Barack Obama, expressando um comportamento atípico e raivoso.

VEJA MAIS: Quatro polêmicas sobre o projeto que regula a inteligência artificial

Embora estejam mais presentes nas campanhas eleitorais, as deepfakes constituem a maioria de vídeos sexuais não consensuais, segundo pesquisa da Sensity AI.

Essa nova ferramenta tecnológica vem sendo usado por homens com padrão de dominação ou controle coercitivo sobre mulheres, o mesmo verificado em postagens de imagens íntimas (nudes) não consensuais na internet, que acabaram por ser alvo de regramento em grande parte do mundo. No Brasil, por exemplo, temos a Lei de Combate a Crimes Cibernéticos ou Lei Carolina Dieckmann (lei 12.737/12)2, que incluiu no Código Penal a tipificação de crimes virtuais e delitos informáticos, assegurando o direito à privacidade e à proteção de dados pessoais. A atriz Carolina Dieckmann deu nome à Lei porque teve seu computador invadido e suas fotos íntimas expostas na internet ao se negar a ser extorquida por cibercriminosos e ter denunciado o delito.

Este diploma legal é similar à Ley Olimpia do México3, que impõe pena de 6 anos de prisão para quem divulgar, sem consentimento, imagens íntimas. A Lei tem o nome da ativista Olimpia Coral Melo, que sofreu este tipo de violência quando era adolescente e pensou em suicídio diante da humilhação sofrida.

Pela legislação mexicana, as violências digitais são “atos de agressão, hostilidade, ameaças, insultos, vulnerabilidade de dados e informações privadas (…) através das tecnologias de informação e comunicação, plataformas de Internet, redes sociais, correio eletrônico, aplicativos ou qualquer outro espaço digital e atente contra a integridade, a dignidade, a intimidade, a liberdade, a vida privada ou direito humano das mulheres”.

As ferramentas de deepfake, originalmente desenvolvidas para aplicações legítimas como criações artísticas, entretenimento, educação, restauração histórica, e comunicação e marketing, enfrentam o desafio crítico do uso indevido que pode promover a violência de gênero. Para combater este abuso, vários obstáculos precisam ser superados, incluindo o rastreamento de autores, a remoção de conteúdo prejudicial, o desenvolvimento de ferramentas mais eficazes para detectar vídeos artificialmente criados, a natureza sem fronteiras da internet e a rápida evolução das tecnologias de inteligência artificial. Além da necessidade de avanços e aprimoramentos na legislação, a implementação de programas educativos dirigidos a estudantes de todos os níveis escolares se apresenta como um passo fundamental. Esses programas devem visar orientar e sensibilizar sobre o tema, bem como sobre o impacto negativo sofrido pelas vítimas, predominantemente mulheres, que têm seus direitos ameaçados.

__________

1 https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622&ts=1709906186049&disposition=inline

2 https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2012/lei/l12737.htm

3 https://www.infobae.com/sociedad/2023/10/11/el-congreso-aprobo-la-ley-olimpia-contra-la-violencia-digital/

4 https://myimagemychoice.org/

O post Combatendo deepfakes: Desafios de gênero na regulação contra a Violência Digital apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Assim, no dia 20/9, realizou o evento “Imersão na Era da IA“, com a palestra inaugural proferida pela professora Dora Kaufman, da PUC-SP, quando a LBCA apresentou publicamente suas Políticas Gerais de Uso de IAG, em um evento que reuniu convidados e todos os mais de 800 integrantes do escritório.

“Nós expusemos à equipe todas as regras de uso responsável e ético da IAG na LBCA, que foram exaustivamente discutidas durante várias semanas, seguindo o que há de mais avançado no mundo sobre o assunto. 

LEIA MAIS: Como separar o direito autoral humano dos “direitos” da IA generativa

Nós treinamos nossos profissionais sobre a importância de proteger dados pessoais e informações confidenciais, além de adotar as melhores práticas, evitando riscos à privacidade e segurança de dados no uso dessa tecnologia. Para a LBCA, é fundamental esclarecer nossos profissionais, parceiros e clientes“, afirma o sócio da LBCA, Solano de Camargo.

A LBCA conta com mais de 40 iniciativas de integração de suas ferramentas internas com diferentes iniciativas de IAG, nas mais diversas áreas, como recuperação de crédito, criação de dashboards, infográficos e apresentações e na área de LegalOps, além da otimização de fluxos internos e relatórios de produtividade.

Solano reforça que a IAG será empregada pelo escritório apenas para fins lícitos e benéficos, com base em 3 pontos fundamentais – treinamento dos modelos de IA a partir de dados acurados para evitar vieses de discriminação; uso transparente para que as partes interessadas fiquem sempre bem-informadas sobre o uso dessa tecnologia; e, por fim, jamais utilizar a IAG em substituição ao julgamento humano nas decisões críticas.

O escritório também está inserindo cláusulas nos contratos com fornecedores e parceiros, para que sigam os mesmos preceitos e permitam auditorias periódicas da LBCA para atestar que estão em conformidade com esses princípios, que passam a compor o código de governança do escritório.

LEIA MAIS: Regulação chinesa para sistemas generativos de IA pode influenciar o ocidente?

Para Solano, essa linha de atuação ajudará a LBCA a prevenir riscos potenciais da IAG, evitando a criação de deepfakes (vídeo ou áudios falsos), perda de dados pessoais ou eventuais vieses discriminatórios.

“Para consolidar essa postura, a LBCA tem realizado treinamentos periódicos com as equipes sobre ética no uso da IA, tendo instalado um comitê interno para monitorar e atualizar nossas políticas internas e assumindo o compromisso de publicar anualmente um relatório de transparência sobre o uso de IAG“, explica Solano.

Solano de Camargo durante evento “Imersão na Era da IA“, realizado dia 20/9.(Imagem: Divulgação)

O emprego da IAG dentro da LBCA seguirá um regramento composto por 16 regras gerais, que abrangem:

1. Proteção de dados pessoais e informações confidenciais;

2.Precisão e Supervisão na prática jurídica;

3.Transparência com os clientes;

4.Gestão de fornecedores de IA; 

5.Segurança e Proteção das Ferramentas de IAG;

6.Proteção da Propriedade Intelectual no âmbito das tecnologias de IAG;

7.Relacionamento Advogado-Cliente e sigilo profissional;

8.Responsabilidade e Prestação de Contas;

9.Integração com Outras Políticas de proteção de dados;

10.Monitoramento dos vieses da IA para evitar preconceitos;

11.Uso das melhores práticas de implementação;

12. Governança e supervisão;

13.Pesquisa e colaboração externa;

14.Monitoramento e responsabilidade;

15.Engajamento externo;

e 16.Metas de Longo Prazo,  sempre lastreadas por princípios éticos.

Mais informações, clique aqui.

O post LBCA inova e cria Política de Uso Ético da IA Generativa apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.