Notícia
3
min de leitura

Imagens e vídeos falsos de pornografia gerados por IA estão arruinando a vida de pessoas reais

Com facilidade de acesso às ferramentas que criam imagens e vídeos pornográficos realistas, cada vez mais mulheres e meninas são vítimas de deepfakes.

Tecnologia
Reprodução Oficina da Net
Redação Brasil Paralelo
Comunicação Brasil Paralelo

A youtuber Gabi Belle um dia foi surpreendida com uma foto sua posando nua circulando pela internet. Depois do calafrio, a influenciadora se acalmou e recordou que nunca posou nua para uma foto em um campo, como mostra a imagem. Ela sabia que a foto era falsa.

A moça, de 26 anos, pediu ajuda a uma amiga para remover as imagens da internet, mas ela foi surpreendida com mais de 100 fotos falsas dela nua espalhadas em diversos sites.

As imagens estavam hospedadas em sites conhecidos por hospedar pornografia gerada por Inteligência Artificial.

Bella afirmou que derrubou as fotos, mas depois novas imagens, ainda mais explícitas, começaram a aparecer.

“Eu me senti violada… Minhas partes íntimas não foram feitas para que todo o mundo veja. Eu não consenti com isso. Então é muito estranho que alguém faça imagens assim de mim”, afirmou em entrevista.

O “boom” de imagens e vídeos pornográficos falsos gerados em Inteligência Artificial

De forma barata e fácil de fazer, ferramentas de Inteligência Artificial (IA) conseguem “desnudar” pessoas em fotografias ou inserir o rosto de pessoas em vídeos pornográficos de forma bem realista.

As ferramentas analisam o corpo da pessoa e geram uma imagem de como, supostamente, deve ser aquela pessoa sem roupas.

Os 10 principais sites que hospedam fotografias pornográficas geradas por IA tiveram um crescimento de mais de 290% destas postagens desde 2018.Os dados foram apurados pelo Washington Post

Genevieve Oh, analista da indústria, afirmou que os sites contém fotos pornográficas falsas de celebridades, figuras políticas e adolescentes.

As principais causas por trás da criação de imagens pornográficas falsas com Inteligência Artificial são:

  • constranger a pessoa ou manchar a sua imagem;
  • extorquir dinheiro;
  • alimentar fantasias pessoais de alguma pessoa.

O que fazer ao ser vítima de uma imagem de pornografia falsa?

As imagens e vídeos pornográficos gerados com IA são conhecidos como “deepfake porn”. Contra esse problema, as vítimas têm poucos recursos. Não existem leis federais que regulamentam a internet contra as deepfakes.

Apenas alguns estados americanos criaram regulamentos para atacar o problema. Especialistas em direito alertam que as imagens falsas não serão enquadradas por problemas de direitos autorais.

Os fakes são gerados a partir de bancos que contém milhões de imagens.

O risco para mulheres e meninas é maior, elas são os principais alvos das imagens falsas de IA. Muitas têm dificuldade em lidar com a visibilidade gerada.

Um estudo feito em 2019 pela Sensity AI, companhia que monitora deepfakes, descobriu que 96% das imagens falsas geradas são de pornografia e 99% tem como alvo mulheres.

Sophie Maddocks, pesquisadora e advogada especializada em direito digital a Universidade da Pensilvânia afirmou:

“Agora está mirando em garotas, principalmente. Garotas novas e mulheres que não estão nos olhos do público”.

‘Mãe, veja. O que eles fizeram comigo?’

Miriam Al Adib Mendiri estava voltando para casa após uma viagem e encontrou com sua filha de 14 anos desconsolada. A filha mostrou para ela uma própria, em que aparecia completamente nua.

“Mãe, veja. O que eles fizeram comigo?”

A garota de 14 anos nunca posou nua, mas um grupo de garotos da sua cidade pegou suas fotos vestidas em suas redes sociais, e fizeram o mesmo com diversas outras garotas, e usaram a IA “nudifier”.

O nudifier é um app que auxilia a criar fotos de pessoas peladas. Analisando milhões de imagens, o software consegue prever de forma quase precisa como um corpo seria se estivesse sem roupas.

As imagens criadas são realistas e chocam muitas pessoas. Além de facilmente criar fotos, ele pode inserir o rosto de pessoas em vídeos pornográficos de maneira realista.

A atriz Scarlett Johansson já fez uma declaração sobre vídeos pornográficos feitos por IA: “nada pode impedir alguém de copiar e colar minha imagem [em um desses vídeos]”.

A facilidade de acessar as ferramentas de Inteligência Artificial contribuíram com o boom de imagens e vídeos falsos

Apesar de muitos geradores de imagens bloquearem os usuários de criar materiais pornográficos, alguns softwares de Inteligência Artificial tem o código aberto, como o Stable Diffusion, o que permite que as pessoas adaptem a tecnologia para permitir a criação dos deepfakes.

Segundo um estudo de Genevieve Oh nos 10 sites que mais hospedam imagens pornográficas fake:

  • mais de 415 mil imagens fakes foram publicadas esse ano;
  • as imagens somam mais de 90 milhões de visualizações.

Em sua pesquisa, Oh encontrou 40 sites populares que hospedam vídeos falsos gerados por Inteligência Artificial:

  • foram mais de 143 mil vídeos neste ano;
  • os vídeos concentram mais de 4.2 bilhões de visualizações;
  • de 2016 a 2022 o número de vídeos publicados não supera os 143 de 2023.

Em junho de 2023 o Federal Bureau of Investigation (FBI) alertou para uma alta de casos de extorsão sexual. Golpistas usavam imagens das redes sociais de uma pessoa, geravam fotos falsas e ameaçavam espalhá-las caso a pessoa não os pagasse.

Segundo informações dadas pelo FBI ao Washington Post, a prática está se expandindo. Em setembro 26.800 pessoas foram vítimas dessa extorsão, um aumento de 149% em relação a 2019.

O Google está criando novos mecanismos para proteger as pesquisas

O mecanismo de busca Google tem políticas de segurança para prevenir que imagens não consensuais apareçam nas buscas dos usuários, mas as proteções para deepfakes ainda não são robustas.

Pornografias deepfake e as ferramentas para criá-las ainda aparecem de forma proeminente nas pesquisas do Google. Mesmo que o usuário não esteja ativamente buscando pornografia gerada por IA, os resultados ocupam as primeiras páginas.

Ned Adriance, porta-voz do Google, declarou que a companhia está “trabalhando ativamente para trazer mais proteção às buscas”.

Adriance afirma também que a empresa permite os usuários solicitar a remoção da pornografia falsa e está expandido seus mecanismos de defesa para não exigir das vítimas solicitações individuais para derrubar deepfakes.

Tiffany Li, professora de direito da Universidade de São Francisco, afirmou que é bem difícil conseguir penalizar os criadores desse conteúdo. Como as IAs usam um enorme banco de dados de imagens, é difícil uma vítima provar que uma foto sua foi usada.

A urgência em regular imagens e vídeos gerados por Inteligência Artificial envolve a preocupação da distribuição em massa de conteúdo falso.

Sam Gregory, diretor executivo da organização Witness, afirma que há uma preocupação com os impactos da IA nas eleições. Sua organização lida com direitos humanos no mundo tecnológico.

As regras ainda não atacam o problema da pornografia de imagens e vídeos falsos, completou Gregory.

Os deepfakes espalhados em pequenos grupos podem acabar com a vida de uma pessoa.

Quais são as ameaças da pornografia gerada por inteligência artificial?

Imagens de nudez falsas, pornografia infantil e pessoas expostas em momentos íntimos, mesmo que falsos, são apenas alguns dos problemas.

Os geradores de pornografia com Inteligência Artificial melhoram nos últimos tempos. Há 1 ano, os resultados das imagens eram bem precários, segundo o site Tech Crunch. Hoje, com as ferramentas de geração de imagens e vídeos mais desenvolvidas e disponíveis para o público, conteúdos cada vez mais realistas vêm sendo produzidos.

O realismo causa alarme. Imagens de celebridades em conteúdos sexuais, imagens falsas de pessoas comuns envolvidas em conteúdo pornográfico, tudo isso permite problemas como:

  • deep fakes termo criado para imagens e vídeo manipulados por IA;
  • pornografia de vingança, quando uma pessoa é extorquida para fazer algo e, caso se recuse, terá suas imagens íntimas divulgadas;
  • pessoas e celebridades tendo “momentos íntimos” expostos por imagens e vídeos falsos;
  • criação de todos os tipos de pornografia, da infantil até com animais.

Muitas vezes, a criação do conteúdo explícito é feita sem o consentimento ou o conhecimento do indivíduo envolvido.

Segundo o portal de notícias de tecnologia Fagen wasanni, “qualquer um com conexão com a internet e conhecimento técnico básico consegue criar vídeos pornográficos realistas”.

Isto é uma ameaça séria à privacidade individual e ao consentimento das pessoas.

Segundo a Tech Crunch, o Washington Post contou a história de como uma professora de uma cidade pequena foi demitida após um vídeo sexual seu ser exposto, os alunos haviam criado com Inteligência Artificial.

DE DESCONTO

Escolha sua BP

Uma Brasil Paralelo para cada momento da sua vida

Básico

de
R$
19
/mês
12x
R$
19.00
/mês
Originais e Séries BP, Aplicativo e plataforma e Programação BP completa
Assine agora
*Assinatura anual com renovação automática.
Garantia incondicional de 7 dias
HD
Qualidade de vídeo
Nenhum
Downloads offline
Originais e Séries BP
Catálogo de filmes selecionados
Catálogo infantil seguro
+ de 300 entrevistas completas
Cursos do Núcleo de Formação
MELHOR PLANO

Premium

de
R$
59
/mês
12x
R$
59.00
/mês
Originais e Séries BP, Aplicativo e plataforma e Catálogo de filmes selecionados
Assine agora
*Assinatura anual com renovação automática.
Garantia incondicional de 7 dias
Originais 4K
Qualidade de vídeo
10 Títulos
Downloads offline
Originais e Séries BP
Catálogo de filmes selecionados
Catálogo infantil seguro
+ de 300 entrevistas completas
Cursos do Núcleo de Formação

Intermediário

de
R$
39
/mês
12x
R$
39.00
/mês
Originais e Séries BP, Cursos e formações BP eCatálogo de filmes sele
ASSINE AGORA
*Assinatura anual com renovação automática.
Garantia incondicional de 7 dias
Full HD
Qualidade de vídeo
2 Títulos
Downloads offline
Originais e Séries BP
Catálogo de filmes selecionados
Catálogo infantil seguro
+ de 300 entrevistas completas
Cursos do Núcleo de Formação

Plano Básico

Assinatura Vitalícia
Valor sem desconto:
12x de
R$ 190,00
Valor à vista:
R$ 2.280,00

Cupom aplicado 37% OFF

Valor com desconto:
12x de
R$ 119,00
Valor à vista:
R$ 1.428,00
Assine uma única vez >
Garantia incondicional de 7 dias.
de
R$
19
/mês
Originais e Séries BP, Aplicativo e plataforma e Programação BP completa
*Assinatura anual com renovação automática.
Resumo do plano:
Originais e Séries BP
Catálogo de filmes selecionados
Catálogo infantil seguro
+ de 300 entrevistas completas
Cursos do Núcleo de Formação
Downloads simultâneos:
Não disponível neste plano.
Qualidade do vídeo:
HD

Plano Premium

Assinatura Vitalícia
Valor sem desconto:
12x de
R$ 590,00
Valor à vista:
R$ 7.080,00

Cupom aplicado 62% OFF

MAIOR DESCONTO

Valor com desconto:
12x de
R$ 219,00
Valor à vista:
R$ 2.628,00
Assine uma única vez >
Garantia incondicional de 7 dias.
de
R$
19
/mês
Originais e Séries BP, Aplicativo e plataforma e Programação BP completa
*Assinatura anual com renovação automática.
MAIS COMPLETO
Resumo do plano:
Originais e Séries BP
Catálogo de filmes selecionados
Catálogo infantil seguro
+ de 300 entrevistas completas
Cursos do Núcleo de Formação
Downloads simultâneos:
10 títulos para assistir offline.
Qualidade do vídeo:
Originais em 4K

Plano Intermediário

Assinatura Vitalícia
Valor sem desconto:
12x de
R$ 390,00
Valor à vista:
R$ 4.680,00

Cupom aplicado 54% OFF

Valor com desconto:
12x de
R$ 179,00
Valor à vista:
R$ 2.148,00
Assine uma única vez >
Garantia incondicional de 7 dias.
de
R$
19
/mês
Originais e Séries BP, Aplicativo e plataforma e Programação BP completa
*Assinatura anual com renovação automática.
Resumo do plano:
Originais e Séries BP
Catálogo de filmes selecionados
Catálogo infantil seguro
+ de 300 entrevistas completas
Cursos do Núcleo de Formação
Downloads simultâneos:
2 títulos para assistir offline.
Qualidade do vídeo:
Full HD

Torne-se Membro da Brasil Paralelo

Assine e tenha 12 meses de acesso a todo o catálogo e aos próximos lançamentos da BP