A Inteligência Artificial (IA) é um dos principais avanços tecnológicos da atualidade, mas junto de seu rápido crescimento, diversos alertas aos seus possíveis danos vem surgindo. Usuários vêm utilizando da tecnologia para produzir conteúdo pornográfico.

• Leia mais: os principais problemas das Inteligências Artificiais.

Os geradores de pornografia com Inteligência Artificial melhoram nos últimos tempos. Há 1 ano, os resultados das imagens eram bem precários, segundo o site Tech Crunch. Hoje, com as ferramentas de geração de imagens e vídeos mais desenvolvidas e disponíveis para o público, conteúdos cada vez mais realistas vêm sendo produzidos.

O realismo causa alarme. Imagens de celebridades em conteúdos sexuais, imagens falsas de pessoas comuns envolvidas em conteúdo pornográfico, tudo isso permite problemas como:

• “deep fakes” termo criado para imagens e vídeo manipulados por IA;
• pornografia de vingança, quando uma pessoa é extorquida para fazer algo e, caso se recuse, terá suas imagens íntimas divulgadas;
• pessoas e celebridades tendo “momentos íntimos” expostos por imagens e vídeos falsos;
• criação de todos os tipos de pornografia, da infantil até com animais.

Muitas vezes, a criação do conteúdo explícito é feita sem o consentimento ou o conhecimento do indivíduo envolvido.

Segundo o portal de notícias de tecnologia Fagen wasanni, “qualquer um com conexão com a internet e conhecimento técnico básico consegue criar vídeos pornográficos realistas”.

Isto é uma ameaça séria à privacidade individual e ao consentimento das pessoas.

Segundo a Tech Crunch, o Washington Post contou a história de como uma professora de uma cidade pequena foi demitida após um vídeo sexual seu ser exposto, os alunos haviam criado com Inteligência Artificial.

Um homem de 22 anos de Seaford, cidade nos Estados Unidos, foi preso por criar deep fakes com imagens de adolescentes retiradas de suas redes sociais.

A rede de televisão Fox News divulgou um caso também de um garoto de 15 anos que foi chantageado por um membro de uma academia on-line após uma foto sua sem camisa ser usada para gerar uma imagem de nudez.

A Fox News também afirmou que circula pela Dark Web material sexual infantil gerado com IA.

À medida que os algoritmos e os recursos das Inteligências Artificiais melhoram, fica cada vez mais difícil distinguir entre conteúdo real e conteúdo manipulado.

• China cria Inteligência Artificial dedicada a divulgar os “valores vitais do socialismo”.

Existem esforços para combater conteúdos falsos criados pela Inteligência Artificial, com a criação de algoritmos de detecção e outras formas de proteção. Mas, à medida que se desenvolve a Inteligência Artificial, desenvolve-se a habilidade daqueles que buscam explorar a ferramenta.