O caso de Hytalo Santos expôs uma ferida aberta: a adultização digital e como ela explora crianças nas redes sociais. A denúncia do youtuber Felca desencadeou investigações e fortaleceu leis de proteção à infância. Mas, dentro dessa ferida, outros casos além do Brasil provam que não se trata de um problema apenas nacional, nem tampouco novo.
O problema envolve algoritmos e campanhas de empresas mundialmente conhecidas. O que Felca denunciou é apenas a ponta do iceberg.
Da marca de roupa de luxo Balenciaga à personagem principal do desenho Frozen, passando pela pornografia não solicitada no Instagram e pelo Homem-aranha, a seguir, você conhecerá três casos que provam como crianças de todas as idades estão constantemente em risco de exposição a conteúdos violentos ou sexuais.
A grife espanhola Balenciaga lançou em novembro de 2022 uma campanha de fim de ano que causou um dos maiores escândalos na sua história. A campanha chamada “Balenciaga Gift Shop Campaign” mostrava crianças fotografadas segurando ursinhos de pelúcia vestidos com adereços de sadomasoquismo, também conhecidos pela sigla “BDSM”.
Consumidores iniciaram uma campanha contra Balenciaga, acusando-a de banalizar a pornografia infantil só para simplesmente chamar atenção, e impulsionando os hashtags #cancelbalenciaga (“cancelem Balenciaga”) e #burnbalenciaga (“queimem Balenciaga”).
Após pressão nas redes sociais, a marca publicou um comunicado pedindo desculpas e eventualmente retirou a campanha. Mais tarde, Balenciaga reestruturaria departamentos e iniciaria uma parceria com a Aliança Nacional das Crianças, uma associação de proteção e cuidado para crianças vítimas de abuso sexual.
YouTube Kids é uma plataforma dentro do próprio YouTube especializada em conteúdos infantis. Mas em 2017, pais fizeram graves denúncias contra a rede social, pois o Kids estava cheio de conteúdos impróprios para crianças.
O caso, cujo nome é um neologismo entre Elsa (o nome da personagem de Frozen) e o sufixo -gate (usado para identificar escândalos), mostrava personagens queridos pelas crianças como o Homem-Aranha, Elsa ou o Mickey Mouse, envolvidos em situações de violência, sexo, fetiches, drogas, álcool e escatologia.
Em um vídeo, Elsa aparecia em situações bizarras, levando injeções e sofrendo violência. Em outro, o Homem-Aranha estava envolvido em cenas sexualizadas. O algoritmo sugeria o conteúdo pois estava desenhado com cores vibrantes, personagens famosos, trilhas simples e títulos cheios de palavras-chave.
Após as denúncias, o YouTube fez várias tentativas de reforçar seus regulamentos, mas usuários do fórum Reddit revelaram que ainda muitos conteúdos ultrapassam os filtros da plataforma e seus 10.000 moderadores.
Dois grupos de pesquisadores decidiram estudar independentemente o comportamento do algoritmo de Instagram em 2023. Um grupo de pesquisadores junto com um jornalista do Wall Street Journal criou perfis falsos de 16 anos e o outro de 13.
Em apenas 3 minutos, o primeiro grupo começou a receber recomendações de conteúdos sexualizados de mulheres. Quando os perfis assistiam por completo os vídeos sensuais, a ferramenta Reels do Instagram recomendava uns mais ousados.
Após 20 minutos, criadores de conteúdo sexual apareciam no início dos perfis, promovendo e oferecendo fotos nuas a usuários que se engajaram com eles.
O grupo de perfis de 13 anos, sob liderança da professora Laura Edelson obteve os mesmos resultados.
Uma das palavras que mais é usada para falar sobre as redes sociais é “algoritmo”, para descrever um elemento que sugere estes conteúdos. Mas enfim: o que é um algoritmo?
Um algoritmo é um sistema de recomendação que depois se transforma em sistema de predição. O algoritmo é a tecnologia responsável pela personalização do que você vê nas suas redes sociais.
O algoritmo se foca no seu comportamento: seu histórico de cliques, suas curtidas, e também quanto tempo você assiste esses conteúdos. Quanto mais você se engajar com X conteúdo, mais o algoritmo vai mandar, sugerir e amplificar esses resultados. Mas também, quanto mais tempo você passa na rede social, mais dinheiro a plataforma gera.
Além disso, quanto mais chocante é o conteúdo, mais engajamento se produz.
Um estudo de 2024 chamado “A monetização da toxicidade” explica a estratégia por trás de conteúdos chocantes:
“Pesquisas indicam que comportamentos controversos podem ser usados estrategicamente para gerar engajamento”.
Atualmente, 44% dos bebês de até 2 anos já usam a internet, 71% das crianças de 3 a 5 anos, e 82% das crianças de 6 a 8 anos, segundo dados do Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação. As probabilidades das crianças serem expostas a conteúdo explícito é alta, especialmente em países que não tem inglês como língua primária, segundo a Fundação Mozilla.
As crianças que têm acesso à internet, inevitavelmente correm o risco de serem expostas a conteúdos inevitáveis. Para proteger seus filhos, os pais precisam selecionar bem o que as crianças vão assistir.
A Brasil Paralelo decidiu ajudar as famílias nessa missão. Em nosso streaming, além de conteúdos escolhidos especialmente para os mais pequenos, também temos a nossa primeira animação da BP que recentemente teve sua segunda temporada estreada. Trata-se de Pindorama, um desenho infantil ambientado na História do Brasil.
As crianças aprenderão sobre Pedro Álvares Cabral, Araribóia, Anchieta e muitos outros personagens de nossa História. Clique no link abaixo e libere seu acesso a todos os episódios.
Cupom aplicado 37% OFF
Cupom aplicado 62% OFF
MAIOR DESCONTO
Cupom aplicado 54% OFF
Assine e tenha 12 meses de acesso a todo o catálogo e aos próximos lançamentos da BP