Criada por um ex-funcionário do Departamento do Estado americano, Jigsaw busca eliminar "discursos tóxicos"
No início, parecia apenas uma tentativa de conter o caos informativo da internet. Um grupo de engenheiros do Google acreditava que a tecnologia deveria “proteger” o debate público.
Dessa ambição nasceu a Jigsaw, uma divisão criada para estudar como a tecnologia poderia reduzir riscos digitais.
Todavia, especialistas entrevistados pela Brasil Paralelo consideram que Jigsaw é uma tecnologia que controla o discurso público, e representa uma ameaça à liberdade de expressão.
A Jigsaw é uma unidade do Google (rebatizada a partir do Google Ideas em 2016) dedicada a desenvolver produtos práticos para combater o “extremismo online”.
Foi fundada por Jared Cohen, ex-assessor do Departamento de Estado dos EUA, a Jigsaw se apoia na ideia de “diplomacia digital”, o uso da tecnologia para enfrentar ameaças globais.
A Jigsaw representa, para muitos analistas, o ponto em que a moderação digital se torna política pública de fato, ainda que gerida por uma empresa.
Ela criou o Perspective API, que avalia a “toxicidade” de textos e ajuda plataformas a escalar a moderação de comentários, além de manter iniciativas como o Project Shield (proteção contra ataques DDoS a veículos de imprensa e ONGs), o uProxy (ferramenta para contornar censura) e o Altitude (criado em parceria com a Tech Against Terrorism para ajudar pequenas plataformas a identificar conteúdo extremista).
Essas iniciativas deram à Jigsaw a reputação de uma “força ética” dentro do Google.
Mas o impacto de suas criações rapidamente ultrapassou o campo técnico e passou a influenciar a forma como ideias circulam no espaço público.
Com a Perspective API, a Jigsaw inaugurou um modelo inédito: algoritmos capazes de avaliar, em frações de segundo, o tom de milhões de mensagens.
O objetivo era automatizar o trabalho antes feito por moderadores humanos. Mas essa inovação também trouxe uma consequência inédita: a escala da filtragem.
Estudos e análises independentes mostram que o uso de IA na moderação cresceu rapidamente em plataformas e veículos de comunicação. Em poucos anos, a maior parte do conteúdo político passou a ser revisada antes mesmo de chegar ao público.
O que antes era uma exceção tornou-se o padrão da conversa digital.
Os defensores do modelo argumentam que as ferramentas da Jigsaw tornaram o ambiente online mais seguro, reduzindo ataques, discursos de ódio e campanhas de desinformação.
Por outro lado, especialistas apontam riscos de opacidade e viés: os algoritmos que filtram o discurso são privados, treinados com dados selecionados e raramente auditados de forma independente.
Defensores da liberdade de expressão, por sua vez, discordam dessas opiniões.
Especialistas como Mike Benz, ex-membros do Departamento de Estado do governo Trump criticam o viés da Jigsaw.
“As 3 primeiras coisas que o Google Jigsaw treinou seu modelo foram as eleições presidenciais de 2016, a votação do Brexit e questões relacionadas às mudanças climáticas”.
Benz também destacou o rápido ascenso da IA como ferramenta de controle do discurso público:
“Em 2016, 0% do discurso político foi moderado por IA. Em 2019, mais do 98% do discurso foi pré-sinalizado por IA”.
Para ele, a censura por IA pode significar a queda da liberdade de expressão:
“Se essa censura tecnológica por IA for implementada será o fim do conceito ocidental de liberdade de expressão”.
Se você quer saber o que está por trás das tecnologias que controlam o que você pode dizer ou sequer ver, assista nosso documentário “God Complex: A Ascensão da Máquina de Censura Americana”, cheio de revelações sobre a indústria da censura nos Estados Unidos.
.webp)
