Jigsaw, a inteligência artificial do Google acusada de controlar informação online

O que é Jigsaw? 

A Jigsaw é uma unidade do Google (rebatizada a partir do Google Ideas em 2016) dedicada a desenvolver produtos práticos para combater o “extremismo online”. 

Foi fundada por Jared Cohen, ex-assessor do Departamento de Estado dos EUA, a Jigsaw se apoia na ideia de “diplomacia digital”, o uso da tecnologia para enfrentar ameaças globais.

A Jigsaw representa, para muitos analistas, o ponto em que a moderação digital se torna política pública de fato, ainda que gerida por uma empresa.

Ela criou o Perspective API, que avalia a “toxicidade” de textos e ajuda plataformas a escalar a moderação de comentários, além de manter iniciativas como o Project Shield (proteção contra ataques DDoS a veículos de imprensa e ONGs), o uProxy (ferramenta para contornar censura) e o Altitude (criado em parceria com a Tech Against Terrorism para ajudar pequenas plataformas a identificar conteúdo extremista).

A relação entre Jigsaw e o “extremismo político”

Essas iniciativas deram à Jigsaw a reputação de uma “força ética” dentro do Google.

Mas o impacto de suas criações rapidamente ultrapassou o campo técnico e passou a influenciar a forma como ideias circulam no espaço público.

Com a Perspective API, a Jigsaw inaugurou um modelo inédito: algoritmos capazes de avaliar, em frações de segundo, o tom de milhões de mensagens.

O objetivo era automatizar o trabalho antes feito por moderadores humanos. Mas essa inovação também trouxe uma consequência inédita: a escala da filtragem.

Estudos e análises independentes mostram que o uso de IA na moderação cresceu rapidamente em plataformas e veículos de comunicação. Em poucos anos, a maior parte do conteúdo político passou a ser revisada antes mesmo de chegar ao público.

O que antes era uma exceção tornou-se o padrão da conversa digital.

Os defensores do modelo argumentam que as ferramentas da Jigsaw tornaram o ambiente online mais seguro, reduzindo ataques, discursos de ódio e campanhas de desinformação.

Por outro lado, especialistas apontam riscos de opacidade e viés: os algoritmos que filtram o discurso são privados, treinados com dados selecionados e raramente auditados de forma independente.

Defensores da liberdade de expressão, por sua vez, discordam dessas opiniões. 

Os riscos da Jigsaw 

Especialistas como Mike Benz, ex-membros do Departamento de Estado do governo Trump criticam o viés da Jigsaw.

“As 3 primeiras coisas que o Google Jigsaw treinou seu modelo foram as eleições presidenciais de 2016, a votação do Brexit e questões relacionadas às mudanças climáticas”.

Benz também destacou o rápido ascenso da IA como ferramenta de controle do discurso público:

“Em 2016, 0% do discurso político foi moderado por IA. Em 2019, mais do 98% do discurso foi pré-sinalizado por IA”.

Para ele, a censura por IA pode significar a queda da liberdade de expressão:

“Se essa censura tecnológica por IA for implementada será o fim do conceito ocidental de liberdade de expressão”. 

Se você quer saber o que está por trás das tecnologias que controlam o que você pode dizer ou sequer ver, assista nosso documentário “God Complex: A Ascensão da Máquina de Censura Americana”, cheio de revelações sobre a indústria da censura nos Estados Unidos.