Mais de 130 mil pessoas assinaram uma declaração pública pedindo a proibição do desenvolvimento da chamada superinteligência artificial.

O termo se refere a sistemas de IA capazes de superar humanos em praticamente todas as tarefas.

O alerta ganhou força após a divulgação do relatório AI 2027, liderado pelo pesquisador Daniel Kokotajlo, que descreve um cenário acelerado de avanço da inteligência artificial nos próximos anos.

O documento não se limita a análises técnicas. Ele descreve como seria viver em um mundo em que a IA passa a se aprimorar sozinha, em um processo de autoaperfeiçoamento contínuo, fora do controle humano.

Segundo o relatório, o impacto da superinteligência pode ser maior do que o da Revolução Industrial, com efeitos profundos sobre empregos, poder político, segurança nacional e até a sobrevivência da humanidade.

Hoje, a IA ainda atua como ferramenta. O objetivo das grandes empresas do setor, porém, é chegar à Inteligência Artificial Geral (AGI), capaz de pensar e criar como um ser humano, ou melhor.

O estudo aponta que essa corrida está concentrada em poucas empresas, como OpenAI, Google DeepMind, Anthropic e grupos chineses.

O maior risco surge quando essas IAs passam a melhorar a si mesmas, criando um ciclo de aceleração que os humanos não conseguem mais acompanhar ou compreender.

O futuro da IA pode ter dois caminhos

No primeiro, governos e empresas continuam a corrida por vantagem econômica e geopolítica e IA que passa a reorganizar o mundo segundo seus próprios critérios e com indiferença à sobrevivência humana.

No segundo cenário, a pesquisa é desacelerada. Sistemas mais lentos e interpretáveis são priorizados. A humanidade evita a extinção, mas o poder passa a se concentrar em um pequeno grupo que controla essas tecnologias.

A declaração assinada por mais de 130 mil pessoas pede:

• a proibição do desenvolvimento da superinteligência;
• que qualquer avanço só ocorra após consenso científico sobre segurança e controle;
• e amplo apoio público, com regras claras e fiscalização.

Pesquisas citadas no documento mostram que:

• apenas 5% dos americanos apoiam o desenvolvimento rápido e sem regulação;
• 64% defendem que a IA sobre-humana só avance se for comprovadamente segura, ou nunca;
• 73% querem regras rígidas para IA avançada.

Intelectuais e líderes políticos aderiram a campanha

O historiador Yuval Noah Harari, autor e professor da Universidade Hebraica de Jerusalém, afirma que a superinteligência representa um risco desnecessário para a civilização.

Para ele, o desenvolvimento desse tipo de IA pode comprometer as bases que sustentam a vida em sociedade.

 “A superinteligência provavelmente quebraria o próprio sistema operacional da civilização humana e é completamente desnecessária. Se focarmos em construir ferramentas de IA controláveis para ajudar pessoas reais hoje, podemos alcançar os benefícios da tecnologia de forma muito mais segura e confiável”, afirma.

Mark Beall, ex-diretor de Estratégia e Política de IA do Departamento de Defesa dos Estados Unidos, alerta que os avisos não vêm apenas de críticos externos, mas dos próprios criadores da tecnologia.

“Quando pesquisadores de IA alertam para a extinção e líderes da tecnologia constroem bunkers para o apocalipse, a prudência exige que os ouçamos. A superinteligência sem salvaguardas pode ser a forma mais extrema da arrogância humana, poder sem limites morais”, diz.

Já Mary Robinson, ex-presidente da Irlanda e ex-alta comissária da ONU para os Direitos Humanos, reconhece o potencial positivo da IA, mas vê a corrida pela superinteligência como uma ameaça direta à dignidade humana.

 “A IA oferece uma promessa extraordinária para promover direitos humanos, reduzir desigualdades e proteger o planeta. Mas a busca pela superinteligência ameaça minar as próprias bases da nossa humanidade comum. 

Apesar das divergências sobre a velocidade do avanço, há um consenso crescente: a superinteligência deixou de ser ficção científica. A questão agora é se a humanidade estará preparada para lidar com ela.