Em março deste ano, diversos nomes das principais indústrias de tecnologia do mundo assinaram uma carta aberta que pede uma pausa imediata de 6 meses no desenvolvimento de inteligências artificiais (IA) avançadas. Dois dos principais são:

• Elon Musk, um dos fundadores da OpenIA, empresa que criou o Chat GPT;
• Steve Wozniak, cofundador da Apple;

Segundo eles:

"Os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA. 

Conforme declarado nos amplamente endossados ​​Princípios de IA de Asilomar , a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais. Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo" (trecho da carta publicada pelo Future of Life Institute).

Não só os especialistas que assinaram a carta se preocupam com as inteligências artificiais. 42% dos líderes de grandes empresas entrevistados pela Universidade de Yale acreditam que as IAs tem potencial para destruir a humanidade, noticiou a CNN:

• 34% acreditam que as IAs podem destruir a humanidade em 10 anos;
• 8% acreditam que as IAs podem destruir a humanidade em 5 anos;
• 58% acredita que as IAs não representam perigo para a humanidade.

Foram entrevistados CEOs de empresas como a Xerox, Zoom e outras companhias de tecnologia, além de outros CEOs de companhias como a Coca-Cola e Walmart.

O que diz o "padrinho das IAs" e o atual chefe do Chat GPT?

Geoffrey Hinton é um psicólogo canadense responsável por muitos dos principais avanços das inteligências artificiais desenvolvidas pelo Google. Devido aos avanços tecnológicos que suas pesquisas trouxeram para o ramo, ele foi nomeado "padrinho da IA".

Em maio de 2023, Geoffrey abandonou seus trabalhos com o Google porque seu contrato não permitia que ele alertasse sobre os riscos da IA. Desde esse momento, Geoffrey realizou diversos pronunciamentos contra o desenvolvimento acelerado de IAs sem critérios seguros. Segundo ele:

“Para lidar com esse problema [Inteligências artificiais], não está nem um pouco claro o que você deve fazer”, disse em entrevista à Reuters.

Chefe da OpenIA, empresa do Chat GPT

Junto com Geoffrey, Sam Altman, CEO da OpenIA, também assinou a declaração aberta sobre os perigos de IA do Center for AI Safety, dizendo:

“Mitigar o risco de extinção da IA deve ser uma prioridade global junto a outros riscos em escala social, como pandemias e guerra nuclear”.

Em depoimento para o Senado dos Estados Unidos, Altman disse:

"Acho que se essa tecnologia der errado, pode ser dar muito errado. E queremos ser sinceros sobre isso.

Acho que a intervenção regulatória seria importante para mitigar os riscos de modelos cada vez mais poderosos”.

Em uma entrevista ao Times of India, Altman chegou a declarar:

“O que mais tira o meu sono é a ideia hipotética de que fizemos algo ruim quando lançamos o ChatGPT. Existe a hipótese de que nós, ao lançar o ChatGPT no mundo, atiramos a indústria num turbilhão e agora não tem mais volta.

É preciso termos um sistema para que possamos auditar as pessoas que estão fazendo isso e também ter testes de segurança suficientes antes de implantar uma plataforma e abrir o acesso às pessoas”.

Perigos de desinformação

Uma das principais preocupações dos especialistas é a difusão de desinformação a partir do uso de Inteligência Artificial, sobretudo dadas algumas falhas na interpretação e processamento de bancos de dados e respostas aos usuários fornecidas pelo Chat GPT e outros sistemas de inteligência artificial.

Nos Estados Unidos, por exemplo, um jovem de 29 anos ficou preso por cerca de 10 dias após a inteligência artificial ter errado no seu reconhecimento facial.

Muitos especialistas não temem as IAs

Pedro Domingos, professor da Escola de Ciência da Computação e Engenharia da Universidade de Washington, disse:

“Lembrete: a maioria dos pesquisadores de IA acha que a noção da IA acabar com a civilização humana é bobagem”.

Arvind Narayanan, cientista da computação da Universidade de Princeton, disse à BBC:

“A IA atual não é nem de longe capaz o suficiente para que esses riscos se materializem. Como resultado, ela desvia a atenção dos danos de curto prazo da IA”.

Quais danos a curto prazo? Diogo Cortiz, cientista cognitivo e professor da PUC/SP, chama a atenção para alguns:

"Dizer que a sociedade corre risco de extinção é uma forma de tentar controlar a narrativa. Ajuda a comunicar a ideia de que as tecnologias que eles detém são mais poderosas do que de fato são enquanto desvia o foco de problemas reais e atuais: vieses, consentimento do uso de dados, uso indevido, responsabilidade e accountability, propriedade intelectual, empregos, concentração, etc".

IAs e Distopias

Diversas distopias famosas como Exterminador do Futuro, Matrix e 2001: Uma Odisseia no Espaço analisaram os perigos da inteligência artificial para a humanidade. Para o professor de filosofia Guilherme Freire, a iminência dessas questões não é tão importante, as distopias possuem significados mais profundos.

• Toque aqui para ler o artigo sobre distopia do Portal da Brasil Paralelo.