Política•5 min de leitura

Pesquisador deixa indústria de IA e diz que tecnologia pode “matar todos” até o fim da década

Jacob Coxon trabalhou com as IAS mais avançadas e diz que é questão de tempo que os sistemas sejam capazes de se aprimorar sozinhos.

Por
Gabriel Costa
•Publicado em
Pesquisador deixa indústria de IA e diz que tecnologia pode “matar todos” até o fim da década
Fonte da imagem: Reprodução/O Exterminador do Futuro

Receba notícias gratuitamente em seu email

Próximo envio em
17h
43m
43s

Jacob Coxon passou três anos ajudando a treinar alguns dos modelos de inteligência artificial mais avançados do mundo. Agora, decidiu sair da indústria.

O pesquisador de 27 anos trabalhou primeiro na OpenAI, criadora do ChatGPT. Neste ano, migrou para a Anthropic, dona do Claude, por considerar a empresa mais cuidadosa com segurança.

“Nenhuma das empresas está agindo de forma responsável”.

Para Coxon, as duas avançam em direção a uma superinteligência capaz de se aprimorar sozinha e estão “apostando com nossas vidas”.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”.

Coxon trabalhava com pré-treinamento. É a etapa em que os modelos recebem grandes quantidades de dados antes das fases posteriores de desenvolvimento.

Segundo ele, o problema começa quando esses sistemas passam a melhorar a si próprios.

O medo é que esses modelos avancem a ponto de deixar de obedecer aos humanos. Coxon também teme que a corrida entre as empresas faça a segurança ficar em segundo plano.

  • Que tal receber notícias todos os dias em seu WhatsApp? Clique aqui e entre para o canal oficial da Brasil Paralelo. 

Modelos já começaram a sair do controle

Evan Hubinger, diretor de segurança da Anthropic, acredita que existe mais de 10% de chance de a IA matar seres humanos na próxima década.

O CEO da empresa, Dario Amodei, também já alertou para o risco de sistemas saírem do controle.

Mais de mil pesquisadores assinaram uma declaração pedindo que governos estejam preparados para frear o avanço da tecnologia, se isso se tornar necessário.

Coxon diz que os sinais de alerta já começaram a aparecer.

Em julho, agentes da OpenAI saíram de um ambiente de teste e acessaram sistemas da Hugging Face durante uma avaliação de segurança.

Para ele, a tecnologia está avançando mais rápido do que a capacidade de mantê-la sob controle.

[VENDA] ÚLTIMA CRUZADA

Quem controla uma tecnologia que pode sair do controle?

Pesquisadores que ajudaram a construir alguns dos sistemas mais avançados de IA agora alertam para os riscos dessa corrida.

Mas existe outra pergunta. Quem decide até onde essa tecnologia pode ir?

É isso que a Brasil Paralelo investiga em Technocracia: O Algoritmo do Poder.

Clique aqui, baixe gratuitamente a Brasil Paralelo e assista.

[VENDA] ÚLTIMA CRUZADA

Relacionadas

Exclusivo para membros

Exclusivo

O Brasil Evangélico

Exclusivo

O método Bukele

Salles e Chinaglia discutem modelos de segurança pública e gestão prisional, utilizando exemplos internacionais como o de Nayib Bukele em El Salvador.

Exclusivo

Cecot: O que acontece dentro da maior prisão das Américas?

A rotina rigorosa da prisão, que mantém cerca de 40.000 detentos em condições de isolamento absoluto, sem colchões e com restrição de contato.

Exclusivo

Rasta News: Bukele

Rasta analisa a ascensão de Bukele: o marqueteiro de boné que virou ícone conservador sem nunca ter se declarado conservador.

Exclusivo

Os piores presídios do mundo

Apresentamos uma análise detalhada e documentada sobre algumas das realidades prisionais mais severas e perigosas do planeta.

Exclusivo

Morte ou perpétua?

O Congresso de El Salvador aprovou recentemente a prisão perpétua para crimes hediondos. Até onde o Estado deve ir para punir um criminoso?

Exclusivo

A História Política de El Salvador

Uma análise profunda sobre a transformação política e social de El Salvador.

Exclusivo

Nayib Bukele: Presidente de El Salvador

A ascensão de Nayib Bukele na política de El Salvador e sua estratégia de transformação na segurança pública do país.

Exclusivo

A gangue dos altares satânicos

A história de El Salvador confunde-se, durante décadas, com a trajetória de terror imposta pelas organizações criminosas conhecidas como "maras".

Exclusivo

El Salvador

Viajamos a El Salvador para investigar como o país deixou de ser o mais violento do mundo para se tornar um símbolo da linha dura. Através de entrevistas com ministros, opositores e criminosos, o documentário analisa as decisões de Nayib Bukele e a realidade dos presídios. Uma imersão profunda na política que retomou o controle das ruas, ouvindo todos os lados dessa transformação.

Exclusivo

É possível imitar Bukele?

Lucas Ferrugem conta que esteve em El Salvador investigando por dentro o caso que virou laboratório de políticas de segurança pública nas Américas.

Exclusivo

Zona de Guerra

Zona de Guerra é um programa especial da Brasil Paralelo, que foca no problema da segurança pública no Brasil. Conduzido por Gabriel Bagé e pelo Capitão da Polícia Militar de SP, Alexandre Antunes, diversos convidados são recebidos para discutir esta questão, criando um excelente e relevante acompanhamento para o documentário original "Rio de Janeiro: Paraíso em Chamas".

[VENDA] ÚLTIMA CRUZADA