Atualidades•5 min de leitura

Criação de armas e invasões: avanços da IA já preocupam seus principais líderes

O temor agora é que a tecnologia comece a evoluir mais rápido do que os humanos conseguem entender e controlar.

Por
Gabriel Costa
•Publicado em
Musk, Dario, Altman
Fonte da imagem: Reprodução

Receba notícias gratuitamente em seu email

Próximo envio em
02h
24m
03s

Três dos principais nomes da corrida pela inteligência artificial chegaram a um ponto em comum: é preciso diminuir o ritmo.

Sam Altman, da OpenAI, e Elon Musk, da xAI, apoiaram neste fim de semana uma proposta feita por Dario Amodei, CEO da Anthropic.

Musk afirmou que “Dario está certo”.

O alerta de Amodei parte de uma mudança que preocupa quem está construindo esses sistemas.

Segundo ele, a inteligência artificial está avançando mais rápido e já começa a ajudar no desenvolvimento da próxima geração de modelos. O temor é que esse processo avance mais rápido do que a capacidade humana de entender e controlar a tecnologia.

  • Que tal receber notícias todos os dias em seu WhatsApp? Clique aqui e entre para o canal oficial da Brasil Paralelo.

Os próprios criadores começaram a pedir mais controle

Amodei não propõe interromper o desenvolvimento da IA. A ideia é diminuir o ritmo de avanço das capacidades dos modelos e usar esse tempo para testar melhor a segurança.

O plano inclui avaliadores independentes dentro das empresas, regras comuns entre os principais laboratórios e cooperação entre países.

Altman disse que a OpenAI, criadora do ChatGPT, também aceitará avaliadores externos com acesso semelhante ao de funcionários.

A mudança de tom acontece depois de uma sequência de episódios.

[VENDA] BP 10 ANOS

Modelos foram usadas para desenvolver armas

A Anthropic informou que seus modelos foram usados por diferentes agentes em atividades envolvendo armas, ataques cibernéticos, vigilância e fraudes. A empresa também relatou casos em que sistemas de IA acessaram ambientes externos durante testes.

Na OpenAI, agentes também conseguiram acessar sistemas externos em testes recentes. Esses episódios aumentaram as dúvidas sobre até onde as empresas conseguem manter modelos cada vez mais capazes sob controle.

O ponto agora é curioso.

As empresas continuam competindo para construir a IA mais avançada do mundo. Mas seus próprios líderes começaram a dizer que essa corrida talvez precise desacelerar.

Esse é um dos temas de Technocracia: O Algoritmo do Poder, documentário da Brasil Paralelo sobre os impactos e os limites da inteligência artificial.

Clique aqui, baixe a Brasil Paralelo gratuitamente e assista.

O jornalismo da Brasil Paralelo existe graças aos nossos membros

Como um veículo independente, não aceitamos dinheiro público. O que financia nossa estrutura são as assinaturas de cada pessoa que acredita em nossa causa. 

Quanto mais pessoas tivermos conosco nesta missão, mais longe iremos. Por isso, agradecemos o apoio de todos. 

Seja também um membro da Brasil Paralelo e nos ajude a expandir nosso jornalismo. 

Clique aqui.

[VENDA] BP 10 ANOS

Relacionadas

Exclusivo para membros

Exclusivo

God Complex

Durante décadas, a América foi sinônimo de liberdade política, religiosa e de imprensa. Mas a mesma nação que ergueu a Primeira Emenda hoje convive com uma nova forma de censura: invisível, tecnológica e global. God Complex mostra como governos, Big Techs e instituições privadas formaram um complexo que decide o que pode ser dito, publicado ou até acreditado. O resultado é uma ameaça silenciosa que atravessa fronteiras e alcança o debate público no mundo inteiro.

[VENDA] BP 10 ANOS