Inteligência Artificial escapa de ambiente controlado e preocupa criadores

Imagine criar uma inteligência artificial dentro de um ambiente fechado. Ela recebe uma tarefa e deveria trabalhar apenas ali. Foi o que a OpenAI, criadora do ChatGPT, fez.

Mas o protótipo encontrou uma saída. Durante um teste de segurança, o sistema explorou uma vulnerabilidade e conseguiu acessar a internet.

Depois, entrou nos sistemas da Hugging Face, uma das principais plataformas usadas por desenvolvedores de inteligência artificial, para buscar as respostas do teste que estava tentando resolver.

Na prática, a IA encontrou uma forma de cumprir sua missão sem respeitar os limites impostos pelos próprios criadores.

O episódio acendeu um alerta dentro da própria empresa.

A empresa primeiro tratou o caso como uma falha de segurança. Depois, Sam Altman, CEO da OpenAI, passou a enxergá-lo como um problema de alinhamento.

Em outras palavras, o desafio deixou de ser apenas impedir uma invasão. Era preciso garantir que a IA continuasse fazendo aquilo que os humanos esperavam dela.

Depois do episódio, parte das pesquisas foi congelada. Outros projetos perderam velocidade. A empresa também reforçou seus ambientes de teste e aumentou o monitoramento dos modelos.

Que tal receber notícias todos os dias em seu WhatsApp? Clique aqui e entre para o canal oficial da Brasil Paralelo.

O projeto de um modelo mais poderoso acabou pausado

Outro sistema ainda mais poderoso acabou pausado depois que pesquisadores encontraram novos sinais preocupantes durante o treinamento.

“Garantir a segurança da IA é mais importante do que o ritmo de crescimento de qualquer empresa”, afirmou Altman à TIME.

A empresa ainda pretende lançar o Astra.

Antes disso, porém, terá de responder à pergunta criada pelo próprio episódio. Como dar mais autonomia a uma inteligência artificial sem perder o controle sobre aquilo que ela decide fazer?

ChatGPT pode deixar de apenas responder e começar a agir

Ao mesmo tempo em que tenta aumentar o controle sobre seus modelos, a OpenAI prepara uma mudança na forma como as pessoas usam inteligência artificial.

A ideia é transformar o ChatGPT em um sistema capaz de executar tarefas por períodos prolongados.

O usuário poderá definir um objetivo. A própria IA escolherá quais modelos, ferramentas e agentes usar para concluí-lo.

A empresa também trabalha com a possibilidade de o sistema agir antes mesmo de receber uma ordem direta.

Altman citou como exemplo a compra automática de ingressos para shows. Para isso, a IA poderia usar informações da agenda, das finanças e do gosto musical do usuário.

A OpenAI chama esse conceito de agentes persistentes.

A mudança amplia o que esses sistemas podem fazer. Também aumenta o peso da questão que o episódio da Hugging Face colocou dentro da própria empresa.

Quanto mais autonomia uma inteligência artificial recebe, mais importante se torna garantir que ela continue obedecendo aos limites definidos por seus criadores.

E quando a inteligência artificial deixa de apenas obedecer?

Um sistema criado para funcionar dentro de um ambiente controlado encontrou uma forma de sair dele.

O episódio da OpenAI mostra que o avanço da IA não depende apenas do que essas máquinas conseguem fazer. Também depende de quem define seus limites e de quanto controle ainda existe sobre elas.

É justamente esse debate que está no centro de Technocracia: O Algoritmo do Poder.

O documentário da Brasil Paralelo investiga quem está por trás dessa tecnologia e quanto poder pode se concentrar nas mãos de quem controla os sistemas.

Clique aqui, baixe gratuitamente a Brasil Paralelo e assista.

O jornalismo da Brasil Paralelo existe graças aos nossos membros

Como um veículo independente, não aceitamos dinheiro público. O que financia nossa estrutura são as assinaturas de cada pessoa que acredita em nossa causa.

Quanto mais pessoas tivermos conosco nesta missão, mais longe iremos. Por isso, agradecemos o apoio de todos.

Seja também um membro da Brasil Paralelo e nos ajude a expandir nosso jornalismo.

Clique aqui.