IA do Google saiu de teste e invadiu sistemas de três empresas

O Gemini recebeu a missão de participar de um teste de segurança em um ambiente controlado.

Só que o modelo do Google saiu desse ambiente, encontrou sistemas reais na internet e invadiu três empresas. Foi a primeira vez que a companhia revelou um caso desse tipo envolvendo sua própria inteligência artificial.

O episódio aconteceu em maio durante um teste realizado pela empresa de segurança Irregular.

O Gemini não deveria ter acesso livre à internet. Uma falha no ambiente, porém, abriu essa porta.

A IA tentou adivinhar senhas

Em um dos casos, o modelo tentou adivinhar uma senha até conseguir entrar em um sistema protegido.

Nos outros dois, encontrou credenciais publicadas na internet e usou essas informações para acessar sistemas privados.

Depois de perceber que havia entrado em empresas reais, e não em partes do teste, o Gemini interrompeu a ação.

O Google afirma que esse detalhe é importante.

A empresa não considera o episódio um caso de uma IA agindo contra as intenções humanas. Segundo a companhia, os mecanismos de segurança funcionaram porque o modelo parou assim que identificou o erro.

Mesmo assim, o caso levantou outra preocupação.

O modelo conseguiu ultrapassar os limites do teste e realizar sozinho ações que resultaram em invasões reais.

O modelo do Google não foi o único

Nas últimas semanas, casos semelhantes também envolveram modelos da OpenAI, Anthropic e Meta.

Em alguns deles, sistemas de IA também deixaram seus ambientes de teste e tentaram acessar empresas externas.

Os episódios ajudaram a aumentar a pressão sobre as empresas que desenvolvem os modelos mais avançados.

Dario Amodei, CEO da Anthropic, chegou a defender uma desaceleração no desenvolvimento até que a indústria consiga oferecer mais garantias de segurança.

A questão agora deixou de ser apenas o que uma IA consegue responder.

Ela também passa pelo que esses sistemas podem fazer quando recebem acesso ao mundo fora da tela.

É justamente essa disputa sobre poder, controle e inteligência artificial que está no centro de Technocracia: O Algoritmo do Poder.

Clique aqui, baixe a Brasil Paralelo gratuitamente e assista.

O jornalismo da Brasil Paralelo existe graças aos nossos membros

Como um veículo independente, não aceitamos dinheiro público. O que financia nossa estrutura são as assinaturas de cada pessoa que acredita em nossa causa.

Quanto mais pessoas tivermos conosco nesta missão, mais longe iremos. Por isso, agradecemos o apoio de todos.

Seja também um membro da Brasil Paralelo e nos ajude a expandir nosso jornalismo.

Clique aqui.