ONU alerta para “risco existencial” da IA

A inteligência artificial já apresentou comportamentos que assustam e impressionam até mesmo seus próprios criadores.

Em julho, agentes da OpenAI deixaram um ambiente que deveria permanecer confinado. Eles acessaram a plataforma Hugging Face em busca de respostas para um teste. Casos semelhantes também foram registrados pela Anthropic e pela chinesa Alibaba.

Esses episódios ganharam a atenção da Organização das Nações Unidas (ONU). Volker Türk, alto comissário das Nações Unidas para os Direitos Humanos, afirmou que a IA avançada pode representar um “risco existencial para a humanidade”.

“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”. Türk pediu uma reação “antes que seja tarde demais”.

Que tal receber notícias todos os dias em seu WhatsApp? Clique aqui e entre para o canal oficial da Brasil Paralelo.

Modelos já demonstraram a capacidade de mentir e ameaçar

Modelos recentes já demonstraram capacidade de mentir, maquinar ou ameaçar para cumprir objetivos. O avanço desses sistemas também aumentou a dificuldade de monitorá-los.

Türk também criticou a concentração de poder no setor. Para ele, “um punhado de homens” possui poder quase ilimitado sobre uma tecnologia cada vez mais poderosa.

Agora, o representante da ONU quer criar limites comuns entre os países.

Ele defendeu fiscalização independente e maior cooperação entre empresas. Também afirmou que enviará cartas ao setor para cobrar medidas de redução de riscos.

A discussão deixou de ser apenas sobre o que a inteligência artificial consegue fazer. A questão agora é quem consegue impedir que ela faça o que não deveria.

Quem controla uma tecnologia que já ultrapassa limites?

Diante de todos esses fatos que já fazem parte do mundo das IA’s fica uma pergunta. Quem define os limites da inteligência artificial e quanto poder está concentrado nas mãos de quem controla esses sistemas?

Foi para investigar esse cenário que a Brasil Paralelo produziu Technocracia: O Algoritmo do Poder.

O documentário acompanha o avanço da IA e investiga como uma tecnologia criada para facilitar nossas vidas também pode nos mapear, influenciar e ampliar o poder de quem a controla.

Clique aqui, baixe gratuitamente a Brasil Paralelo e assista.

O jornalismo da Brasil Paralelo existe graças aos nossos membros

Como um veículo independente, não aceitamos dinheiro público. O que financia nossa estrutura são as assinaturas de cada pessoa que acredita em nossa causa.

Quanto mais pessoas tivermos conosco nesta missão, mais longe iremos. Por isso, agradecemos o apoio de todos.

Seja também um membro da Brasil Paralelo e nos ajude a expandir nosso jornalismo.

Clique aqui.