Grupo acusado de “wokismo” pode virar fiscal das IAs

As empresas que criam as inteligências artificiais mais poderosas do mundo podem ganhar fiscais por dentro.

Dario Amodei, CEO da Anthropic, defendeu que avaliadores externos tenham acesso semelhante ao de funcionários para acompanhar modelos, verificar medidas de segurança e relatar problemas.

Um dos exemplos citados foi a METR, organização especializada em testar sistemas de IA.

Foi aí que começou outra discussão. Críticos passaram a acusar o grupo de ter um viés “woke”.

Por que estão chamando o grupo de “woke”?

A crítica não surgiu apenas por causa da fiscalização. O New York Post apontou as ligações de integrantes desse ambiente com ideias progressistas, como fronteiras mais abertas, uso de pronomes neutros em relação a gênero e o movimento chamado Altruísmo Eficaz.

É principalmente daí que vem o rótulo.

O Altruísmo Eficaz é um movimento popular no Vale do Silício que defende usar dinheiro, ciência e tecnologia para tentar resolver grandes problemas da humanidade.

A METR também possui raízes nesse ambiente.

Ela surgiu de um projeto ligado ao Alignment Research Center, fundado por Paul Christiano. Ele trabalhou com Amodei na OpenAI. Outros integrantes da organização também passaram por grupos associados ao Altruísmo Eficaz.

Para os críticos, isso cria uma pergunta simples: um grupo com ideias próprias sobre como a tecnologia deve ser usada deveria ajudar a definir os limites das IAs mais poderosas do mundo?

A METR rejeita essa interpretação

A organização afirma que sua equipe possui diferentes posições ideológicas e que possíveis conflitos de interesse precisam ser declarados.

Também diz que não recebe dinheiro de empresas de IA nem de funcionários dessas companhias. Em agosto, informou ter levantado cerca de R$364 milhões com fundações e outros doadores.

David Sacks, ligado à política de IA do governo Trump, também questionou a independência da METR e acusou Amodei de apresentar como independente um grupo ligado ao mesmo círculo de pessoas e investidores.

A discussão, portanto, ganhou uma nova camada.

Não é apenas se a inteligência artificial precisa de fiscalização. É também quem poderá fiscalizá-la e quais valores essa pessoa levará para dentro dos laboratórios.

Quem decide os limites da tecnologia?

Essa disputa por poder, controle e tecnologia está no centro de Technocracia: O Algoritmo do Poder.

Clique aqui, baixe a Brasil Paralelo gratuitamente e assista.

O jornalismo da Brasil Paralelo existe graças aos nossos membros

Como um veículo independente, não aceitamos dinheiro público. O que financia nossa estrutura são as assinaturas de cada pessoa que acredita em nossa causa.

Quanto mais pessoas tivermos conosco nesta missão, mais longe iremos. Por isso, agradecemos o apoio de todos.

Seja também um membro da Brasil Paralelo e nos ajude a expandir nosso jornalismo.

Clique aqui.