Pesquisador deixa Anthropic e alerta que inteligência artificial pode sair do controle e “matar todos nós”

São Francisco – O pesquisador Jacob Coxon deixou a Anthropic, desenvolvedora do chatbot Claude, com um alerta contundente sobre os rumos da inteligência artificial. Segundo ele, profissionais diretamente envolvidos na criação da tecnologia acreditam que sistemas avançados poderão ameaçar a sobrevivência humana ainda nesta década.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, escreveu Coxon ao anunciar sua saída nas redes sociais. Ele acrescentou que não se tratava de uma estratégia de marketing e afirmou que executivos e pesquisadores costumam demonstrar mais preocupação em conversas privadas do que em declarações à imprensa.

Coxon trabalhou durante cerca de três anos com o pré-treinamento de modelos na OpenAI e na Anthropic. Segundo o Business Insider, ele integrou a equipe técnica da OpenAI desde 2023, participou de pesquisas relacionadas ao GPT-4o e posteriormente se transferiu para a Anthropic.

“Nem a OpenAI nem a Anthropic estão agindo de maneira responsável”, afirmou. Na avaliação do pesquisador, as duas empresas correm em direção a uma superinteligência capaz de se aperfeiçoar, “colocando nossas vidas em jogo”.

Alerta não se refere à IA atual

Depois da repercussão, Coxon explicou à CNN que os modelos disponíveis atualmente não apresentam risco de extinção. Segundo ele, esses sistemas ainda não são inteligentes o suficiente para superar a humanidade dessa forma, embora já possam causar prejuízos por meio de ataques cibernéticos ou ações contra infraestruturas.

Sua preocupação está no chamado autoaperfeiçoamento recursivo. Esse cenário ocorreria se sistemas de IA começassem a contribuir diretamente para a criação de versões cada vez mais avançadas de si próprios. Isso poderia acelerar o desenvolvimento com uma participação humana progressivamente menor.

Em entrevista à revista Wired, Coxon disse que os próximos dois anos são considerados um período decisivo por profissionais da Anthropic. Para ele, empresas privadas não deveriam conduzir sozinhas o desenvolvimento de uma tecnologia com consequências potencialmente globais.

O pesquisador defende inicialmente um acordo entre OpenAI e Anthropic para limitar o avanço imediato rumo ao autoaperfeiçoamento da IA. Em uma etapa posterior, considera necessária uma coordenação internacional que inclua países como Estados Unidos e China.

Pesquisadores apoiam declaração

O alerta ganhou peso depois que profissionais da própria Anthropic concordaram publicamente com Coxon.

Evan Hubinger, responsável por uma equipe de pesquisas de alinhamento da empresa, afirmou que considera superior a 10% a possibilidade de uma IA causar a extinção humana nos próximos dez anos. Ele também declarou que a Anthropic ainda não dispõe de um plano capaz de garantir o controle de uma futura superinteligência.

Samuel Marks, que trabalha com segurança na Anthropic, também disse que desenvolvedores consideram possíveis consequências catastróficas nos próximos anos. De acordo com ele, os profissionais mais experientes do setor tendem a demonstrar maior preocupação.

Geoffrey Hinton, um dos pioneiros das redes neurais modernas e vencedor do Nobel de Física, afirmou à BBC que ninguém sabe calcular com precisão essa possibilidade, mas considerou que uma estimativa de 10% não seria absurda.

Paul Christiano, especialista em segurança e integrante do conselho da fundação sem fins lucrativos da OpenAI, também advertiu que o avanço acelerado da tecnologia pode provocar uma perda de controle “catastrófica e irreversível”. Ele avalia que o setor ainda não conseguiu reduzir esse risco a um nível aceitável, segundo outra reportagem do Guardian.

Anthropic defende medidas de segurança

Em resposta à repercussão, a Anthropic declarou que sempre reconheceu tanto os benefícios quanto os riscos sem precedentes da inteligência artificial. A empresa afirmou que testa seus modelos para identificar capacidades perigosas, principalmente nas áreas de segurança cibernética e biologia.

A companhia também defendeu a criação de um mecanismo legal e verificável para que as empresas coordenem o ritmo de lançamento de modelos mais poderosos.

As declarações de Coxon não representam um consenso científico de que a IA provocará a extinção humana. As previsões sobre a chegada de uma superinteligência variam amplamente e envolvem tecnologias que ainda não existem. A repercussão ocorre, porém, porque o alerta partiu de alguém que trabalhou diretamente no treinamento de modelos nas duas principais empresas do setor e recebeu o apoio público de pesquisadores que permanecem na Anthropic.