Ex-pesquisador da OpenAI e Anthropic alerta sobre riscos da corrida pela IA

Jacob Coxon, pesquisador de inteligência artificial. Foto: X/Reprodução
Jacob Coxon, pesquisador de inteligência artificial. Foto: X/Reprodução
00:00
00:00

O pesquisador britânico Jacob Coxon, de 27 anos, deixou a indústria de inteligência artificial e acusou a OpenAI e a Anthropic de assumirem riscos excessivos no desenvolvimento de sistemas cada vez mais avançados.

Coxon trabalhou durante três anos com pré-treinamento de modelos de IA, etapa em que os sistemas processam grandes volumes de informações. Ele passou pela OpenAI e, posteriormente, pela Anthropic, empresa que havia escolhido por considerar mais cautelosa.

Em publicação na rede social X, Coxon afirmou que as duas companhias não estariam agindo de maneira responsável e acusou o setor de avançar em direção a uma chamada superinteligência, capaz de aprimorar a si própria.

“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu.

Segundo o pesquisador, profissionais que desenvolvem essas tecnologias acreditam que existe a possibilidade de a IA provocar a morte de seres humanos até o fim da década. Para ele, o risco não deveria ser tratado como uma estratégia de marketing.

A avaliação também recebeu respaldo de Evan Hubinger, diretor de segurança da Anthropic. Em uma publicação no X, ele afirmou que a empresa realmente considera possível que a inteligência artificial mate seres humanos e estimou, em caráter pessoal, um risco superior a 10% para a próxima década.

Um dos principais temores no setor é o chamado autoaperfeiçoamento recursivo, cenário em que sistemas de IA poderiam desenvolver e treinar versões mais avançadas de si mesmos com participação humana cada vez menor.

Coxon defende que o desenvolvimento de uma inteligência artificial capaz de superar os humanos não pode ocorrer de forma responsável sem intervenção dos governos ou uma desaceleração coordenada entre as empresas.

Na avaliação dele, a Anthropic conhece os riscos envolvidos, mas estaria pressionada pela disputa para alcançar primeiro tecnologias mais avançadas. “Eles acreditam que ninguém mais atuará de forma responsável, então precisam fazer isso eles mesmos, apesar do risco”, afirmou.

A saída de Coxon ocorre enquanto a Anthropic se prepara para abrir capital. Em fevereiro, a empresa retirou de sua carta de segurança o compromisso de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos associados às tecnologias.

Em julho, mais de mil profissionais do setor, entre eles o CEO da Anthropic, Dario Amodei, defenderam que o governo dos Estados Unidos criasse mecanismos de controle para o avanço da inteligência artificial.

Já o diretor científico da OpenAI, Jakub Pachocki, afirmou recentemente que o atual estágio de desenvolvimento da tecnologia exige “extrema cautela” e coordenação internacional.