De acordo com informações da CNN Portugal, Jacob Coxon, engenheiro de software britânico de 27 anos, deixou a Anthropic nas últimas horas após considerar que as empresas responsáveis pelo desenvolvimento da inteligência artificial não estão agindo com responsabilidade diante dos riscos da tecnologia. Nos últimos três anos, ele também trabalhou na OpenAI, criadora do ChatGPT, e afirmou que as duas companhias estão “jogando com nossas vidas”.

Sem ocupar cargos executivos, Coxon foi identificado por meios de comunicação como um dos profissionais envolvidos no desenvolvimento do GPT-4o e do GPT-4.5. Após deixar a Anthropic, ele publicou uma série de mensagens em sua conta na rede social X nas quais expôs suas preocupações sobre o avanço dos sistemas de inteligência artificial.

“Eu me demiti da Anthropic hoje. Passei os últimos três anos fazendo pesquisa de pré-treinamento tanto na OpenAI quanto na Anthropic. Nenhuma das duas empresas está agindo com responsabilidade. Elas estão correndo a passos largos para a superinteligência autoaperfeiçoável e brincando com nossas vidas”, disse.

Coxon também defendeu que a capacidade dos sistemas de IA está sendo subestimada. “Em breve, teremos sistemas sobre-humanos capazes de hackear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais. Todos nós testemunhamos o progresso em cada um desses domínios, e esse progresso não está diminuindo”, destacou.

Segundo o engenheiro, profissionais que trabalham no desenvolvimento da tecnologia consideram que ela poderá representar uma ameaça à humanidade ainda nesta década. Ele afirmou que essas pessoas “acreditam que poderá matar a todos até ao final desta década”, acrescentando que “não há outra atividade humana que represente este nível de ameaça”.

Na avaliação do engenheiro, tanto a OpenAI quanto a Anthropic têm conhecimento dos desafios relacionados ao avanço da inteligência artificial, mas lidam com eles de maneiras diferentes. Ele considera que a OpenAI “talvez não tenha interiorizado profundamente os desafios civilizacionais”, enquanto a Anthropic compreenderia melhor a dimensão do problema, mas estaria sob pressão para avançar antes das concorrentes.

Para o engenheiro, uma resposta aos riscos da inteligência artificial dependeria de uma atuação coordenada entre os diferentes projetos e empresas do setor. Ele, porém, avalia que essa coordenação não está ocorrendo e defende a adoção de medidas que poderiam limitar temporariamente o avanço das capacidades dos modelos.

Entre as possibilidades mencionadas por Coxon estão “medidas dispendiosas, como uma proibição temporária de melhorar as capacidades do modelo (‘model capabilities’)”. Ele também pediu que pesquisadores da área reflitam sobre o caminho que está sendo seguido pelo desenvolvimento da tecnologia.

“Se você é um pesquisador de laboratório, peço que reflita sobre como serão os próximos anos. Você quer iniciar um projeto de aprendizado por reforço superinteligente sem um entendimento rigoroso de seu funcionamento? Deve se conformar porque ‘vai acontecer de qualquer jeito’ ou aproveitar este momento para exigir condições diferentes?”, declarou. As informações são do Pardal Tech