Acre in Foco – Cobertura das Últimas Notícias do Acre Acre in Foco traz as últimas notícias do Acre, com cobertura atualizada sobre política, segurança, saúde, cultura e eventos locais. Fique por dentro de tudo
Um pesquisador britânico que trabalhou no desenvolvimento de sistemas de inteligência artificial na Anthropic, empresa responsável pelo Claude (chatbot semelhante ao ChatGPT), deixou a companhia e fez um alerta sobre os riscos da tecnologia.
Jacob Coxon, de 32 anos, afirmou que a IA pode levar à extinção da humanidade até o fim desta década e criticou a velocidade com que as empresas do setor avançam no desenvolvimento de sistemas mais poderosos.
Coxon anunciou sua saída da Anthropic em uma sequência de publicações no X (antigo Twitter) nesta terça-feira (8). Antes de trabalhar na empresa sediada em São Francisco, Califórnia, ele também atuou na OpenAI. Nas postagens, ele também anunciou que está deixando a indústria de inteligência artificial.
Segundo o pesquisador, os principais laboratórios de IA estão em uma corrida para desenvolver sistemas capazes de superar os seres humanos em praticamente todas as tarefas intelectuais e, posteriormente, aprimorar a própria tecnologia.
O pesquisador afirmou que pessoas envolvidas diretamente no desenvolvimento dessas ferramentas acreditam que existe um risco real em jogo.
Para ele, o avanço das capacidades dos sistemas não está sendo acompanhado por mecanismos de segurança capazes de garantir que eles permaneçam sob controle humano.
Em um dos posts, ele diz: “Eles estão correndo diretamente para uma superinteligência que se aprimora sozinha e apostando nossas vidas nisso”.
Repercussão
A declaração ganhou repercussão depois que Evan Hubinger, outro pesquisador da Anthropic especializado em alinhamento de IA, respondeu às publicações. Hubinger afirmou concordar com Coxon e disse estimar, em sua avaliação pessoal, que existe menos de 10% de chance de a inteligência artificial matar todos os seres humanos nos próximos dez anos.
Hubinger também afirmou que a Anthropic ainda não possui um plano para resolver o problema de alinhamento de uma eventual superinteligência.
O alinhamento é uma das principais áreas de pesquisa em segurança de inteligência artificial. O objetivo é fazer com que o comportamento e os objetivos de sistemas avançados permaneçam de acordo com as intenções humanas, mesmo quando essas ferramentas passam a executar tarefas cada vez mais complexas e de forma mais autônoma.
Já o termo superinteligência é usado para descrever uma eventual inteligência artificial que ultrapasse a capacidade humana em praticamente todas as áreas cognitivas.
Um dos cenários que preocupam pesquisadores é o de uma tecnologia capaz de contribuir para o desenvolvimento de versões ainda mais avançadas de si mesma, acelerando o próprio processo de evolução.
Coxon criticou justamente essa corrida. Na avaliação apresentada por ele, empresas como Anthropic e OpenAI estão tentando chegar primeiro a sistemas desse tipo, enquanto questões fundamentais sobre segurança ainda não foram resolvidas.
A preocupação com os riscos da inteligência artificial não é nova e reúne pesquisadores com posições bastante diferentes. Enquanto parte da comunidade científica considera cenários de extinção altamente especulativos, outros especialistas defendem que mesmo uma possibilidade pequena deve ser levada a sério diante das consequências.
Apesar dos alertas, a chamada superinteligência capaz de se aprimorar autonomamente ainda é um cenário hipotético. A discussão atual está concentrada justamente em saber se os mecanismos de segurança e controle conseguirão acompanhar o avanço das capacidades dos sistemas de inteligência artificial. As informações são da Fórum
