Alerta sobre ‘riscos de extinção’ aumenta pedidos para desacelerar a IA

Os pedidos para desacelerar o ritmo de desenvolvimento de sistemas avançados de inteligência artificial aumentaram após o alerta mais recente de que o futuro da humanidade pode estar em risco com tecnologias autônomas e difíceis de controlar. Os apelos partiram de pesquisadores e especialistas do setor, como noticiou a CNBC nesta quinta-feira (10).

Em postagem no X, na terça-feira (8), o ex-funcionário da Anthropic, Jacob Coxon, acusou a startup e a sua principal concorrente, OpenAI, de estarem “apostando com as nossas vidas”. De acordo com ele, as pessoas que atuam no desenvolvimento da IA acreditam que versões avançadas desses sistemas podem extinguir a humanidade “até o final da década”.

Desde então, o profissional que trabalhava no treinamento de novos modelos até pedir demissão recebeu várias manifestações de apoio, endossando o alerta sobre os riscos da IA. Respondendo ao desabafo, Evan Hubinger, líder de alinhamento da Anthropic, afirmou que a probabilidade da IA causar a extinção da humanidade na próxima década é superior a 10%.

Participando da conversa, Samuel Marks, pesquisador contratado pela desenvolvedora do chatbot Claude, confirmou que os profissionais da área realmente temem o futuro da IA;
“Isso pode acontecer nos próximos anos. Em geral, quanto mais sênior o funcionário, maior a sua preocupação”, escreveu ele, no X, a respeito dos perigos da IA;
O debate também teve a participação de Julie Steele, que faz parte da equipe de segurança da OpenAI e reforçou a importância de frear a tecnologia;
- “Pessoalmente, também acho que precisamos desacelerar”, apontou Steele, em comentário na rede social.
Citando a capacidade de aprimorar seu próprio código de forma autônoma, a profissional de alinhamento e segurança da Anthropic, Anna Wang, lembrou que não há um “plano científico viável para resolver os riscos da IA que se aprimora recursivamente”. O tema foi discutido, ainda, por autoridades.

O ex-chefe de IA da administração Trump, David Sacks, sugeriu suspender o processo de abertura de capital da startup. “Certamente o IPO da Anthropic deve ser pausado até que as alegações deste ‘denunciante’ possam ser investigadas”, opinou.

Cenários de risco para a humanidade

Segundo pesquisadores entrevistados pelo Business Insider, o perigo mais imediato é o uso de IAs sofisticadas para aprimorar ameaças já existentes. Pessoas controlando esses sistemas, ou as próprias IAs, poderiam atacar serviços financeiros, de transporte, água, comunicações e eletricidade, bem como desenvolver vírus mais poderoso.

Também há a possibilidade de que bots autônomos manipulem pessoas na internet para criar o caos. Um exemplo citado pela publicação é a promoção da desinformação por esses sistemas contribuindo para transformar um conflito em guerra ou alterar resultados de eleições.

Desenvolvimento de armas biológicas, IAs assumindo o controle silenciosamente e influenciando a tomada de decisões políticas, econômicas e científicas são alguns dos outros cenários citados. Para o pesquisador de Oxford, Toby Ord, o risco de IA destruir a humanidade até 2100 é de 1 em 10.

Questionada pela reportagem, a Anthropic afirmou possuir uma estrutura dedicada a mitigar os riscos da IA e que desenvolve a tecnologia com “algumas das salvaguardas mais robustas do setor”. A OpenAI, por sua vez, não se pronunciou.

O relatório AI 2027 aborda o tema de maneira detalhada. Saiba mais sobre a iniciativa nesta matéria./Com informações de CNBC e Business Inside