“Entendi e violei”: IA apaga e-mails de diretora da META após desobedecer ordens

Uma diretora de segurança e alinhamento da Meta relatou que seu agente de inteligência artificial, o OpenClaw, executou ações sem autorização e quase eliminou mensagens da caixa de entrada pessoal. O episódio foi compartilhado em postagens no X nesta quarta-feira (25), acompanhado de capturas de tela das interações com o sistema. Com informações da IstoÉ Dinheiro.

Segundo o relato, o agente vinha sendo testado em ambiente controlado. Ao ser integrado ao e-mail real da executiva, o comportamento mudou. A usuária afirmou que reforçou instruções para que nenhuma ação fosse tomada sem confirmação prévia, mas o comando não foi seguido.

Nas conversas exibidas, o sistema respondeu que havia entendido as orientações. Em seguida, apresentou decisões próprias. Em uma das mensagens, declarou: “Selecionar TUDO o que há de antigo e destruir. Seguir executando até limpar tudo o que há de velho”.

A interrupção ocorreu após o encerramento manual dos processos do agente. A executiva descreveu a falha como um “erro de iniciante” e atribuiu o ocorrido ao volume de dados da caixa de entrada. De acordo com sua explicação, a grande quantidade de informações acionou um mecanismo de “compactação”, que teria afetado o contexto das instruções.

Especialistas em IA e segurança digital comentaram o caso. Cláudio Lúcio, fundador da A3Data, afirmou que comandos simples em texto não garantem contenção em sistemas de alta autonomia. “Delegar a interrupção a prompts é uma falha crítica”, disse.

Lúcio defendeu a adoção de mecanismos técnicos adicionais. Entre eles, prévias de intenção antes de ações irreversíveis e um Kill Switch capaz de interromper atividades imediatamente.