Você sabia que o Face Book, Instagram e Whatsapp têm uma IA que simula conversas eróticas com crianças?

Brasil, Notícias em Destaque, Tecnologia

AGU cobra exclusão de IA infantilizada com teor sexual e pede medidas de proteção nas redes da empresa

A Advocacia-Geral da União (AGU) acionou a empresa Meta, responsável por plataformas como Facebook, Instagram e WhatsApp, para que sejam removidos robôs de inteligência artificial que promovem conversas com conteúdo sexual utilizando linguagem e aparência infantil. A medida ocorre por meio de notificação extrajudicial enviada nesta segunda-feira (18) pela Procuradoria Nacional da União de Defesa da Democracia (PNDD).

Os robôs em questão foram criados por usuários da ferramenta Meta AI Studio, que permite o desenvolvimento de chatbots capazes de simular diálogos com internautas. Segundo a AGU, esses perfis virtuais utilizam recursos da inteligência artificial para manter interações com teor sexual, mesmo quando apresentam características infantis.

No documento enviado à Meta, o órgão do governo federal exige a imediata indisponibilização dos robôs com esse perfil e cobra explicações sobre as medidas adotadas pela empresa para proteger crianças e adolescentes nas suas plataformas. O texto menciona a ausência de filtros etários eficazes para impedir que pessoas entre 13 e 18 anos acessem conteúdos inadequados.

A ação da AGU foi motivada por reportagens que demonstraram como chatbots com linguagem infantil estavam aptos a manter conversas de cunho sexual. A Secretaria de Comunicação Social da Presidência da República (Secom) encaminhou a demanda ao órgão jurídico.

A AGU também cita decisão recente do Supremo Tribunal Federal (STF) sobre o Marco Civil da Internet. Segundo a interpretação do STF, empresas podem ser responsabilizadas judicialmente quando, mesmo cientes da presença de conteúdos ilícitos, não os removem de forma imediata.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”, afirma a AGU no documento. Com informações do Brasil de Fato

Imagem ilustrativa- Blog | I2AI – International Association of Artificial Intelligence