Entenda a ação da AGU contra chatbots que incentivam a erotização infantil

A AGU (Advocacia-Geral da União) enviou uma notificação extrajudicial à Meta, controladora de plataformas como Instagram, Facebook e WhatsApp, solicitando a exclusão imediata de robôs de inteligência artificial que promovem sexualização nfantil.

Segundo o órgão, essas ferramentas permitem a criação de perfis com linguagem e aparência infantil, capazes de manter diálogos de cunho sexual com usuários.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal”, afirma a AGU em trecho do documento.

No texto, a AGU também pede que a Meta indisponibilize todos os chatbots que utilizem linguagem infantil para propagar conteúdo sexual e que esclareça quais medidas estão sendo adotadas, inclusive no âmbito do Facebook, Instagram e WhatsApp, para proteger crianças e adolescentes. Entre as ações cobradas, estão mecanismos que impeçam o acesso de menores a conteúdos sexuais ou eróticos.

A representação destaca que, embora as plataformas da Meta permitam cadastro a partir dos 13 anos, não há filtro etário eficaz para evitar que usuários entre 13 e 18 anos tenham contato com conteúdos inapropriados, como os desses chatbots.

O documento também afirma que o conteúdo gerado por esses robôs de IA viola os próprios Padrões da Comunidade da Meta, que proíbem a erotização infantil, a exploração sexual de menores e conversas de caráter sexual com crianças, inclusive em mensagens privadas.

Por fim, a AGU lembra que, em recente decisão sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, o Supremo Tribunal Federal determinou que provedores de internet podem ser responsabilizados por conteúdos de terceiros quando, mesmo cientes da ilicitude, deixam de removê-los imediatamente – especialmente em casos de circulação massiva de material grave e ilegal.