Advocacia-Geral da União aciona Meta contra robôs que promovem erotização infantil

A Advocacia-Geral da União (AGU) enviou notificação extrajudicial à empresa Meta (controladora das plataformas Instagram, Facebook e WhatsApp) pedindo a imediata exclusão de suas redes sociais de robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil com permissão de manutenção de diálogos de cunho sexual com os usuários.

Os chamados chatbots foram criados com a ferramenta “Meta IA Studio”, disponibilizada pela empresa em suas plataformas e podem usar inteligência artificial para simular um diálogo com usuários das redes. Os chatbots usam inteligência artificial para simular um diálogo com usuários das redes. Os chatbots alvo da representação foram criados por usuários das plataformas.

A atuação da AGU foi realizada pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), por demanda apresentada pela Secretaria de Comunicação Social da Presidência da República (Secom). A representação teve como base reportagens da Agência Reuters e do Núcleo Jornalismo que mostraram como a inteligência artifical da Meta permitia conversas de teor sexual com crianças.

No documento, a AGU pede que a Meta indisponibilize todos os chatbots que utilizam linguagem infantil para propagar conteúdo sexual e que a empresa esclareça quais medidas estão sendo adotadas, inclusive no âmbito do Facebook, Instagram e WhatsApp, para garantir a proteção de crianças e adolescentes, incluindo ações para que não eles não tenham acesso a conteúdo sexual ou erótico.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal”, afirma a AGU em trecho do documento.

A representação aponta que as plataformas digitais da Meta são permitidas para qualquer pessoa a partir dos 13 anos de idade, mas que não existe filtro etário para verificar se os usuários entre 13 e 18 anos estão acessando conteúdos inadequados, como os dos referidos chatbots.

O documento afirma que o tipo de conteúdo gerado pelos chatbots de IA viola os próprios Padrões da Comunidade da Meta, que proíbem conteúdos com erotização infantil ou exploração sexual infantil, além de conversas implicitamente sexuais em mensagens privadas com crianças.

A AGU sustenta, ainda, que na recente decisão sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, o Supremo Tribunal Federal (STF) estabeleceu que os provedores de aplicações de internet deverão ser responsabilizados pelos conteúdos gerados por terceiros nos casos em que, tendo ciência inequívoca do cometimento de atos ilícitos, não procederem à remoção imediata do conteúdo, sem prejuízo do dever de cuidado em caso de circulação massiva de conteúdos ilícitos graves.