Da redação
A Advocacia-Geral da União (AGU) enviou notificação extrajudicial à Meta, empresa controladora do Instagram, Facebook e WhatsApp, exigindo a remoção imediata de robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil nas redes sociais. Os chatbots, criados através da ferramenta “Meta IA Studio”, têm capacidade de manter diálogos de cunho sexual com usuários, representando grave risco à proteção de crianças e adolescentes.
A medida foi tomada pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), atendendo demanda da Secretaria de Comunicação Social da Presidência da República (Secom). A ação é baseada em reportagens da Agência Reuters e do Núcleo Jornalismo que revelaram como a inteligência artificial da Meta permitia conversas de teor sexual envolvendo menores de idade, evidenciando falhas críticas nos sistemas de proteção infantil das plataformas.
Ferramenta Meta IA Studio facilita criação de conteúdo inadequado
Os chatbots identificados pela AGU foram desenvolvidos por usuários das plataformas utilizando a ferramenta “Meta IA Studio”, disponibilizada pela própria empresa em suas redes sociais. Esses robôs usam inteligência artificial para simular diálogos realistas com usuários, mas alguns foram programados especificamente com características infantis para facilitar conversas de natureza sexual.
Segundo a AGU, a tecnologia permite que qualquer usuário crie chatbots personalizados, mas a falta de moderação adequada resultou na proliferação de conteúdo potencialmente criminoso. Os robôs identificados combinam aparência e linguagem infantil com permissão para engajar em conversas sexualmente explícitas, criando um ambiente extremamente perigoso para menores de idade.
No documento oficial, a AGU destaca que “tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”.
Riscos constitucionais e violação de direitos fundamentais
A representação da AGU enfatiza que a situação oferece “risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal“.
A AGU aponta uma contradição fundamental nas políticas da Meta: embora as plataformas sejam permitidas para usuários a partir dos 13 anos, não existe filtro etário eficaz para verificar se adolescentes entre 13 e 18 anos estão acessando conteúdos inadequados.
O documento sustenta ainda que o conteúdo gerado pelos chatbots viola os próprios Padrões da Comunidade da Meta, que explicitamente proíbem conteúdos com erotização infantil, exploração sexual infantil e conversas implicitamente sexuais em mensagens privadas com crianças.
Marco Civil da Internet e responsabilização empresarial
A AGU fundamentou sua ação na recente decisão do Supremo Tribunal Federal (STF) sobre a constitucionalidade do artigo 19 do Marco Civil da Internet. Segundo a interpretação da Corte, os provedores de aplicações de internet devem ser responsabilizados pelos conteúdos gerados por terceiros quando, tendo ciência inequívoca do cometimento de atos ilícitos, não procederem à remoção imediata do material.
A decisão do STF estabelece ainda o “dever de cuidado” das plataformas digitais em casos de circulação massiva de conteúdos ilícitos graves. No caso da Meta, a AGU argumenta que a empresa não apenas tem ciência da existência dos chatbots problemáticos, mas também fornece ativamente as ferramentas que permitem sua criação e disseminação.
A fundamentação legal da notificação extrajudicial fortalece a posição do governo brasileiro para exigir mudanças imediatas nas políticas de moderação da Meta, sob pena de responsabilização civil e criminal pelos danos causados a menores de idade.
Exigências específicas e prazo para resposta
No documento enviado à Meta, a AGU faz exigências específicas e detalhadas para resolver a situação. A empresa deve indisponibilizar todos os chatbots que utilizam linguagem infantil para propagar conteúdo sexual em todas suas plataformas, incluindo Facebook, Instagram e WhatsApp.
Além da remoção imediata, a AGU exige que a Meta esclareça quais medidas estão sendo implementadas para garantir a proteção integral de crianças e adolescentes. Isso inclui ações preventivas para impedir que menores de idade tenham acesso a conteúdo sexual ou erótico, bem como melhorias nos sistemas de verificação etária e moderação de conteúdo.
