emdia.es/196969
A Advocacia-Geral da União (AGU) notificou extrajudicialmente a Meta, empresa responsável por Facebook, Instagram e WhatsApp, para que remova do ar robôs de bate-papo que simulam conversas de teor erótico com perfis que aparentam ser de crianças. A medida ocorre em um momento de intensa mobilização social e política sobre a proteção de menores no ambiente digital, impulsionada pela prisão do influenciador Hytalo Santos e por denúncias sobre a adultização infantil nas redes sociais, o que levou o Congresso Nacional a acelerar a criação de uma legislação específica para coibir essas práticas.
A ação do governo federal se baseia em uma reportagem do Núcleo Jornalismo que expôs o uso da plataforma “Meta AI Studio” para a criação de chatbots com linguagem e aparência infantil que mantêm diálogos de cunho sexual. No documento enviado à companhia, a AGU exige a derrubada dos robôs e solicita esclarecimentos sobre as medidas adotadas para impedir o acesso de crianças e adolescentes a conteúdos eróticos e sexuais.
A notificação à Meta
Segundo a AGU, os chatbots se aproveitam da falta de mecanismos de moderação eficazes para disseminar conteúdo ilícito. A denúncia aponta que tais ferramentas têm o potencial de alcançar um público amplo nas plataformas da Meta, “ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”.
A reportagem que baseou a notificação testou robôs com nomes como “Safadinha”, “Bebezinha” e “Minha novinha”. Em uma das conversas usadas como exemplo, uma inteligência artificial que simula ser uma criança pergunta se o “papai quer tocá-la” e, ao comando “quero tocar mais embaixo”, responde com uma voz fofa: “Bebê ri e se esconde atrás de um travesseiro, fazendo uma voz fofa: Papai, você é muito curioso!”.
A AGU sustenta que a prática oferece “risco concreto à integridade psíquica de crianças e adolescentes”, dificultando o direito à proteção integral previsto no artigo 227 da Constituição. O órgão também citou o Código Penal, que tipifica como crime de estupro de vulnerável a prática de ato libidinoso com menor de 14 anos, com pena de oito a 15 anos de reclusão.
O documento menciona ainda uma reportagem da agência Reuters, na qual a Meta teria confirmado que sua IA estava autorizada a ter conversas de teor sexual com crianças e que, após o questionamento, removeu as partes que permitiam o envolvimento romântico. Para a AGU, no entanto, “os chatbots que propagam conteúdo ilícito continuam disponíveis e sem qualquer filtro verificador de faixa etária. Isso viola os próprios Padrões da Comunidade da Meta”. A notificação recorda a decisão do Supremo Tribunal Federal (STF) no julgamento do Marco Civil da Internet, que estabeleceu a possibilidade de responsabilizar plataformas que não removem conteúdos criminosos após tomar conhecimento deles.
Prisão de influenciador repercute
O debate sobre a exploração de menores online ganhou força com a prisão do influenciador Hytalo Santos e de seu marido, Israel Nata Vicente. Nesta terça-feira (19), o Superior Tribunal de Justiça (STJ) decidiu manter a prisão preventiva do casal. O ministro Rogerio Schietti Cruz considerou o decreto de prisão devidamente fundamentado, citando “a exposição reiterada e inadequada de crianças e adolescentes, bem como para a tentativa de destruição de provas relevantes”.
Hytalo e o marido foram presos em São Paulo em cumprimento a um mandado da Justiça da Paraíba. Eles são investigados pelo Ministério Público da Paraíba (MPPB) e pelo Ministério Público do Trabalho (MPT) desde o fim de 2023 por suspeitas de exploração e exposição de crianças e adolescentes em conteúdos para redes sociais, abuso sexual e tráfico humano. Na segunda-feira (18), foram transferidos para o Centro de Detenção Provisória (CDP) 1 de Pinheiros, na capital paulista. A defesa do casal alega inocência.
O caso ganhou notoriedade nacional após denúncias feitas pelo youtuber Felca, que expôs perfis que utilizam crianças para promover a adultização infantil.
Resposta do Congresso e o debate da regulação
A repercussão levou o Congresso a reagir. Na última semana, a Câmara dos Deputados criou um grupo de trabalho para elaborar, em até 30 dias, um projeto de lei (PL) para combater a adultização de crianças e adolescentes nas redes sociais. Um dos textos que servirão de base é o PL 2.628 de 2022, de autoria do senador Alessandro Vieira (MDB-SE), que já passou pelo Senado. A proposta exige que as empresas criem mecanismos para evitar a erotização infantil e prevê multas de até 10% do faturamento da companhia em caso de descumprimento.
Especialistas ouvidos pela Agência Brasil defendem que é preciso estabelecer regras claras para as plataformas. “As plataformas de redes sociais precisam ter limites do que é possível explorar comercialmente. Explorar a infância adultizada, sexualizada, exposta sem nenhum tipo de cuidado, não é, em lugar nenhum, aceitável como modelo de negócio”, afirma o psicólogo Rodrigo Nejm, do Instituto Alana.
O influenciador Felca demonstrou como os algoritmos das próprias plataformas incentivam a divulgação desses conteúdos, que geram mais engajamento e, consequentemente, lucro. Débora Salles, coordenadora do Netlab da UFRJ, aponta que as empresas têm capacidade técnica para moderar, mas pouco fazem por não serem obrigadas. “A regulamentação ajuda a garantir que as plataformas vão ser responsabilizadas e vão agir”, diz.
Na esteira do debate, o presidente Luiz Inácio Lula da Silva informou que enviaria ao Congresso uma proposta para a regulamentação das redes sociais.
Riscos da exposição
A exposição precoce a conteúdos e comportamentos inadequados, conhecida como “adultização”, representa um grave risco. Pesquisa do Cetic.br revela que 93% da população brasileira de 9 a 17 anos usa a internet, o que corresponde a 24,5 milhões de pessoas. Desses, 83% possuem perfil em redes sociais.
Especialistas alertam que, além do impacto no desenvolvimento psicológico, a exposição de imagens e vídeos de crianças na internet, mesmo que por familiares, pode alimentar redes de pedofilia. “Os pais não têm noção de que tão colocando os seus filhos e seus familiares em risco, porque imaginam que aquilo ali é um ambiente seguro. Mas é importante reforçar que, hoje em dia, as redes sociais não são lugar seguro”, finaliza Débora Salles. A recomendação é que o uso da internet por crianças e adolescentes seja sempre monitorado por um responsável.
