emdia.es/204334
A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) expediram, na última terça-feira (20), uma recomendação conjunta à empresa controladora da plataforma X (antigo Twitter) para impedir o uso indevido da ferramenta de inteligência artificial Grok na criação de conteúdos sexualizados. A ação foi motivada por uma representação da deputada federal Erika Hilton (PSOL-SP), que denunciou a facilidade com que o sistema gerava deepfakes e pornografia sem consentimento a partir de fotos de usuários.
O documento exige que a plataforma adote, de forma imediata, medidas técnicas e administrativas para bloquear a geração de imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como de adultos identificáveis sem autorização prévia. As restrições devem abranger todas as versões e modalidades da ferramenta de IA.
A origem da denúncia
A representação que culminou na medida administrativa foi protocolada pela parlamentar em janeiro. Segundo a denúncia, o Grok permitia a edição automatizada de imagens de terceiros, inclusive utilizando fotografias publicadas por outros usuários na própria rede social, sem mecanismos eficazes de verificação de consentimento, idade ou finalidade.
A deputada Erika Hilton relatou ao ICL Notícias que a responsabilização é crucial diante da gravidade do cenário. “É inconcebível que uma plataforma permita que sua ferramenta de IA seja utilizada para criar deepfakes, pornografia infantil e pornografia sem consentimento, e não seja responsabilizada”, afirmou.
Hilton também criticou a lentidão do Poder Legislativo na regulação do setor. “A regulação das plataformas é urgente e, enquanto o Congresso se nega a enfrentar as big techs e seus donos bilionários, vou buscando caminhos alternativos como acionar o sistema de justiça e a agência reguladora. Fico feliz que a ANPD, o MPF e a Senacon se mobilizaram”, completou a deputada.
Testes confirmaram manipulação de imagens
Para embasar a decisão, a ANPD realizou testes técnicos, cujos resultados constam na Nota Técnica nº 1/2026 da Coordenação-Geral de Fiscalização. O órgão confirmou a veracidade das denúncias: o Grok foi capaz de manipular fotografias reais, alterando vestimentas e inserindo as pessoas retratadas em contextos íntimos e sexuais sem qualquer consentimento válido.
A conclusão técnica apontou que as salvaguardas anunciadas pela empresa eram insuficientes para evitar danos aos direitos de privacidade, proteção de dados e dignidade humana. O sistema permitia que os conteúdos fossem disponibilizados abertamente, ampliando o alcance e os danos às vítimas.
Determinações e prazos
Além do bloqueio imediato na geração de novos conteúdos ilícitos, a recomendação conjunta estipula outras obrigações à plataforma X:
- Remoção de conteúdo: Prazo de até 30 dias para criar procedimentos eficazes de identificação, revisão e exclusão de materiais desse tipo já existentes na rede;
- Suspensão de contas: Suspensão imediata e permanente de perfis envolvidos na produção ou compartilhamento recorrente de deepfakes sexuais;
- Canal de denúncia: Implementação de mecanismos transparentes e acessíveis para que os usuários possam denunciar o uso abusivo de suas imagens;
- Relatórios: Apresentação mensal de documentos que comprovem o cumprimento das medidas e elaboração de um Relatório de Impacto à Proteção de Dados específico para conteúdo sintético.
Plataforma como coautora
Um ponto central da argumentação dos órgãos federais diz respeito à responsabilidade da plataforma. O documento destaca que, no caso do Grok, as deepfakes não são produzidas exclusivamente por terceiros, mas sim através da interação com a ferramenta fornecida pela empresa. Isso torna o X “coautor de tais conteúdos, e não seu mero intermediador”, afastando a isenção de responsabilidade prevista no artigo 19 do Marco Civil da Internet para simples hospedagem de conteúdo.
As instituições citaram ainda o recente entendimento do Supremo Tribunal Federal (STF), que declarou a inconstitucionalidade parcial do referido artigo do Marco Civil, estabelecendo que provedores têm o dever de cuidado para evitar a circulação de crimes graves, especialmente os praticados contra mulheres.
O texto da recomendação ressalta também que a própria política de autorregulação do X proíbe a manipulação e disseminação de mídia sexual não consensual, o que torna “insustentável” a disponibilização de uma IA sem filtros rigorosos.
Caso as recomendações não sejam acatadas ou sejam consideradas insuficientes, ANPD, MPF e Senacon informaram que poderão adotar novas medidas administrativas e judiciais. Erika Hilton garantiu que seguirá acompanhando o caso: “Agora vou continuar monitorando se a Grok vai cumprir a determinação e ir até o fim para garantir um ambiente seguro para as pessoas na internet”.
