O governo emitiu nesta terça-feira (20) uma recomendação para que a plataforma X (antigo Twitter) suspenda imediatamente as contas de usuários que usaram o sistema de inteligência artificial, o Grok, para gerar imagens sexualizadas de mulheres, adolescentes e crianças.
Em uma nota técnica conjunta, a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, alertaram para o risco de multas severas e restrições às atividades da plataforma no país, caso as recomendações não sejam adotadas.
As medidas ocorrem após denúncias de que a ferramenta permite a criação de deepfakes sexualizadas a partir de comandos simples dos usuários. As instituições definiram o prazo de 27 de janeiro de 2026 para que a empresa informe sobre a adoção das medidas urgentes.
VEJA TAMBÉM:
O descumprimento das recomendações poderá acarretar sanções administrativas e judiciais previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na própria LGPD. O artigo 12, do Marco Civil da Internet, prevê uma série de sanções para plataformas que não cumprem a lei brasileira, como:
- Advertência, com indicação de prazo para adoção de medidas corretivas;
- Multa de até 10% do faturamento do grupo econômico no Brasil no seu último exercício, excluídos os tributos, considerados a condição econômica do infrator e o princípio da proporcionalidade entre a gravidade da falta e a intensidade da sanção;
- Suspensão temporária das atividades;
- Proibição de exercício das atividades no país.
Segundo a ANPD, testes realizados pela Coordenação de Fiscalização comprovaram que o Grok é capaz de manipular fotografias reais para inserir pessoas em contextos íntimos e erotizados, alterando roupas e cenários originais.
As entidades recomendam que a rede social de Elon Musk crie, no prazo máximo de 30 dias, procedimentos “claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários”.
As autoridades apontam que essa funcionalidade viola princípios fundamentais da Lei Geral de Proteção de Dados (LGPD), como a boa-fé, a finalidade e o melhor interesse da criança e do adolescente.
Além disso, a ANP, o MPF e a Senacon apontam que a conduta da plataforma diante do uso do Grok é contraditória, pois o sistema permite práticas que as próprias políticas internas do X proíbem, como a nudez não consensual e a exploração sexual infantil. O documento estabelece recomenda que a X Brasil Internet Ltda. adote as seguintes medidas:
- Implementação de barreiras técnicas para impedir que o Grok gere imagens, vídeos ou áudios sexualizados de menores de idade ou de adultos sem autorização;
- Identificar e excluir conteúdos dessa natureza que ainda circulam na plataforma no prazo de 30 dias;
- Suspensão imediata e permanente de contas que utilizem a IA para criar ou compartilhar exclusivamente deepfakes não consensuais;
- Elaboração de um Relatório de Impacto à Proteção de Dados Pessoais (RIPD) específico sobre o tratamento de dados pela IA e a criação de mecanismos acessíveis para denúncias de titulares afetados.
O governo destacou que órgãos reguladores do Reino Unido e da Itália já abriram investigações semelhantes, enquanto países como Malásia e Indonésia chegaram a bloquear o acesso ao Grok devido à geração de conteúdo pornográfico de forma “sintética”.
Matéria: Gazeta do Povo
