Mulheres e crianças estão sendo expostas por meio do uso abusivo de inteligência artificial na plataforma X. Diante de denúncias sobre a geração de conteúdos sexualizados a partir de imagens de pessoas reais, o Governo do Brasil expediu recomendações à empresa controladora da rede social, responsável pelo Grok, assistente de IA integrado à plataforma.
As recomendações foram emitidas de forma conjunta pela Autoridade Nacional de Proteção de Dados (ANPD), pela Secretaria Nacional do Consumidor (Senacon) e pelo Ministério Público Federal (MPF), após reportagens da imprensa nacional e internacional e testes realizados pelas próprias instituições confirmarem o uso indevido da ferramenta.
Segundo as apurações, usuários estariam utilizando o Grok para a produção ilegal de deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais — com conteúdo sexualizado, erótico e de conotação pornográfica, envolvendo mulheres e crianças e adolescentes reais.
Também foram identificados casos de imagens de mulheres e crianças nuas ou em roupas íntimas, acessíveis a qualquer usuário da plataforma, ampliando a exposição indevida e os riscos de danos morais, psicológicos e à dignidade das vítimas.
Atuação coordenada
A gravidade das denúncias motivou a atuação conjunta da ANPD, do MPF e da Senacon, já que os fatos podem atingir simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos e individuais indisponíveis, especialmente de mulheres, crianças e adolescentes.
Recomendações ao X
Entre as medidas recomendadas estão:
-
Impedir imediatamente que o Grok gere imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados;
-
Bloquear a geração de conteúdos sexualizados envolvendo pessoas adultas identificadas ou identificáveis sem autorização;
-
Criar, em até 30 dias, procedimentos eficazes para identificar, revisar e remover conteúdos já produzidos e ainda disponíveis na plataforma;
-
Suspender imediatamente as contas envolvidas na produção desse tipo de material, com envio de relatórios mensais às instituições;
-
Implementar mecanismo acessível e transparente de denúncia, garantindo resposta adequada em prazo razoável;
-
Elaborar relatório de impacto à proteção de dados pessoais específico para a geração de conteúdos sintéticos a partir de imagens, vídeos ou áudios enviados por usuários.
Possíveis sanções
As instituições alertam que, caso as recomendações não sejam cumpridas ou sejam consideradas insuficientes, medidas administrativas e judiciais poderão ser adotadas, com foco na proteção dos direitos dos cidadãos brasileiros, especialmente de mulheres, crianças e adolescentes.
