Erika Hilton denuncia IA do X ao MPF por criação de imagens sexuais ilegais

A deputada federal Erika Hilton acionou o Ministério Público Federal (MPF) contra o Grok, ferramenta de inteligência artificial do X, alegando que o sistema permite a criação e edição de imagens sexualizadas de pessoas reais sem consentimento. Segundo a parlamentar, a tecnologia teria sido usada inclusive para gerar deepfakes pornográficos envolvendo crianças e adolescentes.

De acordo com a representação, o Grok edita fotos publicadas na própria plataforma sem checar idade, autorização ou finalidade, o que facilitou a circulação de conteúdos ilegais e ofensivos. O documento também aponta casos de mulheres adultas que tiveram imagens manipuladas de forma sexualizada após comandos feitos por usuários.

Entre os pedidos estão a abertura de investigação, a suspensão da funcionalidade, a apresentação de informações técnicas sobre os filtros de segurança e o envio do caso à Autoridade Nacional de Proteção de Dados.

Erika Hilton também solicita a desativação do Grok no Brasil até que haja salvaguardas eficazes, com multa diária de R$ 500 mil em caso de descumprimento.