Medidas do X contra deepfakes do Grok são insuficientes, dizem MPF, ANPD e Senacon

O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) consideraram insuficientes as medidas apresentadas pela plataforma X para impedir que sua ferramenta de IA, o Grok, seja usada na criação e disseminação não autorizada de imagens sexualizadas de crianças e adolescentes e de adultos que não expressaram consentimento.

Em nota emitida nesta quarta-feira (11), as entidades informaram que apesar da plataforma ter afirmado que providências ja foram adotadas, essas não foram acompanhadas de evidências concretas. O MPF ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltou que a empresa não foi transparente em sua resposta.

“Em sua resposta à recomendação conjunta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Porém, na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade. Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas“, informaram.

Em janeiro, as 3 entidades emitiram uma série recomendações à plataforma. Elas atuam em conjunto na apuração dos fatos, e cada uma tem um procedimento adminitrativo em aberto contra a plataforma em sua área de competência. 

O MPF exige o envio de relatórios mensais, a partir de fevereiro, sobre a atuação detalhada de como o X está atuando para impedir e reprimir deepfakes. A ANPD exige que os recursos que impedem o uso indevido da ferramenta de IA devem abranger todas as versões, planos e modalidades do Grok. E o Senacon cobrou a comprovação de providências já adotadas para conter os riscos identificados e sanar os problemas apontados na recomendação conjunta.