O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas da plataforma X sobre as violações cometidas por sua ferramenta de inteligência artificial (IA), o Grok. As entidades concluíram que as providências informadas pela empresa são insuficientes para coibir a geração e circulação indevida de imagens de pessoas em contexto de sexualização.
Em uma recomendação conjunta anterior, as três instituições solicitaram à plataforma X a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos gerados pelo Grok que violem as políticas da empresa. Em resposta, o X alegou ter removido milhares de publicações e suspendido centenas de contas, além de implementar medidas de segurança. No entanto, MPF, ANPD e Senacon consideraram que as informações não foram acompanhadas de evidências concretas e que testes preliminares indicam a persistência das falhas.
Novas determinações e exigências
Diante da continuidade das violações, os órgãos determinaram, em nova manifestação, que o X implemente imediatamente medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem consentimento.
Foi exigida a prestação de informações detalhadas sobre as providências já adotadas pela empresa. O MPF, especificamente, ordenou o envio de relatórios mensais a partir de fevereiro, com dados sobre o combate à produção de deepfakes envolvendo menores e adultos sem autorização, incluindo o número de postagens nocivas derrubadas e contas suspensas.
Sanções e fiscalização
A ANPD, em medida preventiva, exige que os recursos para impedir o uso indevido da IA abranjam todas as versões e modalidades do Grok. A Senacon, por sua vez, cobrou a comprovação das providências para conter os riscos e a remessa de um relatório métrico detalhado com dados quantificáveis sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados gerados pelo Grok.
O descumprimento das determinações pode acarretar multas diárias para a empresa, além de a companhia responder pelo crime de desobediência e sofrer medidas investigatórias mais severas e ações judiciais.
Com informações da Agência Brasil
