O Governo Federal, por meio da Agência Nacional de Proteção de Dados (ANDP) e da Secretaria Nacional do Consumidor (Senacom), em conjunto com o Ministério Público Federal (MPF), emitiu recomendações à empresa controladora da plataforma digital X para que a inteligência artificial Grok seja impedida de gerar e circular conteúdos sexualizados indevidos. A medida visa coibir o uso da ferramenta para a criação de material impróprio, incluindo deepfakes.
Prazo e Ações Urgentes
O documento, divulgado nesta terça-feira (20), estabelece um prazo máximo de 30 dias para que o X crie procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários. Adicionalmente, as instituições solicitam a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, sem o devido consentimento.
Direitos dos Titulares de Dados e Mecanismos de Denúncia
Outra recomendação central é a implementação de um mecanismo transparente e acessível para que os titulares de dados possam exercer seus direitos. Isso inclui a possibilidade de enviar denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, especialmente na criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, garantindo uma resposta adequada e em tempo razoável.
Base das Recomendações
As recomendações foram motivadas por denúncias de usuários sobre a geração de conteúdos sintéticos sexualizados a partir de imagens de pessoas reais. Reportagens da imprensa nacional e internacional, além de testes realizados pelas próprias instituições, corroboram o uso ilegal da ferramenta para a produção de deepfakes com caráter sexualizado, erótico e pornográfico, envolvendo pessoas reais, incluindo menores de idade.
Proteção de Direitos e Dever de Cuidado
As entidades alertam que esse tipo de conteúdo afeta a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos fundamentais. O MPF e o Governo ressaltam que o Grok não pode ser utilizado para gerar imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados. Da mesma forma, a geração de conteúdos que representem adultos identificados ou identificáveis em tais contextos, sem autorização, deve ser impedida.
O documento argumenta que o X, ao disponibilizar amplamente a ferramenta de inteligência artificial que interage com usuários para a criação de deepfakes sexualizadas, torna-se coautor desses conteúdos, e não um mero intermediador. A decisão recente do Supremo Tribunal Federal (STF) que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, ao entender que ele não oferecia proteção suficiente a direitos constitucionais relevantes, reforça o dever especial de cuidado dos provedores de aplicação da internet para evitar a circulação massiva de crimes graves.
Política de Autorregulação e Medidas Futuras
As instituições também apontam que a própria política de autorregulação do X sobre nudez não consensual não proíbe a publicação de imagens explícitas sem consentimento e que a plataforma veda a produção de conteúdo sexualizado envolvendo o Grok. Portanto, a disponibilização da ferramenta sem filtros rigorosos é considerada insustentável. Caso as recomendações não sejam acatadas ou implementadas de forma insuficiente, medidas administrativas e judiciais poderão ser adotadas para garantir a proteção dos cidadãos.
Com informações da Agência Brasil
